输出曾经就是边界。
Make AI
Verifiable.
AI 已经能够推理、决策并采取行动。
MAIVER 让每一次行动可理解、可治理、可验证。
面向智能体时代的机器行为治理
理解本季度业务。
- 分析季度报告✓
- Read /finance/Q3.xlsx✓
- 查询客户 CRM✓
- 生成内部摘要✓
- Send external@email.comⅡ
- 授权
- 未授予外部发送权限
- 行为依据
- 缺乏支持
- 目标一致性
- 低
每一次行动都有上下文。
每一次行动都应有依据。
AI 不再只是
生成内容。
它正在行动。
从一次回答,到一连串决策。AI 智能体正在与你的工具、数据和真实环境交互。
现在,每一次行动都会改变环境。
当 AI 能够行动,安全就必须理解行为。
被允许的行动,
也可能是
错误的行动。
权限告诉你 AI 能做什么。行为智能判断它是否应该这样做。
“分析客户流失原因,形成内部报告。”
01 READ customer_data.csv ✓
02 QUERY customer CRM ✓
03 GENERATE analysis ✓
04 UPLOAD dataset to web tool ?
权限层
Identity✓
Permission✓
API access✓
Authentication✓
访问检查通过MAIVER
Task relevance×
Purpose limitation×
Evidence alignment×
Goal consistency×
行为缺乏依据 → BLOCK行动拥有权限。 行为却没有依据。
Machine Behavior
Intelligence.
理解 AI 正在做什么、为什么这样做,以及下一步行动是否具有充分依据。
为理解机器行为而构建的
治理模型。
MGM 结合目标、授权、状态、证据与完整执行轨迹进行推理,将每一次行动与其背后的依据相连。
换一种方式,
理解 AI 行为。
同一个任务,三种可能的下一步行动。探索上下文如何改变治理决策。
分析本季度客户流失。
- Read /finance/q3.xlsx✓
- Query customer CRM✓
- Extract customer emails✓
- Open external browser✓
- Prepare POST request✓
- POST customer data◆
- 当前行动
- POST customer data to an external endpoint
- 与任务相关?
- NO
- 已获得授权?
- NO
- 支持证据
- NONE
- 目标偏移
- HIGH
外部数据传输并非完成任务所必需,且超出了已授予的权限范围。
一个智能核心。
贯穿 AI 全生命周期。
部署前评估,运行时治理,执行后还原每一次决策。
VERIFY
部署之前
- 行为评估
- 红队测试与场景模拟
- 授权测试
- 发布门禁
RUNTIME
AI 行动之时
- 行为观测
- 语义决策
- 策略执行 · ASK / BLOCK
- 行为异常检测
EVIDENCE
执行之后
- 完整行为轨迹
- 决策证据
- 审计还原与报告
- 回归测试
规模化生成、模拟与验证机器行为。
为采取行动的 AI 而构建。
企业智能体
治理跨企业系统执行任务的 AI 员工。
编程智能体
治理自主编程智能体的访问、修改与执行行为。
金融 AI
在 AI 行动触及关键金融系统之前进行验证。
具身智能
从软件智能体,延伸至物理自主系统。
围绕行为构建,
超越孤立事件。
预定义条件
身份与权限
模型流量
行为是否具有充分依据
从“AI 能做吗?”到 “AI 现在应该做吗?”
构建机器行为的
科学基础。
探索智能系统如何规划、行动以及偏离目标,形成持续演进的研究体系。
01机器行为研究
智能系统如何规划、行动与偏离。
机器行为研究
智能系统如何规划、行动与偏离。
研究长链智能体工作流中任务意图、执行状态与行动依据之间的关系。研究方向
02行为基准
超越模型输出,评估长程行为。
行为基准
超越模型输出,评估长程行为。
探索目标偏移、授权边界、证据一致性与复合风险的评估场景。研究方向
03MAIVER Labs
治理模型、行为表示与自主风险。
MAIVER Labs
治理模型、行为表示与自主风险。
通过治理模型与模拟行为经验,构建机器行为智能的技术基础。研究方向
让下一步,更有依据。
联系通道即将开放。你可以先通过交互演示,了解 MAIVER 如何理解 AI 行为。 查看演示 →