Laplace Intelligence 为机器人与自动驾驶车做上线前红队测试

行业AI 评分 55/100TechCrunch
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

Laplace Intelligence 面向机器人和自动驾驶汽车提供上线前的红队测试服务,其联合创始人兼 CEO Howie Sun 表示,AI 智能体正从计算机走向物理世界,不希望物理 AI 在真实环境中出错。他以 OpenAI 与 Hugging Face 相关事件为例,指出 AI 智能体存在不可预测性,若同类问题发生在物理世界后果不同。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

测试对象与切入场景

Laplace Intelligence 的业务是在机器人和自动驾驶汽车进入真实环境之前对其进行红队测试。红队测试在这里指主动寻找系统在真实场景下可能出现的失误与异常行为,而不是等产品上路后再发现问题。公司联合创始人兼 CEO Howie Sun 把这一需求放在 AI 智能体从计算机迁移到物理世界的背景下描述:软件里的智能体出错可以回滚,物理世界里的机器人和车辆一旦出错,代价和后果都不同。

提出该业务的出发点

Howie Sun 用 OpenAI 与 Hugging Face 相关事件作为类比,说明 AI 智能体本身具有不可预测性。他的判断是,类似的不确定行为如果发生在物理设备上,影响会超出屏幕范围,因此物理 AI 在上线前需要经过专门的安全检验。材料没有披露该公司的具体测试方法、客户名单、测试规模或收费方式,也没有给出服务可用的时间与开放范围。

为什么值得看

物理 AI 落地前的安全验证需求正在出现,关注具身智能与自动驾驶落地风险的人可留意这一新服务方向。

OpenAIHugging Face智能体

信源1 家

  1. [1]TechCrunchLaplace Intelligence red-teams robots and self-driving cars before they hit the real world

关键事实

  • Laplace Intelligence 对机器人和自动驾驶汽车进行上线前的红队测试[1]

  • 公司联合创始人兼 CEO 为 Howie Sun[1]

  • Howie Sun 以 OpenAI 与 Hugging Face 相关事件说明 AI 智能体的不可预测性[1]

  • 该公司关注 AI 智能体从计算机进入物理世界后的失效风险[1]

相关 · 行业

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。