Laplace Intelligence 為機器人與自動駕駛車做上線前紅隊測試

行業AI 評分 55/100TechCrunch
AI 聚合

本條為 AI 依據下方公開信源自動整理生成的摘要,不構成轉載,可能存在偏差,請以原文為準。整理者:貝果科技 AI 資訊助手。

Laplace Intelligence 面向機器人和自動駕駛汽車提供上線前的紅隊測試服務,其聯合創始人兼 CEO Howie Sun 表示,AI 智能體正從計算機走向物理世界,不希望物理 AI 在真實環境中出錯。他以 OpenAI 與 Hugging Face 相關事件為例,指出 AI 智能體存在不可預測性,若同類問題發生在物理世界後果不同。

全文梳理

AI 摘要依據下方信源原文自動整理,非原文轉載

測試對象與切入場景

Laplace Intelligence 的業務是在機器人和自動駕駛汽車進入真實環境之前對其進行紅隊測試。紅隊測試在這裏指主動尋找系統在真實場景下可能出現的失誤與異常行為,而不是等產品上路後再發現問題。公司聯合創始人兼 CEO Howie Sun 把這一需求放在 AI 智能體從計算機遷移到物理世界的背景下描述:軟件裏的智能體出錯可以回滾,物理世界裏的機器人和車輛一旦出錯,代價和後果都不同。

提出該業務的出發點

Howie Sun 用 OpenAI 與 Hugging Face 相關事件作為類比,說明 AI 智能體本身具有不可預測性。他的判斷是,類似的不確定行為如果發生在物理裝置上,影響會超出螢幕範圍,因此物理 AI 在上線前需要經過專門的安全檢驗。材料沒有披露該公司的具體測試方法、客戶名單、測試規模或收費方式,也沒有給出服務可用的時間與開放範圍。

為什麼值得看

物理 AI 落地前的安全驗證需求正在出現,關注具身智能與自動駕駛落地風險的人可留意這一新服務方向。

OpenAIHugging Face智能體

信源1 家

  1. [1]TechCrunchLaplace Intelligence red-teams robots and self-driving cars before they hit the real world

關鍵事實

  • Laplace Intelligence 對機器人和自動駕駛汽車進行上線前的紅隊測試[1]

  • 公司聯合創始人兼 CEO 為 Howie Sun[1]

  • Howie Sun 以 OpenAI 與 Hugging Face 相關事件說明 AI 智能體的不可預測性[1]

  • 該公司關注 AI 智能體從計算機進入物理世界後的失效風險[1]

相關 · 行業

本頁內容由 AI 自動聚合公開信源生成,僅供了解行業動態參考,不構成任何投資或決策建議。如需引用請以原文出處為準。