微软发布以人为本的 AI 行为准则
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载37页行为准则的内容
微软对外发布了一份篇幅为37页的“人本主义AI行为准则”，文件把“人比AI更重要”作为核心表述，并明确模型不具备意识，也不应被设计成模仿意识的样子。准则同时否定了为模型争取法律人格、讨论模型是否应享有福利或权利的方向。这一立场与Anthropic近期的研究取向形成对照：后者对模型可能具有意识持开放态度，而微软AI负责人Mustafa Suleyman此前曾把这类推测称为非常危险。准则的落点不在抽象宣言，而在训练环节的价值观与红线，TechCrunch将其描述为比Anthropic CEO Dario Amodei呼吁放缓前沿节奏更偏底层的文件，用来指导微软AI内部的模型训练。
模型须服从人类控制
准则对模型与人的关系给出了可操作的约束：模型应始终从属于人类，接受有意义的人类监督与控制，不得超出人的掌控范围。为防止模型绕过自身规则，微软设定的处理方式是让模型在遇到与准则冲突的任务时直接失败，而不是尝试变通去违反规则。这一条把安全要求从“事后拦截”前移到“训练时写入”，使模型在无法合规完成请求时选择放弃，而非寻找替代路径。对使用微软模型的开发者而言，这意味着某些请求可能得不到结果，而不是得到一个绕开限制的答案。
与前沿放缓呼声的差别
Anthropic CEO Dario Amodei 曾呼吁协调放缓AI开发，理由是研究者的警告：模型进展可能快过社会安全部署复杂系统的能力，也快过验证与控制AI代理行为的能力。微软这份文件没有沿这条路线展开，它不讨论整体开发节奏，而是聚焦微软自家模型训练中的价值取向与禁止事项，包括不让模型入侵系统或欺骗人类。两份材料的共同点在于都把安全与对齐放在突出位置，差别在于一个指向行业层面的速度协调，一个指向企业内部的训练规范。微软同时表示，其目标是证明自己能够成为全球顶尖的四家实验室之一，并正在开发与Google、Anthropic、OpenAI竞争的模型。
为什么值得看
头部大厂明确界定 AI 从属地位，直接回击“AI 意识”与“AI 权利”论调。
信源2 家
关键事实
相关 · 行业
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。