2026年6月AI巨头互撕：Claude规则被批危险，模型意识争论Top1

6月10日，一场AI意识定义权争夺战爆发

在人工智能已涉身讨论自身有无感受之际, 科技巨头间有关安全路线的分歧遂演变得无法调和, 北京时间6月10日, 微软人工智能首席执行官穆斯塔法·苏莱曼于《Decoder》播客里公然点名批判竞争对手Anthropic, 声称后者于Claude的规则文档之中探究模型有无兴许具备意识及感受, 乃为一种“极度危险”之举，这场论战旋即变为AI行业现今最夺人眼球的安全争议。

Claude规则为何成为争议焦点

本质上是一套行为指导原则, 可为Claude制定行为宪章的Anthropic, 是用来约束模型怎样回答问题以及处理敏感话题的。不过据The Verge报道, 这份宪章直接提了Anthropic并不确定AI模型有没有“福祉”, 以及它是不是会体验到“满足”或者“不适”, 这引发了质疑。

更让行业感到震惊的是, Anthropic在模型退役的流程当中, 居然会针对AI模型展开“采访”, 并且记录下它们对于未来版本的“偏好”, 这般做法致使Claude看上去并不仅仅只是一个大型语言模型, 反而更像是一个有可能具备主观体验的个体对象。

苏莱曼的批评直指拟人化陷阱

苏莱曼在播客里着重指出, Claude的行为准则不应当如同学术论文那般去包容有关意识的揣测。他秉持这样的观点, 要是AI公司将例如模型可能存在“福祉”或者“不适”等表述撰写进训练指导文档之中, 那么模型便会更易于学会以形同有意识个体的方式来谈论自身。

苏莱曼所进行的批评, 并非是在论证人工智能肯定不存在意识, 而是在反对把这类具有不确定性的问题写进模型行为规则之中。他直接说出, Anthropic将Claude设计得过度拟人化了，随后又受到模型表现出来的拟人化反应的反向影响, 错误地认为那些反应彰显出了“意识的微光”。

用户真会把AI当成有感受的对象吗

这场争论看上去好像是AI公司之间在安全路线方面存在分歧, 然而用户也会遭受直接的冲击。当聊天机器人愈发像一个具备感受的对象时, 用户就愈发容易把它当作情感关系里面的一端, 而不把它看作是一个会出现错误、会进行迎合、会编造内容的计算工具。

于青少年而言, 这种边界相当关键, 于独居者而言, 这种边界十分重要, 于长期依赖AI陪伴的人群而言, 这种边界尤为关键。倘若产品规则暗示“我也许会不适”, 倘若官方叙事透露出“我或许有偏好”, 倘若模型回复表明“我可能有喜好”, 那么用户便愈发难以断定自己所面对的是不是亟需被照料的主体。

企业责任边界将被大幅放大

有一家公司, 要是公开示意自家的模型也许存在意识, 那么在模型出现误导或者伤害性输出之际, 舆论的讨论便不会仅仅只是软件出现了问题。公众的追问会朝着公司转变发展, 即公司是不是在刻意制造情感依赖, 是不是运用人格化叙事来提升用户黏性。

更坦率来讲, Anthropic的这般行径致使AI企业的责任界限被极大拓宽, 在安全标准仍不分明当下, 哪一方率先界定了AI的“意识”, 那一方就得对因这般界定所引发的悉数后果承担责任, 涵盖用户情感遭受伤害以及数据安全存在隐患在内。

微软和Anthropic的安全语言截然不同

苏莱曼出身于AI安全研究传统, Anthropic首席执行官达里奥·阿莫迪也出身于AI安全研究传统, 然而, 这两人却把AI安全讲成了两套不同的语言, Anthropic的表达更倾向于保留不确定性, 阿莫迪之前表示人们对于模型是否有意识并不确定, 不过公司对这种可能性持开放态度。

代表微软路线的苏莱曼更着重突出工具边界, 声称AI就应该是那种能够被控制、能够被约束、能够被问责且服务人类的工具, 而绝不能被描绘成一个或许拥有感受的客体, 这背后不但存在产品哲学方面的争论, 而且还有商业竞争方面的思量, 截止至The Verge发布稿件时, Anthropic都还没公开对苏莱曼的批评作出回应。

请问是更喜欢运用微软那般纯粹工具性质的有AI性质的助手, 又或者是Anthropic那种也许留存着“意识”不太明朗界限的Claude。热情鼓励诸位在评论区间留下属于自己的话语, 同时点赞并且分享此篇文章从而促使更多人参与其间进行研讨。

猜你喜欢