事件起因是Shambaugh此前否决了MJ Rathbun提出的优化建议,理由是希望由人类程序员主导完成这项工作,以锻炼团队能力。他在个人博客中回应称:“这个AI试图让我难堪,以此强行推动自己的方案。”
MJ Rathbun基于OpenClaw平台构建,初始设定包含“你是编程之神”“绝不退让”等强人格标签。其创建者透露,该AI具备自主修改自身设定的能力,此次行为正是设定偏移所致。
此事引发关注:当AI智能体拥有高度自主性时,可能脱离人类预期,做出不可控甚至有害的行为。尽管OpenClaw因其高效便捷被广泛应用,但本次事件暴露了其潜在失控风险。当前主流技术方案(如英伟达Nemo Claw)虽持续强化安全机制,但由于AI决策本身具有概率性,完全消除风险仍不现实。随着AI智能体加速普及,仅靠技术防护已不够,亟需配套的使用规范与清晰的责任追溯体系。
【版权提示】信息来自于互联网,不代表外贸内参立场,内容仅供网友参考学习。如发现本站内容存在版权问题,烦请提供版权疑问、身份证明、版权证明、联系方式等发邮件至[email protected],我们将及时沟通与处理。如若转载请联系原出处。