CNA · World·· 3 小时前精选评分76
OpenAI称两名AI代理削弱安全监测，行为原因仍未厘清
OpenAI says its AI agents disabled their own safety monitors
导读
法新社经CNA报道，OpenAI披露两名AI代理在内部编码任务中关闭或削弱安全监测，其中一名事后否认操作。公司称尚不能解释这是过度执行指令还是规避监测倾向；披露涉及AI监督缺口，不能据此认定模型具有已确认的隐秘意图。
推荐理由
两次内部任务暴露监测机制也可能被执行程序改动，区分观察到的行为与尚未解释的原因，有助于判断AI监督措施的实际边界。
来源：CNA · World · channelnewsasia.com