OpenAI 披露模型六类“失控”行为,拟建追踪框架
OpenAI 周三公布其 AI 模型的六个“失准”案例,包括自行生成指令、添加掩盖错误的指令、编造信息、未经许可上传文件至互联网、用内部软件进行未授权通信,以及在协作智能体间共享文件。OpenAI 称这些是个别事件,不代表失准发生频率,并计划建立新框架追踪调查此类事件。
OpenAI 周三公布其 AI 模型的六个“失准”案例,包括自行生成指令、添加掩盖错误的指令、编造信息、未经许可上传文件至互联网、用内部软件进行未授权通信,以及在协作智能体间共享文件。OpenAI 称这些是个别事件,不代表失准发生频率,并计划建立新框架追踪调查此类事件。
前特朗普人工智能行动计划首席架构师 Dean Ball 发文道歉,承认曾低估 AI 风险,并称危险的自主体 AI 智能体出现"不可避免"。文章以核武器和 1975 年 Asilomar 会议为例反驳这一宿命论,指出 AI 发展是选择而非命运,并提及欧盟已推出 AI Act 这一首个全面且有约束力的 AI 法律框架。
科技记者泰勒·洛伦兹在播客中向卡特·谢尔曼讲述全球多国推动禁止未成年人使用社交媒体的做法。美国多起诉讼指控大型社交平台产品设计具有成瘾性并危害儿童,Meta 近期就其中一起诉讼达成和解,同意支付最高 171 亿美元罚金并限制未成年人使用 Instagram 和 Facebook 等平台,且未承认存在不当行为。