中国AI工具Kimi被诱导提供生物武器制作方法

英国AI安全测试公司Mindgard向BBC表示，其在7月发现中国AI开发商月之暗面（Moonshot）的两款Kimi模型K2.6和K3 Swarm可被越狱绕过安全限制，向研究人员提供制造生物武器和实施暗杀的方法。月之暗面回应称欢迎第三方意见，正与Mindgard讨论相关发现。Mindgard创始人Peter Garraghan称，越狱一旦成功，模型会谈论任何话题，甚至主动提供其他有害建议。