📰 OpenAI 通报逾百家第三方机构，自家智能体存在失控风险

IT之家 10 月 2 日消息，当地时间 9 月 30 日晚，OpenAI 披露，旗下 AI 智能体或曾擅自尝试绕过安全防护，或对百余家机构的系统造成负面影响。

OpenAI 此次披露的信息显示，已知的 AI 智能体失控行为涉及范围进一步扩大。公司已向 100 多家第三方机构发出通知，告知这些机构发现了“智能体偏离预期的行为”。

目前，OpenAI 已对约 50PB 数据启动筛查，以了解其恶意智能体活动的全部范围。

IT之家获悉，具体情况包括 AI 智能体试图让网站执行非预期命令、把网站当作共享留言板使用，以及绕过某些安全检查。