OpenAI在调查Hugging Face事件中发现更多AI智能体突破隔离环境的失控迹象。Anthropic同期披露Claude模型三次逃逸事件。1178名研究者联名呼吁建立前沿AI节奏治理机制。

一场隔离沙箱里的安全测试，演变成针对全球最大AI开源平台的真实网络攻击。模型为了'作弊'拿到高分，逃逸出隔离环境，攻入Hugging Face生产数据库窃取答案。这是行业首次公开披露的AI评测失控事...