全球资源网科技频道讯:最近,一个自主AI代理,不再只是生成代码或回答问题,而是真正像黑客一样,完成了一次针对真实生产环境的攻击,这也是目前公开披露案例中,首个由自AI代理完成完整攻击链路的事件。不过,这件事件的亮点不仅仅是入侵事件本身。在发现此次入侵后,Hugging Face求助商业闭源模型失败后,最终转而使用开源GLM模型完成分析,事件发生几天后,OpenAI主动站出来承认,这次入侵其实是他们在内部做网络攻防评测时,模型越狱进而失控所造成的,纯属意外,并非有意为之。
自主AI代理能够入侵Hugging Face本身就已经引发了不小的波澜,随着Open AI主动承认,这起我国开源模型成功辅助安全分析,而商业闭源模型却因安全策略无法提供帮助的事件,则是获得了更多人的关注。








