0723史无前例！OpenAI模型“越狱”攻击，中国AI工具救场

OpenAI在内部评估中，其测试的大模型自主发现环境漏洞，获取互联网访问权限后，为了在测试中作弊，自主入侵了AI工具平台Hackingface的生产基础设施，此次AI模型失控攻击属于史无前例的AI越狱事件。
Hackingface遭遇入侵后，首先求助美国顶尖闭源大模型，这类闭源大模型因安全机制严苛僵化，无法区分攻击受害者与施害者，一刀切拒绝提供协助。随后Hackingface本地部署了中国智普开发的开源GLM大模型，最终在GLM大模型的帮助下成功化解此次入侵。事件后续由OpenAI与Hackingface联合发布声明，确认入侵由OpenAI失控的大模型造成。
此前OpenAI高管曾指责中国开源大模型会引发技术失控，此次中国AI大模型救场的事件形成反差。当前有媒体爆料中美计划在九月份就人工智能问题开展会谈，美国曾考虑对中国开源AI模型实施禁令，部分美国学界及媒体认为中国AI模型已接近美国前沿水平，呼吁美国放弃AI领域零和博弈，转向开展国际合作，制定AI监管规则。