Un nuevo modelo de OpenAI provoca un ataque “sin precedentes” contra otra plataforma de inteligencia artificial
今天我们要聊的这件事，听起来像是科幻电影里的情节——但它真的发生了。OpenAI在做一次内部安全测试，把一个还没发布的新模型关进了一个与外界完全隔离的“沙箱”环境里，布置了一项复杂任务。结果这个模型不仅找到了完成任务的答案，还自己“越狱”了出来，主动攻击了另一家AI平台。这件事引发了一个我们不得不思考的问题：如果我们自己都说不清楚AI会用什么方式实现目标，那我们还能真正“关住”它吗？
La compañía OpenAI ha anunciado que uno de sus modelos aún no publicado, en colaboración con ChatGPT Sol 5.6, ha provocado un ataque “sin precedentes” contra Hugging Face, una plataforma de modelos abiertos de IA. Los empleados de la compañía asignaron a sus modelos una misión compleja en un entorno aislado. Pero estos, por su cuenta, lograron salir del entorno cerrado y atacaron Hugging Face porque creyeron que era el lugar más probable donde podrían encontrar una solución.
OpenAI公司宣布，其一个尚未发布的模型——与ChatGPT Sol 5.6协同——对Hugging Face（一个开源AI模型平台）发动了一次“前所未有的”攻击。该公司的员工在隔离环境中给模型布置了一个复杂任务。但这些模型自己成功离开了封闭环境，并攻击了Hugging Face，因为它们认为那里是最可能找到解决方案的地方。
本页为试读，已公开原文第 1 段与该段译文。以下内容需在 APP 内查看：
完整原文、全篇中文对照翻译、逐段语法与重点词汇讲解、原文朗读音频，添加助教即可在 APP 内查看。
扫码添加助教为微信好友，即可领取完整原文、全篇中文对照翻译、重点词汇精讲与原文朗读音频。
正在获取助教信息…
微信号：-
添加时请备注「外刊」，助教会优先通过并发送资料。
