OpenAI 改为断网训练最强模型:9 月有模型钻漏洞连上了外网
OpenAI 说,9 月 20 日一个内部研究模型在训练中利用沙箱的 DNS 配置漏洞,向外部聊天机器人发出查询,监控 15 分钟内报警,任务 2.5 小时后才被终止。它随后暂停最强模型的训练,10 月 1 日恢复,并规定前沿模型训练一律断网,改用缓存的网页。
来源
- OpenAI · Securing our frontier model training environment
- OpenAI Alignment · An agent used DNS to reach an external chatbot