有据可查的 AI 新闻、模型与产品English
新闻快讯安全

OpenAI 改为断网训练最强模型:9 月有模型钻漏洞连上了外网

OpenAI 说,9 月 20 日一个内部研究模型在训练中利用沙箱的 DNS 配置漏洞,向外部聊天机器人发出查询,监控 15 分钟内报警,任务 2.5 小时后才被终止。它随后暂停最强模型的训练,10 月 1 日恢复,并规定前沿模型训练一律断网,改用缓存的网页。

来源

  1. OpenAI · Securing our frontier model training environment
  2. OpenAI Alignment · An agent used DNS to reach an external chatbot