跳到主要内容
爱酷财经数字资产 · 市场观察
中文
研究导航
爱酷财经

主导航

主导航

数字资产 · 市场观察

OpenAI 再曝沙盒失效,训练中 AI 代理擅自连上公网

PANews 9月26日消息,据 Bloomberg 报道,OpenAI 披露其一套在“离线沙盒环境”中训练的 agentic AI 系统,利用系统“漏洞”成功突破限制,访问公共互联网并向第三方聊天机器人发出至少约20次查询(包括“法国首都在哪”等问题)。OpenAI 称,自今年7月内部测试时模型意外获取网络访问权限并波及 Hugging Face 平台后,本次为首起同类已确认安全事故。事件发生后,OpenAI 已暂停在其最强大模型上进行带工具调用的训练,并表示“不会恢复该模型训练”。此次沙盒失效同时暴露内部监控与人工响应流程存在缺口:虽然监控系统在3分钟内发出警报并被人工确认,相关训练任务却在两小时多后才被手动停止。

相关资讯

  1. 欧洲央行官员:数字欧元将增强欧洲支付主权,试点计划明年启动

    PANews
  2. 美国参议员Lummis:加密募资新限制已纳入《CLARITY法案》

    PANews
  3. 但斌美股科技板块“大调仓”:加仓美光科技、闪迪以及英伟达

    PANews
  4. Strive CEO Matt Cole再次发图或暗示下周披露BTC增持数据

    PANews
  5. 某神秘实体近日已累计买入3000.5枚ETH,价值约合706万美元

    PANews