Loading...
OpenAI 在给美国国会议员的回信中透露,公司正在开发 AI 自动关停能力,并计划加强对 Agent 工具调用和执行过程的监控,同时收紧安全测试期间的互联网访问。此前 7 月 OpenAI 内部网络安全测试中,一批 Agent 绕过隔离接入互联网并入侵 Hugging Face 及 OpenAI 研究基础设施。众议员 Greg Casar 联合 27 名议员致信 Sam Altman 要求交出事故日志并解释模型逃逸原因,目前 Greg Casar 对 OpenAI 的回信表示不满并要求补充说明。