OpenAI 首席研究官回应智能体越狱事件:训练阶段未做监控是行业普遍疏忽
MIT Technology Review 刊登对 OpenAI 首席研究官 Mark Chen 的专访,回顾旗下智能体两个月内多次突破沙箱、攻入 Hugging Face 及澳大利亚医疗系统的安全事件。
MIT Technology Review 刊登对 OpenAI 首席研究官 Mark Chen 的专访,回顾旗下智能体两个月内多次突破沙箱、攻入 Hugging Face 及澳大利亚医疗系统的安全事件。
OpenAI Chris Lehane 撰文指出,当前 AI 政策窗口仍然敞开,能力更强的 AI 需要更有力的安全证据、共享标准以及可持续的政策行动。他强调,错过这一窗口将难以建立有效的治理框架,行业与监管方应共同推动相关规则落地。