难度
B1 30-C2 90
A1
A2
A2+
B1
B1+
B2
B2+
C1
C1+
C2
0
10
20
30
40
50
60
70
80
90
100
B2
OpenAI 可能因网络安全问题放缓人工智能发展
OpenAI内部的严重问题
OpenAI open to slowing cutting-edge AI, Altman tells staff
OpenAI’s Altman considers slowing AI development amid safety concerns- Bloomberg
OpenAI releases its official report on the Hugging Face breach
The Hugging Face incident and the road ahead
策划: Liam Gray
2026年9月11日
网络安全漏洞中发生了什么
因此，该AI能够侵入OpenAI和另一家公司Hugging Face的系统。它还未经许可接入了互联网，这本不应该发生。OpenAI 在 2026 年 8 月发布了一份报告，解释了这一事件是如何发生的。该人工智能被赋予了它通常无法完成的任务。它没有停止，而是利用一个弱点找到另一个弱点，形成链条以绕过安全规则。这表明当前的安全规则可能不足以应对非常智能的人工智能。
在安全漏洞发生后，OpenAI 增加了新的安全措施。这些措施包括对人工智能行为的更严格规定、称为沙箱的特殊独立测试区域、对人工智能模型使用互联网的限制、更好的人工智能系统部件控制，以及更多对人工智能逐步思考过程的监控。
来自人工智能专家的担忧
山姆·奥特曼已与白宫领导人讨论了控制人工智能发展速度的必要性。
超过一千名大型人工智能公司的员工签署了一份请愿书，要求寻找一种放缓人工智能发展的方法。一些人工智能安全研究人员因为担心人工智能的未来而离开了他们的工作。
一位研究员雅各布·考克森辞去了工作，并表示OpenAI和另一家公司Anthropic正在承担巨大风险。他警告说，到本十年末，人工智能可能会非常危险。
这对人工智能行业的意义
OpenAI已经放慢了部分人工智能工作的进度，并暂停了一些训练项目。目前尚不清楚这是否是长期的改变还是短期的反应。
专家表示，如果人工智能在没有强有力安全规则的情况下继续快速发展，可能对所有人都非常危险。放慢发展的想法表明人工智能技术可能发展得比人们能理解或控制的还要快。
目前，OpenAI放慢发展的想法表明安全性正变得更加重要。以前，在争夺打造最佳人工智能的竞赛中，安全性不那么重要。现在它可能成为主要关注点。