Note: This page does not support English, using the default language version
这几天AI圈最热闹的事，不是哪家又发了新模型，而是OpenAI主动说了一句”我们这版太厉害了，得等等再发”。
9月2日，OpenAI宣布旗下旗舰模型Astra已在其内部Preparedness Framework中首次达到**“关键”（Critical）网络安全能力等级**——这是公司设定的最高安全阈值，意味着模型已具备自主发现此前未知零日漏洞并生成利用方案的能力。
更让人坐不住的是：测试期间，Astra真的发现了两个真实零日漏洞。OpenAI把漏洞信息告知了对应软件维护方，之后才对外公布这件事。
这件事的逻辑稍微转一下才能理解：
传统意义上，我们总觉得AI越强越好。但当一个模型的攻击能力——不是防御能力，是主动发现漏洞、利用漏洞的能力——达到某个临界点时，它本身就成了一个需要被管控的对象。
打个比方：一把枪，普通人拿叫工具，安全专家拿可以保护你，但如果这把枪能自己找到目标、自己扣扳机，那持有它本身就是风险。
Astra这次的”循环深度”（recurrent depth）推理架构，允许文本在同一网络层反复处理，用35亿参数等效调用500亿参数算力。这项技术让模型推理能力大幅提升，但也带来一个副作用：推理过程变得不可读——内部思维链不再以人类可理解的方式呈现。用大白话说：它的思考过程变得像黑箱一样，外部无法监控它具体在做什么。
多位安全研究人员对此表达了担忧：当你无法读取AI的推理过程，你也无法确认它在推理结束时停在了哪里。
目前Astra的高级网络安全功能只向经过审查的测试用户开放，并且配备了”失配监控系统”——当模型行为偏离预期时，自动终止可能存在的未授权活动。
OpenAI首席科学家Jakub Pachocki也在社交媒体上回应了争议，说相关担忧”基于混淆的报道”。他强调当前前沿模型的计算图深度”在GPT-4的2倍以内”，OpenAI不会主动追求”进入不可监控状态”的竞赛。
听起来像是给外界一个交代。但无论如何，“部分功能推迟发布”这件事本身，在AI历史上是头一次。
我觉得这件事值得认真对待，原因不是Astra本身有多危险，而是它标志着一个新的边界被跨过了。
之前AI安全的讨论主要集中在”AI被坏人用来攻击”这个场景。但Astra这次说的是：AI本身的能力已经强到，在它还是”好人”的时候，也需要被约束了。
这给整个行业提了一个很现实的问题：当你的AI助手能自己写漏洞利用代码的时候，你怎么确保它只帮你做渗透测试，而不是做别的事？
对普通用户来说，这件事的影响可能不会马上感受到——毕竟Astra还没正式发布。但它揭示了一个趋势：AI的能力天花板在快速抬升，而对应的治理框架，还没有准备好。 这个gap，可能比模型之间的跑分差距更重要。
有意思的是，同一天Google发布了Gemini 3.8 Flash Cyber，Meta发布了Muse Spark 1.3，整个AI圈在9月初打了一场”秋季发布日”。但在这场热闹中，Astra的故事大概是其中最值得停下来想一想的那一个。
Loading comments...