FLI发布2026夏季AI安全指数报告：全球九大AI实验室无一及格

2026年8月10日，未来生命研究所（Future of Life Institute，简称FLI）正式发布了2026年夏季AI安全指数报告。这份报告的结果令人震惊：在被评估的全球九大AI实验室中，没有任何一家获得B级或以上的评分，最高分仅为C+。更令人担忧的是，多家头部实验室被指削弱了此前在安全阈值接近时暂停开发的公开承诺。本文将深入解析这份报告的核心内容、评分逻辑及其对行业生态的深远影响。

一、背景介绍：FLI与AI安全指数的由来

1.1 未来生命研究所（FLI）是什么

未来生命研究所是一家成立于2014年的非营利研究机构，总部位于美国波士顿，与麻省理工学院等学术机构关系密切。该机构由马克斯·泰格马克（Max Tegmark）等学者联合创立，其核心使命是"确保通用人工智能和 transformative技术对人类产生积极影响"。FLI在过去十余年中一直是全球AI安全领域最具影响力的倡导者之一，曾于2023年发起轰动一时的"暂停巨型AI实验"公开信，呼吁所有AI实验室暂停训练比GPT-4更强大的模型至少六个月。

FLI的工作横跨政策倡导、学术资助和公众教育三个维度。在政策层面，它积极参与联合国、欧盟和美国国会的AI治理讨论；在学术层面，它通过捐赠基金资助了大量关于AI对齐、可解释性和治理机制的研究项目。正是基于这种独特的"研究+倡导"双重身份，FLI发布的报告在行业内具有相当的可信度和影响力。

1.2 为什么需要AI安全指数

AI安全指数（AI Safety Index）是FLI推出的一项定期评估机制，旨在通过系统化、可量化的方式对全球主要AI实验室的安全实践进行独立审查。这一指数的诞生有着深刻的行业背景：

AI安全指数通过邀请独立专家进行审查、设定统一的评估维度和指标体系，试图为行业建立一个可比较的基准线。需要特别强调的是，该指数评的是机构政策评级，而非具体产品的安全评级。也就是说，它衡量的是一家实验室在组织层面建立了怎样的安全治理结构和承诺，而不是某个具体模型是否会被滥用。

二、评分总览：九大实验室无一及格

2.1 总体评分情况

本次夏季报告由7名独立专家共同审查完成，覆盖了全球9个主要AI实验室，评估维度涵盖37个具体指标，分布在6个领域之中。审查结果可以用一句话概括：全行业表现堪忧，没有一家实验室达到B级及以上水平。

以下是各实验室的完整得分与排名：

| 排名 | 实验室 | 字母评级 | 数值评分（满分5分） | 整体评价 |
|:---:|:---|:---:|:---:|:---|
| 1 | Anthropic | C+ | 2.66 | 相对领先，但仍有明显不足 |
| 2 | OpenAI | C | 2.28 | 中等水平，政策执行存疑 |
| 3 | Google DeepMind | C | 2.01 | 中等偏下，治理结构待完善 |
| 4 | Meta | D+ | — | 低于及格线，安全投入不足 |
| 5 | xAI | F | — | 严重缺乏安全治理 |
| 5 | DeepSeek | F | — | 严重缺乏安全治理 |
| 5 | Mistral | F | — | 严重缺乏安全治理 |

注：表中"—"表示FLI未公开该实验室的具体数值评分，仅给出字母评级。后三家实验室并列末位。

2.2 排名分析

第一梯队：Anthropic以C+勉强领先。 Anthropic以2.66分位居榜首，是唯一获得C+评级的实验室。这一结果与其长期标榜的"安全优先"叙事基本吻合，但C+本身仍然是一个不及格的成绩。值得思考的是，Anthropic在负责任扩展承诺（RSP）、模型安全文化等方面确实建立了较为完善的制度框架，但这些制度在执行层面是否真正有效，专家们显然持保留态度。

第二梯队：OpenAI与Google DeepMind并列C级。 OpenAI以2.28分略高于Google DeepMind的2.01分。OpenAI此前因其Preparedness Framework（准备框架）而受到一定好评，就在本报告发布前夕，OpenAI因该框架中的Critical阈值被触发而暂停了Astra模型的发布，这一事件本身说明其内部安全机制至少在某些情况下是"有牙齿的"。然而，专家们给出的C评级暗示，OpenAI在更广泛的安全治理维度上仍有大量改进空间。Google DeepMind的2.01分则反映出其在前沿安全研究和内部治理结构之间存在某种割裂——尽管DeepMind发表了大量高水平的安全学术论文，但这些研究似乎未能充分转化为组织层面的安全实践。

第三梯队：Meta以D+处于及格线以下。 Meta的D+评级延续了外界对其AI安全态度的普遍批评。作为Llama系列开源模型的发布者，Meta在模型发布后对下游使用的控制能力天然较弱，这在安全评估中是一个结构性劣势。

垫底集团：xAI、DeepSeek、Mistral同为F。 三家实验室获得F评级，意味着专家认为它们在安全治理层面存在严重缺失。值得注意的是，这三家实验室分别代表了不同类型的市场参与者——xAI是新兴挑战者、DeepSeek来自中国、Mistral来自欧洲——但它们在安全治理上的短板却惊人地一致。

三、六大评估领域详解

本次报告将评估维度划分为六个领域，每个领域下设有若干具体指标，合计37个。以下逐一解析这六大领域及其核心关注点。

3.1 存在性安全（Existential Safety）

这是本次报告中表现最差的领域，没有任何一家实验室在该领域获得超过C-的评级。存在性安全关注的是前沿AI系统可能对人类文明构成的极端风险，包括但不限于：

专家指出，绝大多数实验室虽然在政策文件中提及了存在性风险，但缺乏可操作的红线机制和具体的应对流程。许多实验室的"安全阈值"定义模糊，缺乏可验证的触发条件，使得这些承诺在实践中难以执行。

3.2 模型行为与能力评估

该领域评估实验室在模型发布前是否进行了充分的能力评估和风险评估，包括：

头部实验室在这一领域普遍建立了某种形式的评估流程，但深度和透明度参差不齐。

3.3 内部安全治理

内部安全治理关注的是实验室组织层面的安全文化建设，包括：

这一领域揭示了一个普遍问题：许多实验室的安全团队名义上拥有否决权，但在实际决策中往往被商业压力边缘化。

3.4 信息安全与模型权重保护

该领域评估实验室保护模型权重和关键知识产权免受外部窃取的能力。随着模型训练成本动辄上亿美元，模型权重已成为极具价值的战略资产。评估指标包括：

3.5 外部审计与透明度

该领域衡量实验室是否愿意接受外部独立审计，以及其安全实践信息的公开程度。指标包括：

3.6 负责任扩展承诺（RSP）

负责任扩展承诺是近年兴起的一个概念，指的是实验室承诺在模型能力达到某个预设阈值时暂停开发或部署。该领域评估：

正是这一领域，引出了本次报告最核心、也最令人不安的发现。

四、核心发现：暂停承诺正在被悄悄削弱

4.1 承诺退化的普遍现象

本次报告最重要的发现是：Anthropic、OpenAI、Google DeepMind和Meta这四家头部实验室，都在不同程度上削弱了此前做出的"在安全阈值接近时暂停开发"的承诺。

这种削弱并非以戏剧性的方式发生——没有哪家实验室公开宣布"我们不再遵守安全承诺"。相反，它以一种更为隐蔽的方式展开：

4.2 为什么这一发现如此重要

承诺削弱的危害在于它侵蚀了整个AI安全治理体系的信任基础。当行业头部实验室在竞争压力下逐步放松自我约束时，会产生几个严重后果：

第一，劣币驱逐良币效应。 如果坚持严格安全承诺的实验室在竞争中处于劣势，而放松承诺的实验室获得更多市场份额，那么整个行业的安全标准将不断下探。

第二，自我监管模式的信用破产。 AI行业长期以来以"自我监管"作为应对政府监管的缓冲策略。如果自我监管被证明是不可靠的，监管机构将更有理由采取强制措施。

第三，公众信任的流失。 普通用户和企业在选择AI产品时，很大程度上依赖于对实验室安全信誉的信任。承诺削弱的消息一旦扩散，将动摇这一信任基础。

4.3 OpenAI暂停Astra事件的背景

值得注意的是，本报告发布在OpenAI因Preparedness Framework的Critical阈值被触发而暂停Astra模型发布一周之后。这一事件本身是一个正面信号——它表明OpenAI的安全框架至少在某些情况下确实发挥了作用。然而，FLI的报告同时指出，这类"好的案例"并不能掩盖更广泛的承诺退化趋势。一个值得关注的问题是：OpenAI在暂停Astra后，是否会对阈值定义或框架本身进行调整，以避免未来再次面临类似的暂停压力？

五、对企业采购的启示

AI安全指数不仅是面向公众和监管机构的信息工具，对于企业采购决策者也具有重要参考价值。以下是几点关键启示：

5.1 不要只看模型性能

许多企业在选择AI供应商时，主要关注模型在各项benchmark上的表现。然而，性能强劲的模型如果来自安全治理薄弱的实验室，可能带来不可控的风险。企业应当将供应商的安全评级纳入采购评估框架。

5.2 区分政策评级与产品安全

如前所述，AI安全指数评的是机构政策评级而非产品安全评级。一家政策评级高的实验室，其某个具体产品不一定就比政策评级低的实验室的产品更安全。但机构政策评级反映的是实验室长期的安全文化和治理能力，这对于建立长期合作关系的企业来说是一个重要的参考维度。

5.3 关注供应链风险

使用开源模型（如Meta的Llama系列）的企业需要特别关注：开源模型的发布方在安全评估和下游使用控制方面的能力相对薄弱，企业需要自行承担更多的安全验证责任。

5.4 建立多元化供应商策略

鉴于头部实验室的安全表现参差不齐且承诺存在退化风险，企业应避免对单一供应商形成深度依赖。多元化供应商策略不仅有助于降低商业风险，也能在安全事件发生时提供更快的切换能力。

六、AI安全治理的未来趋势

基于本次报告的发现，我们可以预见AI安全治理领域将出现以下几个趋势：

6.1 从自我监管走向强制监管

实验室自我承诺的不可靠性，将加速各国政府从自愿性框架向强制性法规的转变。欧盟《人工智能法案》已经确立了高风险AI系统的强制合规要求，预计美国和其他司法管辖区也将跟进。

6.2 第三方审计机制的兴起

报告中外部分项得分普遍偏低，反映出当前行业缺乏有效的独立审计机制。未来，类似于财务审计的AI安全审计行业有望兴起，监管机构可能要求前沿模型实验室定期接受认证审计机构的审查。

6.3 标准化与互操作性

目前各实验室的安全框架各自为政，阈值定义和评估方法互不兼容。行业层面将推动建立统一的安全评估标准，使不同实验室的安全实践具有可比性。FLI的AI安全指数本身就是这一趋势的体现。

6.4 安全成为竞争差异化因素

随着企业采购方对安全评级的关注度提升，安全表现将成为AI实验室之间的竞争差异化因素。这可能会激励实验室在安全上投入更多资源，形成正向竞争——前提是市场能够正确识别和奖励安全表现优秀的实验室。

6.5 开源与安全的张力持续

开源模型在促进AI民主化方面具有积极意义，但同时也带来了安全治理的挑战。如何在不扼杀开源创新的前提下建立有效的安全护栏，将是未来几年行业和监管机构需要重点解决的难题。

七、总结与思考

FLI 2026夏季AI安全指数报告传递的核心信息是明确的：当前全球AI行业的安全治理水平整体不及格，且头部实验室的安全承诺正在被竞争压力侵蚀。

这份报告的价值不仅在于它提供了量化的比较基准，更在于它揭示了一个结构性问题——在缺乏外部强制力的情况下，商业激励往往会压倒安全考量。Anthropic的C+虽然是最高分，但作为一个"相对最优"而非"绝对合格"的成绩，它说明即便是行业内最重视安全的实验室，距离真正稳健的安全治理仍有相当距离。

对于AI行业的每一个参与者——无论是实验室、企业采购方、监管机构还是普通用户——这份报告都敲响了警钟。AI技术的进步速度远超安全治理体系的完善速度，如果这一差距不能被弥合，我们终将面临技术红利与系统性风险之间的艰难抉择。

值得庆幸的是，报告也指出了改进的方向：清晰的阈值定义、有约束力的暂停机制、独立的外部审计、透明的信息披露。这些并非不可实现的目标，关键在于行业是否愿意在商业竞争与安全责任之间做出正确的取舍。

本文基于未来生命研究所（FLI）2026年8月10日发布的夏季AI安全指数报告撰写，观点为作者独立分析，不构成任何投资或采购建议。如需了解报告原文，请访问FLI官方网站获取详细信息。