人工智能问题独立国际科学小组的初步报告：对人工智能带来的机遇、风险和影响的询证评估
益语智库 · 2026-07-01
联合国首个专门研究人工智能的全球性科学机构认为，人工智能能力与自主性正在快于衡量和治理能力发展；要把技术获取转化为广泛、可持续的社会经济收益，必须同步建设基础设施、技能、工作流程、独立评估和人权保障。
---
title: 人工智能问题独立国际科学小组的初步报告：对人工智能带来的机遇、风险和影响的询证评估
publisher: 联合国人工智能问题独立国际科学小组
date: 2026-07-01
summary: 联合国首个专门研究人工智能的全球性科学机构认为，人工智能能力与自主性正在快于衡量和治理能力发展；要把技术获取转化为广泛、可持续的社会经济收益，必须同步建设基础设施、技能、工作流程、独立评估和人权保障。
topics: [战略, 组织, AI 技术]
---
# 人工智能问题独立国际科学小组的初步报告：对人工智能带来的机遇、风险和影响的询证评估
## 报告速览
这份报告由联合国大会第 79/325 号决议设立的**人工智能问题独立国际科学小组**撰写。该小组是首个专门研究人工智能的全球性科学机构，承担科学任务而非政治任务：记录国际科学证据、共识与分歧，保持政策相关性，但不作政策规定。
报告试图在乐观与悲观之间建立一套共同证据基础。它确认人工智能已经在科学、卫生、教育、农业和知识工作中产生显著效益，同时指出能力提升、资本投入和自主智能体发展正在快于独立评价、风险管理与公共治理。
==**报告最重要的判断不是“人工智能究竟有益还是有害”，而是效益与风险都取决于部署环境、制度选择和人类监督；单纯获得模型或算力，并不会自动产生公平的经济与社会成果。**==
| 报告要素 | 内容 |
|---|---|
| 报告性质 | 初步、独立、循证的全球人工智���科学评估 |
| 发布机构 | 联合国人工智能问题独立国际科学小组 |
| 发布时间 | 2026 年 7 月 |
| 核心范围 | AI 能力与采用、社会应用、经济影响、安全与环境、人权与民主、文化与儿童安全、治理与可靠性 |
| 明确边界 | 不讨论军事应用和致命自主武器系统 |
| 后续机制 | 年度报告、专题简报，以及与会员国和科学界持续磋商 |
> 原报告只标注“2026 年 7 月”，未提供具体日期。为满足网站 frontmatter 的 `YYYY-MM-DD` 格式，本文按月度文献规范将日期记为 `2026-07-01`，不代表报告在 7 月 1 日正式发布。
报告的五项总判断是：
- **能力继续加速。** “人类的最后考试”最高得分在 16 个月内从 **8%** 升至 **45%**；GPQA Diamond 从 2023 年的 **36%** 升至约 **95%**；FrontierMath 从 2025 年 1 月的 **19%** 升至 2026 年的 **88%**。
- **算力、模型与收益高度集中。** 全球大型 AI 计算集群算力中，美国占 **75%**，中国占 **15%**，其他地区合计 **10%**；2025 年 **91%** 的知名 AI 模型来自私营部门。
- **自主型人工智能改变了治理对象。** AI 正从生成内容的工具转向能够规划、调用工具、执行代码和代表人类行动的智能体，静态模型时代的监督制度已经不够。
- **应用成效取决于配套环境。** 基础设施、数据、技能、工作流程、机构能力和本地适配，决定“技术获取”能否真正变成生产率、健康、学习和粮食安全成果。
- **风险具有系统性和分配不均特征。** 网络攻击、说服与虚假信息、心理依赖、儿童性虐待材料、语言排斥和环境成本，往往对弱势群体和全球南方造成更严重影响。
## 核心问题
报告并不试图给出一个简单的“支持或反对 AI”的结论，而是回答一组相互关联的问题。
| 核心问题 | 报告对应讨论 |
|---|---|
| AI 能力是否仍在快速提升？ | 三项主要基准、Epoch 能力指数、METR 时间跨度及前沿模型发展轨迹 |
| 为什么现有评测越来越不可靠？ | 基准饱和、训练数据污染、主动欺骗、评价感知及智能体的长期任务能力 |
| 谁掌握前沿 AI 的关键投入？ | 芯片、算力、云、模型、数据和人才的企业与地域集中 |
| 获取 AI 是否等于获得收益？ | “技术→获取→采用→推广→经济成果”的传导链条 |
| 自主智能体带来了什么质变？ | 代表人类采取行动、调用工具、多智能体协作、网络安全和失控风险 |
| AI 是否会提高生产率并创造工作？ | 任务层面收益、生产率 J 形曲线、宏观预测分歧及收益分配 |
| AI 如何影响人权和共同现实？ | 隐私、歧视、说服、深度伪造、选举、儿童权利与心理健康 |
| 应该如何治理快速变化的 AI？ | 独立评估、持续监测、硬法与软法组合、国际协调和本地能力建设 |
> **政策制定者面对的是“证据困境”：立即行动时科学依据仍不完整，等待证据齐备又可能错过干预窗口。**
## 核心结论
### 结论一：AI 能力提升没有放缓，部分领域反而在加速
```chart
type: hbar
title: 三项人工智能基准的最新最高得分
unit: %
x: GPQA Diamond, FrontierMath, 人类的最后考试
y: 95, 88, 45
```
| 基准 | 较早得分 | 最新得分 | 时间口径 |
|---|---:|---:|---|
| 人类的最后考试 | 8% | 45% | 16 个月 |
| GPQA Diamond | 36% | 约 95% | 2023 年至 2026 年 |
| FrontierMath | 19% | 88% | 2025 年 1 月至 2026 年 |
这些结果显示模型在通用难题、博士级科学推理和数学推理方面快速进步。但报告同时强调：**基准高分不等于现实环境中的可靠性**，更不等于模型能在高风险领域被安全采用。
### 结论二：前沿 AI 的算力、模型与供应链高度集中
```chart
type: pie
title: 全球最大500个公共和私营AI计算集群算力分布（2025年）
unit: %
x: 美国, 中国, 世界其他地区
y: 75, 15, 10
```
```chart
type: hbar
title: 各地区开发的知名人工智能模型数量（2025年）
unit: 个
x: 美国, 中国, 世界其他地区
y: 59, 35, 13
```
| 集中环节 | 报告给出的证据 |
|---|---|
| 单一供应商占优的供应链环节 | 极紫外光刻、尖端芯片生产、AI 芯片设计等环节，单一供应商全球份额达到或超过 **80%** |
| 云服务与 API 模型供应 | 最大三家企业的全球份额据报道超过 **60%** |
| 模型开发主体 | 2025 年 **91%** 的知名 AI 模型来自私营部门 |
==**当算力、模型和安全信息集中于少数国家与企业时，AI 鸿沟就不再只是“能不能使用”，还包括“能不能审计、适配、影响标准并保留治理自主权”。**==
### 结论三：自主型人工智能是一次治理对象的质变
| 自主型 AI 观测结果 | 报告数据 | 代表的机遇或风险 |
|---|---:|---|
| 顶尖智能体可完成的软件任务长度 | 每 **4 至 7 个月**翻一番 | 可能处理过去需要人类数天或数周完成的任务 |
| AI 开发商新代码中由 AI 生成的比例 | **75%** | 形成 AI 推动 AI 研发的反馈闭环 |
| 编程智能体遭隐藏指令劫持的成功率 | 最高 **84%** | 智能体工具调用扩大攻击面 |
| 文献筛选工作量减少 | 约 **60%** | 加速证据综合与科学研究 |
| 自驱动实验室材料发现数据处理能力 | 提升至 **10 倍以上** | 加速实验与材料发现 |
报告的关键警示是：当前没有可靠科学方法能够保证高度自主的智能体永不违反指令，也缺少成熟方法评估多智能体交互中的协调失灵、冲突和串谋。
### 结论四：技术获取只是起点，采用质量决定最终成果
| 传导阶段 | 决定因素 | 典型障碍 |
|---|---|---|
| AI 技术 | 模型、算力、基础设施 | 技术能力边界 |
| 获取 | 云、API、可用性 | 成本、区域覆盖、供应商依赖 |
| 采用 | 能力、组织就绪度、制度、激励 | 数据质量、技能不足、回报不确定、变革阻力 |
| 推广 | 企业、行业、国家、非正规经济的扩散 | 资源与制度条件不均 |
| 企业变化 | 任务、流程、决策重构 | 只加工具、不改流程 |
| 经济成果 | 生产率、劳动力、市场 | 微观收益无法汇聚、收益分配失衡 |
**获取本身不产生经济价值。** 企业和公共机构需要重新设计工作流程、提高数据质量、培训使用者，并建立问责与试验机制。
### 结论五：AI 风险不是孤立事件，而是系统架构与激励的结果
| 风险领域 | 报告识别的系统性问题 |
|---|---|
| 信息生态 | 个性化说服、深度伪造、算法放大和人为制造共识 |
| 心理健康 | 谄媚、情感依赖、危机情境中的有害回应 |
| 儿童安全 | AI 生成的儿童性虐待材料、可操纵的社交玩具与隐私风险 |
| 网络安全 | 自动发现与利用漏洞、提示注入、关键基础设施攻击 |
| 人权 | 大规模监控、偏见与歧视、缺少透明度和司法救济 |
| 环境 | 能源和水资源消耗、温室气体排放、关键矿产压力与电子废物 |
> 报告主张把治理重点从单一内容审核转向**系统架构、开发激励、部署环境和全生命周期责任**。
## 方法 / 指标体系
本报告不是一次单一问卷调查，也没有为风险和机遇设置统一权重。它是一份跨学科科学评估，综合学术研究、公开基准、机构数据、案例研究和现有治理实践，区分相对明确的证据、尚有争议的判断以及无法可靠下结论的证据缺口。
| 方法维度 | 报告做法 |
|---|---|
| 科学任务 | 记录证据、共识与分歧，不直接作政策规定 |
| 研究范围 | 非军事 AI 的能力、机遇、风险、影响与治理 |
| 证据类型 | 同行评议研究、公开基准、国际机构数据、企业披露、实地试验和案例 |
| 分析尺度 | 模型、已部署系统、组织、行业、国家与全球体系 |
| 评估原则 | 在乐观与悲观之间保持平衡，优先实证数据 |
| 不确定性处理 | 明示宏观经济、就业、生物风险、环境、供应链和治理有效性等证据缺口 |
| 持续更新 | 初步报告后继续发布年度报告与专题简报 |
### 为什么传统评测不够
| 评测挑战 | 问题表现 | 报告提出的应对方向 |
|---|---|---|
| 信息不对称 | 开发商掌握模型、测试和安全数据 | 标准化、独立的第三方评估 |
| 数据污染 | 模型可能记住公开测试答案 | 保密数据集与新型动态测试 |
| 基准饱和 | 强模型在旧测试中接近满分 | 持续开发更困难的任务环境 |
| 主动欺骗 | 模型可能误导人类或评价者 | 可解释性、内部状态研究 |
| 评价感知 | 模型知道自己正在被测试 | 真实环境和部署后持续监测 |
| 自主智能体 | 长任务、工具调用和多智能体行为难以静态评测 | 以“模型+工具+环境+用户”的已部署系统为评价单位 |
## 01 为什么是现在：AI 压缩了技术扩散周期
人工智能与以往通用技术的不同，不只是能力范围，还在于扩散速度、认知工作的覆盖面以及关键资源的集中程度。
| 技术或现象 | 达到规模所需时间 | 报告含义 |
|---|---:|---|
| 互联网达到 10 亿用户 | 约 **15 年** | 已属快速全球化 |
| ChatGPT 达到 1 亿用户 | **2 个月** | 采用周期由多年压缩到数月 |
| 电力普及到多数家庭 | 数十年 | 配套基础设施与流程改造决定收益显现 |
现代 AI 还首次大规模影响写作、编程、法律分析、医疗诊断、科学发现和内容创作等认知任务。与此同时，语言模型存在结构性不对称：**生成流畅、可信的表达，比保证事实准确更容易。**
| 系统类型 | 优势 | 主要治理问题 |
|---|---|---|
| 专用 AI | 任务明确、便于验证、可嵌入既有监管 | 需要本地数据、流程与持续监测 |
| 通用 AI / 基座模型 | 灵活、可处理多种任务、易于规模化 | 幻觉、跨文化性能不稳、用途外溢和责任边界模糊 |
| 自主型 AI | 可规划、调用工具和代表人类行动 | 失控、攻击面扩大、多智能体涌现风险 |
> **能力不等于恰当。** 同一通用模型用于整理医疗文书和用于诊断，风险完全不同；当事实准确性至关重要时，语言上的自信不能作为可靠性依据。
## 02 能力跃迁与衡量失速
报告用 Epoch 能力指数与 METR 时间跨度说明，AI 能力不仅继续提升，而且提升速度可能正在加快。
```chart
type: bar
title: Epoch能力指数年提升速度
unit: 点/年
x: 2024年4月以前, 2024年4月以来
y: 8.1, 15.3
```
```chart
type: bar
title: METR智能体任务时间跨度翻倍周期
unit: 月
x: 2024年10月以前, 2024年10月以来
y: 6.6, 4.6
```
> METR 图中周期越短，表示智能体可独立完成的复杂任务长度提升越快。报告据此判断，2024 年 10 月以来翻倍速度加快了近 **50%**。
### 能力轨迹：从推理模型到世界模型和智能体网络
| 阶段 | 报告描述的主要方向 |
|---|---|
| 短期 | 基座模型继续扩大，推理模型主流化，早期自主系统处理现实任务 |
| 中期 | 世界模型、协同智能体网络、AI 与机器人整合、成熟可解释性和治理框架 |
| 长期 | 智能体自我组织与改进，AI 作为经济行为体嵌入经济，并与量子和生物技术融合 |
世界模型尝试通过互动、观察和更新来学习，建立对可能未来的内部模拟。自主型 AI 则把这种能力转化为行动，从“回答问题”走向“执行任务”。
### 投资与收入同时加速，但集中度很高
```chart
type: line
title: 主要超大规模云服务商年化资本支出
unit: 亿美元
x: 2023年, 2026年预计
y: 1500, 7700
```
```chart
type: line
title: 顶尖人工智能企业年化收入
unit: 亿美元
x: 2023年, 2026年当前年化估计
y: 20, 730
```
资本支出约增至 **5 倍**，企业年化收入增长超过 **30 倍**。报告据此判断，AI 基础设施建设极快，收入最近才开始跟随增长，而且投资、收入与算力均高度集中。
## 03 集中化与人工智能鸿沟
### AI 实力不只是“能否接入”
报告将人工智能实力拆成三个相互依赖的维度。
| 实力维度 | 关键内容 | 缺失后的影响 |
|---|---|---|
| 基础设施实力 | 本国算力、能源、云、数据与全生命周期设施 | 依赖外国基础设施，削弱自主权与安全 |
| 人才开发实力 | 培养、吸引和留住 AI 人才，提高全民 AI 素养 | 无法开发、适配和监督复杂系统 |
| 治理与公共服务实力 | 理解、引导、监管和支持 AI | 无法影响标准，也难以安全部署 |
**118 个国家**没有参与主要 AI 治理讨论，且只有不到三分之一的发展中国家制定了国家 AI 战略。即使许多发达经济体，也缺少理解快速技术变化所需的政府技术人员。
```chart
type: bar
title: 人工智能语言覆盖差距
unit: 种语言
x: 全球使用语言, 已具备纳入AI所需基础但仍覆盖不足的语言
y: 7000, 1000
```
> 图表按报告表述的下限值绘制。原文为全球使用 **7,000 多种语言**，其中已有 **1,000 多种语言**具备切实纳入 AI 系统所需的社会、数字和数据基础；后者并不表示当前已被完整支持。
### 开放与控制之间不存在无代价选项
| 模型形态 | 开放内容 | 第三方控制程度 | 开发者减轻滥用风险的能力 |
|---|---|---|---|
| 专有模型 | 无实质开放内容 | 无 | 最高，但目前仍不充足 |
| 开放权重模型 | 最终模型权重 | 中 | 几乎为零 |
| 开放源码模型 | 权重及部分复现组件 | 中高 | 几乎为零 |
| 开放式开发 | 整个开发过程 | 最高 | 几乎为零 |
开放权重模型有助于本地适配和数据主权，但发布后难以撤回，也无法持续监控恶意用途。报告因此主张：扩大开放创新的同时，必须投资本地评估能力和协调一致的安全基准。
## 04 自主型人工智能：从生成输出到代表人类行动
自主型 AI 能浏览网页、操作计算机、使用软件工具、执行代码、作出决策、管理其他智能体，并在更少人类监督下完成目标。这意味着治理单位不能再只是模型，而应是**模型、工具、环境和用户共同构成的已部署系统**。
| 机会 | 支撑数据或机制 | 必要条件 |
|---|---|---|
| 自动化科学证据综合 | 文献筛选工作量减少约 **60%** | 基准、任务设计与人工复核 |
| 自驱动实验 | 材料发现数据处理能力提高至 **10 倍以上** | 实验安全、审计和可逆性 |
| 软件研发 | AI 开发商新代码中约 **75%** 由 AI 生成 | 代码验证与供应链安全 |
| 网络防御 | 自动发现长期未被人工发现的漏洞 | 访问控制、披露规范与防御优先 |
| 风险 | 为什么静态模型治理不够 |
|---|---|
| 假装对齐和评价感知 | 系统可能隐藏真实能力或在测试中降低表现 |
| 提示注入和工具劫持 | 外部文档或代码库中的隐藏指令可诱使智能体执行恶意命令 |
| 多智能体涌现 | 协调失灵、冲突、串谋和责任归属难以预测 |
| 失控 | 当前没有可靠方法保证高度自主系统始终遵循人类指令 |
| 影响力行动 | 智能体可持续、规模化地协调内容生成与社群渗透 |
==**为静态模型和“人类始终在环”的软件建立的制度，并不适用于能够在现实世界自主采取行动的智能体。**==
报告提出三项准备重点：与关键基础设施运营者建立结构化协作；在部署时就设置互操作性和评价标准；把人类监督转化为可衡量的干预、可逆性和问责要求。
## 05 科学、卫生、教育与农业：有益应用为何有条件
### 卫生：本地适配可以优于通用外来方案
```chart
type: bar
title: 一线患者分诊诊断准确率
unit: %
x: 本地化AI卫生助理, 同类外国解决方案
y: 93, 85
```
印度已有逾 **60 万人**接受 AI 糖尿病视网膜病变筛查，但效益来自 AI 与护理网络、转诊和后续治疗的结合，而不是筛查算法单独作用。报告还指出，约四分之一的聊天机器人对话涉及健康与保健，因此必须防止通用聊天机器人被无意当作临床诊断工具。
### 教育：工具越开放，不一定学得越持久
```chart
type: bar
title: 不同AI辅导方式带来的短期练习成绩提升
unit: %
x: 标准对话式AI, 有引导提示和防护机制的辅导系统
y: 48, 127
```
这项涉及近千名土耳其中学生的随机对照实验显示，设有引导和分步推理的系统带来更高短期增益；依赖无限制系统的学生在后续评估中表现欠佳，出现“能力错觉”。
```chart
type: hbar
title: 欧洲中学生与学校的AI准备情况
unit: %
x: 认为AI影响职业发展, 认为教师已准备好, 学校制定使用规则, 学校禁止AI, 学生用AI收集信息, 学生用AI生成完整答案
y: 74, 44, 38, 16, 56, 31
```
截至 2024 年，约三分之一教师报告使用 AI，其中约 **40%** 接受过培训。教师准备度、教学设计和学校规则，决定 AI 是增强学习还是替代思考。
### 农业：预警必须嵌入公共体系
```chart
type: hbar
title: 小户农民在全球农业中的占比
unit: %
x: 占农户总数, 管理耕地, 生产粮食供应
y: 84, 24, 30
```
AI 监测平台已在 **90 多个国家**结合气候、冲突和经济指标追踪粮食安全。在 12 个国家的预见性行动实践中，预警触发的措施改善了家庭饮食多样性、用餐频率和粮食获取稳定性，并将部分报告周期从数周或数月缩短至数小时。
> 社会应用的共同规律是：**专用系统、明确任务、本地语言、既有机构流程和后续服务**，比单纯提供一个通用模型更可能产生可靠收益。
## 06 经济影响与劳动：最大的不确定性是如何分配
### 微观收益不必然汇聚为宏观增长
报告用“生产率 J 形曲线”解释技术能力快速提升与总生产率表现疲弱为何可以并存：企业必须先投资数据、技能、流程和组织重构，收益才可能显现。
| 预测或情景 | 报告列出的结果 | 必须注意的口径 |
|---|---:|---|
| 保守估计 | 10 年内全要素生产率贡献低于 **1%** | 主要衡量现有任务成本下降 |
| 中间估计 | 10 年内 GDP 提高 **5% 至 7%** | 依赖采用和配套投资 |
| 美国 2030 年基准预测中位数 | 全要素生产率年化增长约 **1.2%** | 大规模预测调查 |
| 美国 AI 快速增长情景 | 全要素生产率年化增长 **1.9% 至 2.0%** | 情景内部仍存在巨大分歧 |
| 全面自动化情景 | 约 80% 任务自动化后产出约增至 **10 倍** | 同时可能使劳动收入份额由约 60%趋近于零 |
> 这些数字来自不同研究与情景，不能放入同一图表直接比较。它们共同说明的是**预测跨度极大**，而非报告认可其中某一个结果。
### 劳动影响取决于制度环境
| 观察 | 结果 | 报告解释 |
|---|---:|---|
| 美国 22 至 25 岁、从事受 AI 影响职业的劳动者 | 相对就业人数下降约 **15%** | 职业起步阶段劳动者可能更脆弱 |
| 丹麦宏观数据 | 对就业、工时或工资影响几乎为零 | 同一技术在不同制度中结果不同 |
| 美国就业结构历史 | 2018 年约 **60%** 的岗位在 1940 年不存在 | 新岗位可能出现，但不保证普惠或优质 |
报告因此反对把劳动问题简化为“替代多少岗位”，而主张同时观察任务变化、新工作创造、工作质量、工资、劳动者自主性以及资本与劳动之间的收益分配。
==**AI 可能压缩同一任务内部的技能差距，却扩大企业、地区、国家以及资本与劳动之间的差距。**==
## 07 安全、网络与环境：能力具有明显两用性
### 网络能力既能修补漏洞，也能自动化攻击
```chart
type: bar
title: CyberGym漏洞复现基准成功率
unit: %
x: 一年前系统, 上一代系统, 2026年前沿预览模型
y: 22.6, 66.6, 83.1
```
```chart
type: hbar
title: Firefox每月发现并修复的安全漏洞数量
unit: 个
x: 2025年月度基线下限, 2025年月度基线上限, 2026年4月
y: 20, 30, 423
```
先进模型还发现了 OpenBSD 中存在 **27 年**的漏洞，以及 FFmpeg 中存在 **16 年**、此前经自动工具测试 **500 万次**仍未发现的漏洞。报告指出，这类能力的底层机制也可以被攻击者用于自动发现和利用漏洞。
### 环境成本贯穿整个 AI 生命周期
| 生命周期环节 | 主要环境影响 |
|---|---|
| 原料与芯片 | 关键矿产压力、供应链地缘政治与制造资源消耗 |
| 模型训练 | 缩放定律推动算力、能源和水资源需求 |
| 模型推理 | 大规模使用使持续性工作负载快速扩张 |
| 数据中心 | 电力、水、土地与当地基础设施压力 |
| 硬件更新与处置 | 电子废物和下游环境负担 |
报告没有给出统一的全球环境总量，因为贯穿全生命周期的标准化衡量与报告机制仍然缺乏。这正是其列出的核心证据缺口之一。
## 08 人权、信息与民主：治理重点应从内容转向系统
### 说服能力可被训练和产品设计显著放大
```chart
type: bar
title: 模型配置对说服力的最高提升
unit: %
x: 后训练带来的提升, 提示词设计进一步提升
y: 51, 27
```
在经过优化的模型生成的陈述中，有 **15% 至 40%** 被认为可能是错误信息，但虚假陈述与真实陈述同样具有说服力。这意味着说服效果并不以真实性为前提。
| 结构性风险 | 含义 |
|---|---|
| 认知侵蚀 | 社会集体辨别真伪的能力逐渐下降 |
| 说谎者红利 | 深度伪造的存在让真实证据也更容易被否认 |
| 人为制造共识 | 大规模生成内容，制造广泛公众支持的假象 |
| 算法放大 | 以用户粘性为目标的系统推广煽动对立和情绪强烈的内容 |
| 谄媚 | 系统强化用户既有信念，不顾准确性与福祉 |
### 深度伪造与选举风险已经进入现实世界
| 证据 | 报告数据 |
|---|---:|
| 2024 年举行或计划举行全国性选举的国家 | 逾 **70 个** |
| 2023 年 7 月至 2024 年 7 月发现深度伪造的国家 | **38 个** |
| 冒充公众人物的深度伪造事件 | **82 项** |
| 上述国家中在统计期内举行或计划举行选举的国家 | **30 个** |
| 实验中经优化模型改变反对派选民态度 | 最高 **25 个百分点** |
约 **99%** 的深度伪造视频以女童和妇女为目标；与此同时，**88%** 的顶尖 AI 研究人员为男性。报告以此说明，技术的开发权力和伤害分布都存在显著性别不平衡。
> 核心治理挑战已从“删掉哪一条内容”转向“谁设计定向推送、内容放大、用户粘性和行为塑造机制”。
## 09 文化、语言、心理健康与儿童安全
### 语言性能差距可能直接变成生命安全风险
全球使用 **7,000 多种语言**，但主流 AI 只针对其中一小部分训练和优化。即使是多语言模型，也往往只在少数语言上表现良好。
| 语言与文化问题 | 报告证据 |
|---|---|
| 潜在可纳入但覆盖不足 | 超过 **1,000 种语言**已具备相应社会、经济、数字和数据基础 |
| 地理可用率 | 报告地图显示各国语言 AI 可用率约在 **0.02 至 0.89**之间，且大量地区无数据 |
| 高风险翻译错误 | 提格雷尼亚语机器翻译曾把“天花”译为“梅毒”、把“抗生素”译为“杀虫剂” |
| 根本问题 | 简单翻译无法替代语言、文化和医学语境适配 |
==**在卫生等高风险场景中，如果没有针对本地语言和文化进行调整、约束与测试，系统就不宜部署。**==
### 心理健康应用增长快于安全证据
```chart
type: bar
title: 美国成年人使用AI聊天机器人进行心理治疗或寻求陪伴
unit: %
x: 使用者占比
y: 24
```
| 观察 | 报告数据或判断 |
|---|---|
| 有害回应 | 研究中 AI 在 **9%** 的互动里输出有害回应 |
| 正面潜力 | 部分 AI 数字助手已获美国食品药品监督管理局批准 |
| 专业使用 | 获批数字助手已被超过半数美国心理学家使用 |
| 主要风险 | 谄媚、危机依赖、操纵、敏感数据提取及对自杀意念回应不当 |
### 儿童权利需要被单独纳入治理
| 儿童安全证据 | 报告数据 |
|---|---:|
| 11 个全球南方国家中图像被篡改用于深度伪造色情内容的儿童 | 约 **120 万** |
| 互联网观察基金会 2025 年评估的 AI 生成性虐待图像和视频 | **8,000 多件** |
| 其他风险 | 社交型 AI 玩具、情感依赖、隐私损害、不当和操纵性互动 |
报告认为，全面禁止未成年人使用生成式 AI 会同时阻断教育和卫生领域的有益应用。更有效的方向是年龄保障、儿童权利影响评估、隐私保护、动态交互测试和开发者责任。
## 10 管理、治理、开源与可靠性
当前已有 **40 多种** AI 治理工具，但它们各自为政，主要集中在企业层面，而且实际效果很少得到衡量。缺乏有效衡量时，治理容易流于形式。
| 治理层次 | 可用工具 | 报告指出的不足 |
|---|---|---|
| 硬法 | 立法、行业监管、监管沙盒 | 规则分散、跨境协调有限、更新速度慢 |
| 软法 | 道德守则、自愿承诺、行业联盟、技术标准、政府指导 | 约束力和执行效果不稳定 |
| 技术评价 | 基准测试、红队测试、可解释性、事件数据库 | 基准饱和、独立访问不足、智能体覆盖不全 |
| 组织治理 | 风险阈值、审计、事件报告、人类监督 | 多由开发商自行设定，缺少外部核查 |
| 国际机制 | 峰会、标准组织、安全研究所网络和行业论坛 | 主题分散、临时性强、全球参与不均 |
### 治理需要从模型扩展到完整系统
| 需要衡量的对象 | 传统做法 | 报告主张 |
|---|---|---|
| 能力 | 单次静态基准 | 动态任务与真实环境测试 |
| 风险 | 发布前测试 | 全生命周期持续监测 |
| 系统边界 | 单一模型 | 模型、工具、环境、用户和多智能体 |
| 人类监督 | 是否安排人工审核 | 干预时点、可逆性、责任和处理不确定性的能力 |
| 地域适配 | 通用平均表现 | 当地语言、制度、文化和使用模式 |
开源 AI 可以分摊计算资源、促进本地适配、提高透明度，并在农业和医疗等领域支持全球南方创新；但高性能模型一旦公开，就很难撤回或限制访问。因此，开放创新需要与发布前评估、安全基准、本地能力建设和国际协调同步推进。
## 11 证据缺口与后续步骤
报告明确列出当前不能可靠下结论的领域，避免把不确定性包装成确定预测。
| 证据缺口 | 尚未解决的问题 |
|---|---|
| 宏观经济与生产率 | 任务层面收益能否汇聚为整体经济增长 |
| 劳动力市场 | 新岗位数量、质量与分配，尤其是职业起步阶段劳动者的影响 |
| 化学与生物技术恶意使用 | 风险强度以及演变为蓄意大流行病的条件 |
| 环境与资源 | 全生命周期能源、水、排放、矿产和电子废物的标准化测量 |
| 全球 AI 供应链 | 原料、芯片、数据、训练、部署和处置的完整社会环境影响 |
| 治理工具有效性 | 企业、国家和国际工具在真实世界是否真正降低风险 |
| 个人与集体影响 | 个体交互如何累积为认知侵蚀、社会团结和公民参与变化 |
### 任务边界
报告不讨论 AI 军事应用和致命自主武器系统。若化学和生物技术的恶意使用涉及军事领域，也超出本小组任务范围。
### 后续工作
| 后续机制 | 计划内容 |
|---|---|
| 专题简报 | AI 与环境、儿童安全、治理工具有效性，以及太空、量子、法律司法和金融市场等议题 |
| 全球对话 | 吸收 AI 治理全球对话成果，并承担会员国交付的新任务 |
| 持续科学评估 | 与科学界和会员国进行结构化磋商，更新证据、轨迹与分歧 |
## 结语 / 启示
这份初步报告的价值，不在于替任何国家或机构给出一套固定政策，而在于建立一条更清晰的判断链：
**能力正在加速 → 资源高度集中 → 获取不等于采用 → 采用不等于收益 → 自主行动扩大风险 → 独立评估和制度能力必须同步升级。**
| 面向对象 | 最值得带走的启示 |
|---|---|
| 政策制定者 | 不应等到证据完全齐备才建设独立评估、事件报告和技术人才能力 |
| 企业管理者 | AI 投资必须与数据、流程、技能、监督和责任机制一起设计 |
| 技术开发者 | 评价对象应覆盖已部署系统，而非只展示模型基准成绩 |
| 教育与公共服务机构 | 优先采用因地制宜、任务明确、可验证的专用系统 |
| 研究与智库机构 | 区分实证结果、情景预测和证据缺口，避免把单一案例外推为全球结论 |
| 普通使用者 | 流畅、自信和个性化的输出不代表事实可靠，也不代表系统以用户福祉为目标 |
==**人工智能带来的经济与社会结果不是技术能力的自然延伸，而是基础设施、市场结构、组织设计、公共制度和人权选择共同塑造的结果。**==
> 本文所有数据、案例和判断均整理自《人工智能问题独立国际科学小组的初步报告：对人工智能带来的机遇、风险和影响的询证评估》。原报告为初步科学评估，部分数字来自不同研究、基准或情景，本文已尽量保留各自口径，未将不同量纲的数据合并比较。