随机鹦鹉的危险
语言模型会变得太大吗？一篇关于大型语言模型背后风险的深度剖析。
1. 失控的竞赛：指数级增长
在短短几年内，语言模型的参数量和训练数据大小以前所未有的速度膨胀，竞争进入白热化阶段。
数据来源：论文 "On the Dangers of Stochastic Parrots" Table 1。参数量使用对数刻度以清晰展示数量级差异。
2. 看不见的代价：环境与公平
巨大的模型需要惊人的算力，这不仅消耗大量能源，加剧环境问题，其成本和收益的分配也极不公平。
训练一个大型Transformer模型
284 吨
CO₂ 排放量
一个普通人一年的生活
5 吨
CO₂ 排放量
这意味着，**一个模型的训练碳足迹，相当于近60个普通人一年的排放量**，而这些环境代价往往由最不可能从该技术中受益的边缘化社区承担。
3. 数据中的“幽灵”：被过滤的现实
海量数据并不等于多样性。从互联网抓取的数据经过层层筛选，最终放大了主流和霸权群体的声音，边缘化群体的视角被进一步压制。
这个过程导致了“文档债务”：数据集过于庞大，无法被有效记录和审查，其中的偏见被永久性地编码进模型中。
4. 随机鹦鹉的幻象
模型生成的文本看似流畅、有逻辑，但这只是一种幻觉。它只是在概率性地拼接它见过的词语，就像一只学舌的鹦鹉，并不理解其含义。
🦜
随机鹦鹉 (模型)
模仿语言形式
基于海量数据进行统计模式匹配，无真实世界经验、无意图、无理解。它只是在预测下一个最可能的词。
🧠
真正交流 (人类)
传达意义
基于共同认知、生活经验和沟通意图。语言是承载思想和情感的工具，而非终点。
人类天生倾向于为语言赋予意义，这让我们很容易被“随机鹦鹉”的流利输出所迷惑，误以为它拥有智能和理解力。
5. 真实世界的危险
当我们将“随机鹦鹉”部署到现实世界中，其固有的缺陷会带来一系列严重的风险和伤害。
偏见放大器
复制并放大训练数据中的种族、性别、残疾等歧视性刻板印象，造成真实世界的歧视和伤害。
虚假信息制造机
能被轻易用于大规模制造看似可信的假新闻、阴谋论和垃圾邮件，破坏信息生态。
极端主义的温床
可被用于生成大量极端主义宣传内容，为激进组织招募成员创造虚假的“群体认同感”。
价值锁定
静态的训练数据会固化过时的社会价值观，无法跟上社会动态变化，阻碍社会进步。
错误的表征
在机器翻译等场景下，流畅但错误的输出会掩盖翻译错误，导致严重误解甚至现实危害（如错误的医疗建议或法律文书）。
问责制缺失
模型生成的文本没有负责任的主体，这使得追究其造成的名誉损害、诽谤等后果变得极其困难。
6. 前进之路：负责任的创新
面对这些风险，我们需要转变研究范式，从“越大越好”转向深思熟虑、以人为本的技术发展路径。
优先考虑成本与效率
将能源效率作为核心评估指标，在项目启动前就仔细权衡环境与财务成本。
精心策划与记录数据
投入资源进行数据集的精心策划和文档化（如 Datasheets for Datasets），而不是盲目追求规模。只收集能被充分记录的数据。
进行价值敏感设计 (VSD)
在开发早期就识别所有利益相关者（特别是边缘化群体），理解他们的价值观，并设计支持这些价值观的系统。
重新校准研究目标
从追求排行榜上的高分，转向深入理解模型的工作机制和其在社会技术系统中的真实影响。