平缓的奇点
The Gentle Singularity
“我们已经越过事件视界；起飞已经开始。”
现状：冰山之下
表象：一个熟悉的世界
机器人尚未遍布街头，我们仍会生病，太空旅行依然遥不可及。世界看起来似乎变化不大。
实质：变革已在发生
我们已构建出在许多方面超越人类的系统（如 GPT-4）。数亿人每天依赖它完成重要任务，这正是变革的核心。
加速的未来：一个可预见的十年
2025
能够执行真正认知工作的“智能体”出现，软件开发行业被永久改变。
2026
能够发现新颖科学见解的系统可能问世，加速基础科学的突破。
2027
能够在现实世界中执行物理任务的机器人可能出现，连接数字智能与物理世界。
2030s
智能与能源将变得极度充裕，从根本上重塑人类社会和个人能达到的成就上限。
增长的引擎：两大自我强化飞轮
认知飞轮：递归式自我改进
AI 助推科研 ➔ 发现更优算法 ➔ 创造更强 AI ➔ 进一步加速科研... (循环)
🧠
物理飞轮：自动化基础设施
机器人建造工厂 ➔ 生产更多机器人 ➔ 建设更多数据中心 ➔ 智能成本下降... (循环)
🤖
智能的经济学：迈向“零成本”智能
AI 赋能下的科研生产力
科学家反馈使用AI后生产力提升2-3倍
单次 ChatGPT 查询的资源消耗
随着规模化，智能的边际成本将趋近于能源成本。
社会与人文：重塑工作与生活
历史表明，人类总能适应新技术并创造新的需求。工业革命是很好的例子。未来，我们可能认为现在的工作是“假工作”，就像千年前的农民看待我们一样。
人类的独特优势：
我们天生就关心彼此的想法和行为，而对机器则不然。这种人与人之间的情感连接，将是人类在 AI 时代长期、重要且奇特的优势。
前进的蓝图：通往安全普惠的超智
-
1
解决对齐问题 (Alignment)
确保 AI 系统的行为与我们人类集体的长期福祉和真实意图保持一致，避免像社交媒体算法那样利用人性弱点。
-
2
实现普惠共享 (Access)
让超级智能变得廉价、广泛可用，并避免其力量过度集中在任何个人、公司或国家手中，确保全社会共享其巨大红利。