01 如果我们成功了 6
我们如何走到今天? 6
接下来会发生什么? 8
出了什么问题? 10
我们能解决吗? 13
02 人类和机器的智能 17
智能 17
计算机 35
智能计算机 43
03 人工智能在未来会如何发展? 67
近未来 67
超级人工智能何时到来? 80
概念上的突破即将到来 81
想象一台超级智能机器 95
超级智能的局限 98
人工智能如何造福人类? 100
04 人工智能的滥用 107
监督、劝导和控制 107
致命性自主武器 113
篡夺其他人类角色 127
05 过于智能的人工智能 137
大猩猩问题 137
迈达斯国王问题 141
恐惧与贪婪:工具性目标 145
智能爆炸 147
06 不那么伟大的人工智能辩论 154
否认 154
转移话题 162
部落主义 166
难道我们不能…… 168
辩论重新开始 176
07 人工智能:一种不同的方法 182
有益机器的原则 182
乐观的理由 188
谨慎的理由 190
08 可证明有益的人工智能 197
数学保证 197
从行为中学习偏好 202
辅助博弈 205
要求和指示 215
“主动嗑电” 218
递归式自我完善 220
09 复杂的难题:我们 227
不同的人 227
许多人 229
善良的、可恶的、爱嫉妒的人类 242
愚蠢的、情绪化的入类 247
人类真的有偏好吗? 250
10 问题解决了吗? 263
有益的机器 263
对人工智能的治理 265
滥用 269
衰弱与人类自主 270
附录A 寻找解决方案 273
附录B 知识与逻辑 283
附录C 不确定性和概率论 289
附录D 从经验中学习 301
致谢 311
注释 313
图片版权 357