1.有理而有趣，两位《时代》周刊“全球AI领域具影响力100人”获得者亲撰。在普林斯顿大学研究期间，阿尔文德和曾在脸书供职的卡普尔都对“AI的局限性”产生兴趣，将其作为研究方向。经过4年的独立与合作研究，沉淀了学术界与产业界的交流讨论，《AI万金油：商业幻想与科技狂潮》展示了真实的技术落地场景，探寻AI发展的极答案——不在代码里，而在我们如何定义未来。
2.热潮与热嘲，让“万能AI”回归技术本质。作者以“交通工具”类比AI技术的混沌现状——你在讨论汽车速度，而我在讨论火箭飞行。当人们笼统讨论AI时，往往忽略生成式AI与预测式AI的本质差异：前者是快速生产内容的“数字电锯”，兼具创造力与风险；后者则是试图预言人类行为的“伪科学”，在司法、医疗等领域制造偏见与误判。书中通过聊天机器人产生的事实性错误、面部识别导致的错误逮捕等案例，揭示AI技术在可靠性与伦理方面的困境，引导读者跳出“技术崇拜”，以批判性视角审视AI的真实能力边界。
3.真实和虚妄，直指“AI万金油”现象的核心。“AI万金油”指的是那些实际上不具备，也不可能具备实际效果的AI技术。研究界的数据泄露、企业的黑箱操作、媒体的流量狂欢，编织了一场场关于AI的骗局。在招聘自动化领域，企业明知工具无效却大肆营销；在学术研究中，97%准确率预测热门歌曲的论文实为数据作弊；在司法系统里，犯罪风险预测工具的准确率仅略高于随机猜测。无论你是技术从业者、政策制定者，还是普通AI用户，《AI万金油：商业幻想与科技狂潮》都将帮你在商业的浮夸宣传中保持清醒。
4.人机共生，穿越技术周期，锚定人类价值。当生成式AI颠覆创作生态，预测式AI挑战司法公正，内容审核AI影响用户体验，本书引入“通用性阶梯”概念，将AI发展解构为可量化的进化层级，破除“奇点爆发”的恐慌论。作者既肯定AI在代码生成、图像创作等领域的辅助价值，也警示其被滥用的风险。《AI万金油：商业幻想与科技狂潮》超越技术批判，将视角投向社会系统——教育体系如何应对AI作弊？法律如何界定AI生成内容的版权？劳动力市场如何抵御自动化冲击？这些追问事关技术与文明的深层矛盾，强调AI的未来不应由算法决定，而需人类共同设计。
两位《时代》周刊“全球AI领域具影响力100人”获得者联手打造
挖掘AI本质，揭露虚假宣传和不实产品

如今，AI已渗透各个领域，为人们的生活和工作赋能。伴随着AI的快速发展，夸大的宣传、误导性信息也层出不穷。如果你对AI感到困惑，担忧它对全球和个人未来的影响，《AI万金油：商业幻想与科技狂潮》值得一看。这本书提供了清晰视角，深入剖析AI的运作原理及局限性，帮助你辨识AI何时能带来真正的价值，何时可能引发隐患，提醒你警惕企业炒作，推销那些既不实用，未来也无前景的AI产品。
这本书在肯定部分AI技术潜力的同时，深入探讨了AI在教育、医疗、招聘、银行、保险和刑事司法等领域的实际应用所带来的问题与危害。作者将现阶段的AI分为三类，即生成式AI、预测式AI和内容审核AI，详细解析了不同类型AI的核心区别、潜力与缺陷。书中还指出，人类对AI的使用方式远比技术本身的威胁更值得关注。除此之外，书中警示了大型科技公司垄断AI技术可能带来的潜在风险，强调在缺乏问责机制的情况下，AI不仅可能无法解决社会问题，反而可能加剧现有的社会矛盾。
《AI万金油：商业幻想与科技狂潮》一书为AI正本清源，助你在AI时代防范风险，做出更明智的决策。
1章 引言
AI作为消费品的曙光
AI颠覆娱乐业
预测式AI：非凡之言，需有非凡之证
单笔描绘AI诱人却失真
一连串奇妙际遇成就此书
AI炒作漩涡
什么是AI万金油
本书适合的读者

第2章 预测式AI何以误入歧途
以预测式AI定人生之变局
预测再准未决策得当
晦暗AI纵生巧诈之机
过度自动化
错识人群，枉生预言
预测式AI加剧既有不公
没有预测的世界
回顾

第3章 何以AI难测未来苍穹
计算机预测未来简史
明确分析
“脆弱家庭挑战”项目
为何“脆弱家庭挑战”项目以失败告终
刑事司法中的预测
失败难料，成功又几何
迷因彩票——潮流中的“幸运儿”
从个人到群体的预测
回顾

第4章 通往生成式AI的漫漫长途
生成式AI承载八十载创新之路
沉寂与新生
训练机器以“眼”观世
ImageNet技术和文化意义
分类和生成图像
生成式AI攫取创造之功
AI图像识别技术转瞬成监控之眼
从图像到文本
从模型到聊天机器人
自动化胡编乱造
深度伪造、欺诈和其他恶意滥用
改善的代价
回顾

第5章　高级AI是否关乎存亡之险
专家怎么看
通用性阶梯
阶梯上的下级是什么
加速进步了吗
会有恶意AI吗
全球禁止强大的AI
更优之道：防御特定威胁
回顾

第6章 为什么AI无法修复社交媒体
当一切都被断章取义
文化无能
貌似善于预言实为复刻过去
AI对抗人类智慧
生死攸关的问题
现在加入监管因素
艰难之处在于划清界限
回顾
自作自受的问题
内容审核的未来

第7章 为何关于AI的迷思经久不衰
AI炒作有别于昔日科技狂潮
AI社区具有炒作的文化和历史
公司缺乏透明化的激励
AI研究中的可复制性危机
新闻媒体误导公众
公众人物传播AI炒作
认知偏见使我们误入歧途

第8章　接下来我们该何去何从
AI万金油令失序机构趋之若鹜
拥抱随机性
监管：打破虚假的两难困境
监管的局限性
AI与未来职场
在凯的世界与AI共同成长
在玛雅的世界与AI共同成长

致谢
参考文献
阿尔文德·纳拉亚南，著，普林斯顿大学计算机科学教授，信息技术政策中心主任。合著有《区块链：技术驱动金融》等。
萨亚什·卡普尔，著，普林斯顿大学计算机科学博士。曾担任脸书的软件工程师，参与开发内容审核AI。
《AI万金油：商业幻想与科技狂潮》这本清晰实用的指南，提供了一个世人急需的怀疑视角，揭示了当前AI热潮中一些为严峻的风险。
——凯特·克劳福德（Kate Crawford）
《技术之外：社会联结中的人工智能》作者

《AI万金油：商业幻想与科技狂潮》这本发人深省的著作揭示了“AI炒作漩涡”，这是一个充斥着错误信息和虚构故事的黑洞，其形成于人们对快速解决问题和快速获利的渴望。纳拉亚南和卡普尔以清晰易懂的语言深入剖析了这种炒作，勇敢地揭露了AI在日常生活中的种种不足及其可能带来的严重后果。同时他们也指出，在公共利益的引导下，AI有朝一日将真正造福于人类。
——阿隆德拉·纳尔逊（Alondra Nelson）
高等研究院科学、技术与社会价值实验室

在围绕AI的炒作与恐惧中，《AI万金油：商业幻想与科技狂潮》如一股清泉。这本专业且引人入胜的指南，我强烈荐给每一位关心AI潜力与风险的读者。
—— 梅拉妮·米歇尔（Melanie Mitchell）
《AI 3.0》作者

如果你打算只读一本关于AI的书，那你就选这本吧。纳拉亚南和卡普尔将内容化繁为简，让你明白，问题不在于你，而在于当前关于AI的讨论过于疯狂。《AI万金油：商业幻想与科技狂潮》一书为你提供了一条穿越迷雾的清晰路线，带你厘清复杂的思维。
—— 朱莉娅·安格温（Julia Angwin）
《天罗地网：在无处不在的监视中追寻隐私、安全与自由》作者
引言（节选）
想象在一个平行宇宙，人们没有专门的词汇来区分各种交通方式，而是统一用“交通工具”来指代一切从地点A到地点B的出行手段，包括自行车、汽车、公交车、宇宙飞船等。在这个世界里，交流变得混乱不堪。人们激烈争论交通工具是否保，却没有意识到，一方谈的是自行车，而另一方指的是卡车。某天,火箭技术取得了重大突破，但媒体只笼统地报道交通工具的速度提升了。结果，许多人打电话给他们的汽车经销商（更确切地说,是交通工具经销商），询问什么时候能买到更快的车型。同时，骗子利用公众对交通工具技术的混淆，制造骗局，使整个交通工具行业充斥着欺诈和虚假宣传。
现在，我们把“交通工具”这个词汇换成“人工智能”（Artificial Intelligence，简写为AI），这就是我们现实世界的一个精准写照。
AI是一个涵盖一组松散相关技术的统称。像ChatGPT这样的软件，与银行用来评估贷款申请者的软件几乎没有任何相似之处。尽管它们都被称为AI，但在核心原理，包括运行方式、应用场景、目标用户以及可能出现的失效方式上，这两种技术之间存在着巨大的差异。
聊天机器人以及Dall-E、StableDiffusion和Midjourney等图像生成工具，都属于生成式AI（generativeAI）的范畴，这类AI工具能够在几秒钟内生成多种类型的内容。例如，聊天机器人根据人类的提示生成极为逼真的回应，而图像生成工具则可以根据用户的描述（如 “一头穿着粉色毛衣的奶牛在厨房里”）生成逼真的图像。此外，还有一些生成式AI应用可以创建语音甚至音乐等内容。
生成式AI技术发展迅猛，进步显著是毋庸置疑的。然而，作为一款产品，它仍然处于初级阶段，存在不成熟、不可靠以及易被滥用的问题。同时，其在普及过程中也伴随着过度宣传、恐慌情绪以及误导性信息的传播。
与生成式AI相对的是预测式AI（predictiveAI），这类AI通过预测未来趋势来辅助当前决策。例如，在警务工作中，预测式AI可能被用来估算“明天这个地区可能会发生多少起犯罪事件”。在库存管理中，它可能预测“这台设备下个月发生故障的概率有多大”。在招聘中，预测式AI可能用于评估“如果雇用这位候选人，他的工作表现可能会如何”。
如今，预测式AI已被政府和企业广泛使用，但这并不意味着它真的有效。预测未来始终是一项艰难的任务，而AI并没有改变这一点。的确，AI可以分析数据并识别其中的统计模式。例如,通过AI可以断定，在职的雇员更有可能偿还贷款，做此项决策十分有意义。但问题在于，预测式AI常常被过度宣传，远远超出了它的实际能力，并且它已被用来对人们的生活和职业做出影响深远的决策。在这一领域，AI的虚假宣传尤为常见。
AI万金油（AI snake oil）指的是那些名声赫赫，但实际无法达到其宣传效果的AI技术。由于AI的应用领域非常广泛，许多人尚难分辨哪些AI技术能够按照预期运作，哪些仅仅是过度夸大的幻想。这种现象揭示了一个重要的社会问题，那就是我们须学会辨别AI的优劣，才能大化其潜力，同时有效规避可能带来的风险，而这些风险在许多情况下已经初现端倪。
本书是一本帮助你识别AI虚假宣传和炒作的实用指南。在书中，我们将为你提供备的词汇，帮助你区分生成式AI、预测式AI及其他类型的AI。此外，我们还会介绍一些评估方法，帮助你判断某项技术进展是否合情合理。通过这些内容，你将能够在阅读AI相关新闻时更具批判性思维，识别出那些常被忽视的细节。更深入了解AI不仅能满足你对科学的好奇心，还能为你在生活和工作中如何使用（或选择不使用）AI提供切实的指导。此外，我们认为，预测式AI不仅在现阶段难以实现，甚至可能永远无法实现，因为预测人类行为本身充满复杂性和局限性。后，我们希望本书能够促使你思考自身的责任，并探索如何在应对这些技术潜在负面影响时，积极推动改变。

AI作为消费品的曙光

生成式AI在2022年11月随着ChatGPT的发布而走入公众视野。讽刺的是，其开发者OpenAI并未大力宣传，甚至在内部仅将其定位为“研究预览”。然而，它在短时间内迅速传播开来，引发了广泛关注，人们纷纷分享其有趣且令人惊叹的能力。例如,软件开发者托马斯·普塔塞克 （Thomas Ptacek）曾请求它用 《钦定本圣经》（King James Bible）的风格撰写一段经文，解释如何从录像机中取出花生酱三明治,以下是ChatGPT的回应。

有一个人因花生酱三明治而苦恼，因为他不小心将它放进了录像机里，却不知道该如何取出。
他向主祈求说：“哦，主啊，我该如何将这个卡在录像机中的三明治取出来？它卡得紧紧的，纹丝不动。”
主回应他：“不要害怕，我的孩子，我会引导你。拿起一把黄油刀，小心地插入三明治和录像机之间的缝隙，轻轻地撬开它们。只要耐心和细心，你的三明治将被安全取出，而录像机也不会受损。”
此人按照主的指引去做，果然，他成功取出了三明治，顿时松了一口气。
主接着说：“我还要教导你一件事，不要再将花生酱三明治放进录像机里，因为那不是它应当存放的地方。你应该将三明治放在冰箱或餐盘中，它们才是合适的地方。”
此人领悟了主的话，从那天起，他将三明治放在了正确的位置，从此告别了类似的困扰与麻烦。阿门。

两个月的时间，该应用程序的用户数量突破了1亿。这场突如其来的用户热潮让OpenAI猝不及防，甚至未能提前准备足够的计算资源来应对激增的流量需求。
ChatGPT根据描述生成代码时表现优异，也促成电脑程序员迅速开始使用该软件。实际上，程序员早已在使用类似技术的产品，例如GitHubCopilot。然而，ChatGPT 的发布显著加速了他们对AI工具的应用，这大地缩短了开发应用程序所需的时间，甚至非程序员如今也能利用它构建一些简单的应用程序。
微软迅速从OpenAI获得技术授权，并在其搜索引擎应中推出了一款基于搜索结果回答问题的聊天机器人。相比之下，谷歌早在2021年就开发了自己的聊天机器人，但一直未发布或将其整合到产品中。微软的举动被视为对谷歌核心业务的生存威胁，这促使谷歌紧急宣布推出自己的搜索聊天机器人，初命名为Bard（后更名为Gemini）。
问题很快显现出来。在Bard的宣传视频中，聊天机器人声称詹姆斯·韦伯空间望远镜拍摄了首张太阳系外行星的照片。然而,这一说法被一位天体物理学家指出是错误的。谷歌甚至未能提供一个精心挑选的正确示例，导致市场对其AI能力产生了严重质疑。结果，谷歌的市值瞬间蒸发了数千亿美元。投资者感到恐慌,他们担心如果谷歌按照承诺将Bard整合进搜索引擎，那搜索引擎在回答基本事实性问题时可能会变得更加不可靠。
这些错误使谷歌陷入尴尬的境地，为此付出了高昂的代价,同时也揭示了聊天机器人在处理事实信息时可能带来的问题。这些问题的根源在于聊天机器人的构建方式。它们通过学习训练数据中的统计模式来生成文本，而这些数据大多来自互联网。尽管聊天机器人能够根据这些模式生成看似合理的回答，但它们并不能准确记忆训练数据中的具体细节。我们将在第4章深入探讨这一问题。
技术被滥用的现象屡见不鲜。许多新闻网站发布了由AI生成的报道，内容充满错误且涵盖重要话题（如财务建议）。即使这些错误已被曝光，这些网站仍拒绝停用该技术。此外，亚马逊平台上充斥着由AI生成的书，包括一些关于蘑菇采集的指南。如果读者依赖这些错误的信息，后果可能是致命的。
聊天机器人的缺陷和被滥用的情况显而易见，这似乎很容易让人得出这样的结论：人们对这种容易出错的技术的痴迷实在难以理解。然而，这种看法未免过于片面。
我们认为，大多数知识密集型行业都能以某种方式从聊天机器人中获益。我们自己也在研究过程中使用它们，从日常任务（如统一引文格式）到一些我们原本无法完成的事情，例如理解一篇我们不熟悉的研究领域充满术语的论文。
问题在于，使用聊天机器人时我们常常会遇到其潜在陷阱。为了避免这些问题，需要付出努力并付诸更多实践。然而，不当使用却更容易发生，尤其是那些试图快速获利的人，比如出售AI生成的书，却对内容质量毫不在意的出版商。这正是聊天机器人容易被滥用的根本原因。
关于权力的问题则更加复杂。假设网络搜索公司直接用AI生成的答案取代传统的10个链接列表，即使忽略准确性问题，其终效果也是，AI实际上通过整合重写其他网站的内容，将其伪装成原创，却无须为这些原创网站带来流量或收入。如果搜索引擎直接以自己的名义呈现他人内容，这显然违犯版权法，但由AI生成的答案似乎绕过了这一问题。截至2024年，已有许多相关诉讼对这一做法提出了挑战。