整理丨S+ 出品丨奇点折射（ID：rgznai100） 盖茨又出来泼冷水了！ 在最新一期《Decoder》节目中，比尔·盖茨首先否认了自己是悲观主义者，但说的话却比悲观主义还悲观：AI 是人类有史以来最危险的技术。不是哪个模型危险，是整件事危险。 他把近期AI对社会的影响说得非常具体：未来两到三年，网络攻击和就业市场的负面就会明显起来。白领技能的稀缺性会消失。电话销售、客服、会计辅助这些岗位，AI会干得更快、更准、更便宜。他还说，不存在AI永远够不着的认知顶峰，数学界正在发生的事，别的领域也会发生。 再往后，他甚至给了一个 20 年的判断： 人形机器人盖房、种粮、做手术；大多数商品和服务， 人类劳动力不再是经济运行的必需条件。他甚至和Claude讨论过，能不能人为地保留 40% 的工作给人类，用提前退休、限制每周工时，维持一个像今天的社会。虽然听着像科幻，但他说 20 年还是相对稳妥的估计，也许会更短。 监管这块，他更是没给留面子。现在连强制性的模型审查都没有，监管还停在“你愿意就自愿联系我们”。面对人类历史上最危险的技术，这远远不够。开源模型可以开放，但安全防护不能被一键拆掉；要管平台、管分发，不是管芯片。想靠产品责任、把公司告上法庭来兜底？他说，荒谬。真有人发动生物攻击，你没法靠一纸判决解决。 他还把几个大家常用来宽心的话挨个顶了回去： AI 没有意识，但安全问题跟“意识”无关； 对齐没解决，就算解决了，也不等于解决就业和社会关系冲击； 数据中心你反不反对，它都会建； 把 AI 说成要么全是好处、要么全是坏处，都不公平； 中国对 AI 的热情和依赖度没有美国高，但政府更愿意为社会利益说“不”。 最值得行业停下来讨论的，是他对认知落差的判断：AI 行业内部人士对模型发出的警告，没有不真诚的成分，他们说的是事实，几乎业内所有人都认同；但行业之外，相信这些风险的人非常少，很多人觉得这是泡沫炒作。 以下为对谈原文，经整理后呈现，各位enjoy~ AI：有史以来最危险的技术 主持人： 很高兴再次和你交谈，盖茨。我想把这次谈话分成三个部分。首先，我想了解你如今如何看待 AI 这项技术、发展迅速的原因。以及究竟由谁来实施这些解决方案和管控措施，因为眼下这一点同样存在很大争议。我们从头说起，是什么让你觉得AI的发展速度已经快到我们还来不及做好控制它的准备？ 盖茨： 过去一年，AI 取得的进展令人惊叹。从编写代码、发现网络安全漏洞，到在生物学领域进行推理，再到与孩子或其他人建立关系，以及扰乱就业市场，这些能力都在迅速发展。如今 AI 拥有的强大能力意味着，这些事情都会发生，所以整个社会都必须做好准备。 主持人： 你认为这些风险是整个AI技术领域都会出现的，还是主要存在于如今各家公司开发的具体产品中？我的意思是，AI 是一个广泛的模型集合，其中一些是开源的，另一些则是专有的。除此之外，还有开发这些产品的公司，以及领导这些公司的管理者。 盖茨： 风险并不在于某个模型与另一个模型之间的差异。当然，短期内， 如果某些模型允许用户移除所有安全防护措施，那么它们就会带来极高的危险。 相比之下，那些会受到持续监控、确保网络攻击者和生物恐怖分子无法利用模型能力造成巨大危害的模型，风险就很不一样。 在更长的时间尺度上，控制问题会涉及任何处于最先进水平的模型。不过，只要能够确保安全防护措施始终有效，控制起来就会容易得多。 主持人： 你认为这种风险会分散在市场中，还是会随着技术发展，最终达到一个有害的程度，或者具备造成这些危害的能力？ 盖茨： 比如， 有人利用模型发动网络攻击，这并不是由你选择哪个模型决定的。 无论你选择什么模型，都无法改变这一点。 主持人： 但如果 Anthropic 设置了安全防护措施，也许它就做不到，对吧？ 盖茨： 是的，如果模型能够确保安全防护措施不会被移除，而且开发者投入大量精力来了解模型的使用方式、监控相关活动，那么这些模型在短期内带来的风险就不会非常大。 真正的问题在于那些可以被移除所有安全防护措施的模型 ，因为利用这些模型发动网络攻击的能力如今已经存在。 面对 AI 威胁，不要存在侥幸心理 主持人： 说到网络攻击，像 Hugging Face 遭遇的安全漏洞事件，以及我们看到的其他AI实验室网络安全事件，是否让你觉得我们已经跨越了某些临界点，因此你有必要公开发声，强调我们需要采取哪些管控措施？ 盖茨： 真正让我担忧的是这些模型在各个领域展现出的强大能力，包括社会关系、就业市场、网络攻击以及生物恐怖袭击。我们已经跨越了一个能力门槛： 这项技术远远超过以往任何被发明出来的技术，是迄今为止最危险的技术， 而且它将对经济以及战争的进行方式产生广泛而深远的影响。 事实上，业内人已经频繁地公开谈论这些问题。但 在行业之外，对这些风险的认知，甚
