奥本海默与人工智能，作者：Josep Maria Ganyet

sabiha782

预测未来是很复杂的。奇怪的是，由于我们一无所知，因此没有比其他预测更可靠的预测了。它们都属于科幻小说的范畴。这就是为什么不可能说一项技术发展何时会发生，或者目标社会是否会接受它以及它会产生什么影响。 有两个引人注目的例子可以说明这一点。每个人都知道蒸汽的重要性，以及托马斯·萨弗里和最终詹姆斯·瓦特的机器如何通过第一次工业革命改变世界。但很少有人知道蒸汽机在公元一世纪的后希腊化时期的希腊就已为人所知。亚历山大的数学家、工程师和发明家希罗开发了一种用锅炉打开寺庙大门的系统，该系统可提供高达 6 的力量马.力量。它之所以繁荣，并不仅仅是因为在亚历山大，让奴隶打开神庙大门的费用比维持复杂的蒸汽气动系统的费用还要高。 奥本海默， 年的一张照片 美联社照片/约翰·鲁尼 另一个例子是核能。20世纪初，英国化学家和物理学家（出生于新西兰）欧内斯特·卢瑟福是该领域的权威。作为原子结构的发现者和  年诺贝尔化学奖获得者，他知道原子可以储存大量的能量。然而，像他的许多同事一样，他坚信我们永远无法为了我们的利益而释放它。他在莱斯特发表演讲时说道：“任何在原子转变中寻找能源的人，他的头脑都是不正常的。

最近逃离纳粹德国的匈牙利物理学家利奥·西拉德（Leo Szilard）第二天在伦敦酒店吃早餐时在《泰晤士报》上读到了这篇报道。想着，他就出去散步了一会儿。当他回来时，他已经想到了引发核链式反应的方法。核裂变问 银行用户号码数据 题从不可能到解决，只用了一顿英式早餐的时间。 类比 人工智能和核能的发展有很多相似之处。一些奥本海默学徒会更喜欢它 这两个例子原则上可能相去甚远，但对于解决当前围绕人工智能的争论非常有用。与蒸汽、电力、核能或互联网一样，人工智能属于通用技术精英俱乐部的一部分，即在不同领域具有广泛应用且具有巨大变革潜力的技术。它们还有一个共同的特点：经济、社会和政治影响是无法预测的。社会准备好接受我们认为“智能”的技术了吗？ 它可能会发生在今天的人工智能身上，就像希腊的蒸汽机一样，这只不过是警察公民的一种消遣。我的意思是，对于富有的白人来说。许多国际科学家都断言，目前伟大的语言模型的道路迟早会碰壁，硅谷卖给我们的人工智能不会再走得更远。



记住海伦和卢瑟福。让我们记住，为了让“智能”聊天的结果对巴塞罗那的学生来说看起来很神奇，在低收入国家必须有一支注释者大军来标记哪些答案是最好的。因此，系统“学习”了我们对人类强化的偏好。但请注意，标签完全是主观的，取决于拥有该标签的公司认为可接受的内容以及贴标者的知识、生活经验和文化框架，这肯定与巴塞罗那学生的知识、生活经验和文化框架无关。 但还有另一群科学家、哲学家和商人持有相反的看法，他们说，就人工智能而言，我们已经是利奥·西拉德 (Leo Szilard) 徒步归来。不管正确与否，他们警告我们，即将发生的事情将超出所有预期和人类的理解：人工智能正处于一个可以呈指数级增长的时刻，如果我们做得不好，我们可能会失去控制。与核能及其发展的类比太强烈了：通用技术、指数过程、国家和企业竞相首先实现这一目标，以及地球上最聪明的人才致力于其发展。