关于AI的发展赫拉利的担忧过头了

  • 学术交流
  • 2024年12月11日
  • 关于AI的发展,赫拉利的担忧过头了 “《人类简史》三部曲”让尤瓦尔·赫拉利蜚声全球,也让他的新书《智人之上:从石器时代到AI时代的信息网络简史》备受期待。 在《人类简史》中,赫拉利以历史叙事为主线,勇敢地将诸多宏大问题汇于一炉,突破学科限制和束缚,重回文艺复兴和启蒙运动时期百科全书式的“通人”“通学”传统,形成了难能可贵的“大历史”写作方式。《智人之上》延续了《人类简史》的写作风格。 一

关于AI的发展赫拉利的担忧过头了

关于AI的发展,赫拉利的担忧过头了

“《人类简史》三部曲”让尤瓦尔·赫拉利蜚声全球,也让他的新书《智人之上:从石器时代到AI时代的信息网络简史》备受期待。

在《人类简史》中,赫拉利以历史叙事为主线,勇敢地将诸多宏大问题汇于一炉,突破学科限制和束缚,重回文艺复兴和启蒙运动时期百科全书式的“通人”“通学”传统,形成了难能可贵的“大历史”写作方式。《智人之上》延续了《人类简史》的写作风格。

《智人之上》大部分内容在回顾人类社会的网络发展史。赫拉利认为,人类的力量归根结底来自大规模合作网络,因此人类所有问题归根结底是联结问题。从石器时代至今天的网络时代,是从以故事、文件等为典型信息的“人类网络”,向AI(人工智能)或自行决策的计算机成为完整成员的“非生物网络”演进的历史。而人类信息网络的目标,不是趋向于真理、智慧,而是强调秩序的建构与维护,因此产生了强大的力量,但并没有获致多少智慧。

在历史回顾的基础上,赫拉利指出,一直以来存在三种信息观,即天真的信息观、民粹主义的信息观和客观的信息观。前两种是极端的、错误的信息观念,赫拉利均表示反对。他反对所谓天真的信息观,即认为信息本质上是好事,拥有的信息越多越好,只要有足够的信息和时间,我们就能发现真理和,增长人类智慧。他也反对民粹主义的信息观,即认为信息本质上就是权力,或者获得权力的武器,根本没有什么真理和。

赫拉利信奉的信息观可以称之为客观的信息观。即网络中既有,也有谎言,这不可避免,因为人类联结的目标不是真理而是秩序。不过,“应该强调的一点是,拒绝天真的信息观、拒绝把信息视为对现实的呈现,并不代表拒绝承认有所谓,也不代表必须接受将信息视为武器的民粹主义观点”。

在客观的信息观指导下,赫拉利审视、极权及其与AI的关系。在他看来,与极权是两种不同的人类网络,前者是分布式的,后者是集中式的。而所谓信息的根本问题在于——AI有利于,还是极权?对此,赫拉利认为,无论是还是极权,AI既有有利的一面,也有冲突的地方。

赫拉利还认为,在国际领域,AI可能通往“硅幕”,它并非如冷战时期的“铁幕”分隔东西阵营,而是通过垄断AI能力分隔“AI霸主国”与“AI附从国”。因此,AI时代的信息网络,可能加剧人类既有冲突,让人类“比过去任何时候更接近自我毁灭”。赫拉利预计,其中一种很可能的毁灭方式是AI统治人类,即“如果21世纪真会有某个极权主义网络成功征服世界,其背后的掌控者可能并不是人类的者,而是某种非人类智慧”。

总的来说,赫拉利对于智能社会的未来偏向于技术悲观主义。在《智能之上》中,他一再强调AI的社会冲击远超之前人类信息网络的变革,比如印刷术的出现。同时,他又认为本质上“人类的信息网络重秩序而轻真理”,因而自我修正机制堪忧。显然,威力巨大的AI,加上纠错困难的秩序网络,当然会使人秉持悲观立场。但仔细想想赫拉利的立场,还是有值得斟酌之处。

首先,在目前的信息网络中,AI并非如他所说的成为“自行决策”的节点,而是仍然处于人类的控制之下。至于AI主导信息网络,基本上还处在科幻想象之中。目前,各种“AI觉醒”“AI统治人类”的论调在社会中很普遍,这很大程度上是资本和媒体夸大炒作的结果,与AI现实发展状况相去甚远。此类“AI宣传术”和拟人化AI文化的流行,容易催生“AI焦虑”“AI恐惧”,甚至导致相关政策部门的误判。

其次,仍然是人类信息网络中最重要的目标,绝非他认为的始终服从于秩序的次要目标。传播当然有阻力,比如布鲁诺被烧死在罗马鲜花广场,但从长远来看,最终战胜谎言是人类信息网络的常态。赫拉利认为,谎言、阴谋论比真理、更容易在信息网络中传播,“原因并不难理解。印刷术与书商从《女巫之锤》这种狗血故事中赚到的钱,要比从哥白尼的《天体运行论》这种枯燥的科学专著中赚的多太多了”。他的论据显而易见是错误的:《天体运行论》仍然在印刷,而《女巫之锤》早不见踪影,到底谁赚取了更多利润?

最后,AI只是一种复杂的技术工具,人类的未来并非AI技术所能决定的。实际上,赫拉利也在《智人之上》中反对技术决定论。比如,“现代科技除了能让人类有可能实现大规模,也有可能让人类实现大规模极权”。AI支持,还是支持极权,最终还在于人类自己的选择。出现问题时,追责于新科技,而不去反思社会制度,显然是推卸责任。

“AI悲观主义”无疑能给人警醒,让社会注意到AI发展中的各种风险,预先研究、提前应对。但是,必须提醒读者注意:要看到AI实现人类福祉的巨大潜力,不要让AI承受太多本不应承担的压力,不要对AI的发展担忧过头。

无论如何,《智人之上》将学术思考和专业研究喜闻乐见地传播给人民群众,值得学习和提倡。连接象牙塔和社会,是知识分子的职责,亦对社会进步善莫大焉。高校和科研院所的优秀学者,在专业工作之余,应该抽出时间,尽力扮演好知识分子的角色。

《智人之上:从石器时代到AI时代的信息网络简史》,[以]尤瓦尔·赫拉利著,林俊宏译,中信出版集团2024年9月出版,定价:79元。出版社供图

猜你喜欢