重点:1。许多专家认为,人工智能取得的巨大进步正在帮助硅谷迎来一个奇异的时刻,我们即将迎来剧烈的、指数级的、不可逆转的变化。2.奇点理论的最大倡导者库兹韦尔(Kurzweil)预测,到2030年,计算机系统将通过图灵测试,与人类无法区分。再过15年,真正的奇点就会到来,那时“计算将成为我们自己的一部分,我们的智力将提高100万倍”。3.反对派的批评者认为,即使大语言模型取得了惊人的进步,也远未达到奇点理论所承诺的不朽和世界智慧的漫长历程。
图片来源:工具生成。
多年来,硅谷一直期待一种全新的技术出现,改变一切。它将把人类和机器结合起来,成为更高级的智能,为历史画出一个边界。这个里程碑时刻被称为“奇点”。
它可以以多种方式发生。一个风险是,人们可能会将个人计算机的处理能力添加到自己的先天智能中,成为自己的超级变种。或者,计算机系统可能变得如此复杂,以至于它们可能实际上假设并创造了一种世界范围的思维。
在这两种情况下,随后的变化可能是剧烈的、指数式的和不可逆转的。一台拥有自我意识的超人机器,可能比任何一组科学家都更快地设计出自己的增强功能,从而引发智能爆炸。几个世纪的进步可能在几年甚至几个月内完成。
人工智能正在科技、企业、政治等领域掀起前所未有的波澜。注意硅谷发布的夸张声明和疯狂预测。似乎承诺的数字天堂终于触手可及。
一向低调的谷歌首席执行官桑德尔·皮帅表示,人工智能的影响“比火、电或我们以前做过的任何事情都要深刻得多”。
亿万富翁投资者雷德·霍夫曼表示:“在这个星球上做出建设性改变的能力将得到前所未有的提高。”
微软联合创始人比尔·盖茨(Bill Gates)宣称,人工智能“将改变人们的工作、学习和旅行体验,并获得最佳的医疗保健和相互沟通方式。”
然而,这里有一个黑暗的转折点。这就像科技公司发布自动驾驶汽车时,警告它们可能会在你去沃尔玛购物的路上爆炸。
Twitter和特斯拉的掌舵人埃隆·马斯克(Elon Musk)上个月在接受采访时表示:“通用人工智能的出现被称为奇点,因为很难预测后面会发生什么。”但他表示,相信“一个富足的时代”会到来,但通用人工智能也“可能会毁灭人类”。
在科技界,人工智能最大的支持者是OpenAI的CEO山姆·奥特曼(Sam Altman)。这家创业公司的聊天机器人ChatGPT引发了目前的热潮。奥特曼说,人工智能很可能是“我们见过的最好的金融赋能,是许多人致富的力量。”不过,他也表示,马斯克的观点可能是正确的。马斯克对人工智能持批评态度,并创建了一个致力于开发脑机接口的组织。
上个月,奥特曼签署了一封由非营利组织人工智能安全中心发起的信,信中称“降低人工智能导致人类灭绝的风险应该是全球的优先事项”,它应该与“流行病和核战争”并列。其他签名者包括奥特曼的OpenAI同事以及来自微软和谷歌的科学家。
“世界末日”这个话题在硅谷已经耳熟能详,甚至是很多人热衷讨论的领域。几年前,似乎每个科技巨头都在一个遥远但仍可到达的地方建造了一个物质储备充足的末日地堡。2016年,奥特曼表示,他正在收集“武器、黄金、碘化钾、抗生素、电池、水、防毒面具,以及飞机可以到达的巨大苏尔区域。”有一段时间,新冠肺炎疫情让这些人觉得他们做的是对的。现在,他们正在为奇点做准备。
奇点的根
奇点的思想根源可以追溯到计算机科学家的先驱约翰·冯·诺依曼。20世纪50年代,他谈到“技术的加速进步”将如何产生“人类历史上的一些重要奇点”。
第二次世界大战期间,英国数学家欧文·约翰·古德在布莱奇利公园帮助破译了德国的恩尼格玛密码系统。他也是奇点理论的支持者。他在1964年写道:“人类的生存将依赖于超智能机器的早期发展。”导演斯坦利·库布里克曾在2001年就人工智能HAL:A House Odyssey向古德咨询过,这是计算机科学和科幻小说之间模糊界限的早期例子。
卡耐基梅隆大学机器人研究所教授汉斯·汉斯·莫拉维克认为,人工智能不仅是人类的一大福音,而且无生命的东西也可以在奇点进行回收。他在《心智儿童:机器人和人类智能的未来》中写道:“我们将有机会重现过去,并以真实而直接的方式与之互动。”
企业家兼发明家雷·库兹韦尔(Ray Kurzweil)一直是奇点理论的最大倡导者。他写过很多关于奇点的书,包括1990年出版的《智能机器时代》,2005年的《奇点临近》,现在他正在写《奇点临近》。
库兹韦尔预测,到2030年,计算机系统将通过图灵测试,与人类无法区分。他估计,15年后,真正的奇点将会到来,届时“计算将成为我们自己的一部分,我们的智力将会提高100万倍”。到那时,库兹韦尔可能已经97岁了。在营养维生素和膳食补充剂的帮助下,他希望继续观察未来的发展趋势。
对于一些批评奇点理论的人来说,软件编程领域的感知系统在智力上是一种可疑的尝试。麻省理工学院计算机科学和人工智能实验室前主任罗德尼·布鲁克斯说:“他们都想长生不老,也不必因为信神而不方便。”
目前推动奇点辩论的创新是因为大语言模型的出现,也就是那种为聊天机器人提供动力的人工智能系统。在与这些大语言模型对话的过程中,它可能会快速连贯地给出解决方案。
资深人工智能企业家、《人工智能:每个人都需要知道的事情》一书的作者杰里·卡普兰(Jerry Kaplan)说:“当你提出一个问题时,这些模型会解释它的意思,确定它应该给出的回应,然后将其翻译成文字。如果这不是自然智能,那是什么?”
卡普兰表示,他对自动驾驶汽车和加密货币等大肆宣传的奇迹持怀疑态度。他对人工智能的最新发展也有类似的怀疑,但他说他已经被说服了。他说:“如果这不是奇点,那一定是一场革命性的技术爆炸,它将广泛加速大量艺术、科学和人类知识的发展,同时也会产生许多问题。”
批评者反驳说,即使大语言模型取得了惊人的进步,也远未达到奇点理论所承诺的不朽和世界智慧的漫长历程。准确区分炒作和现实的缺点是驱动这项技术的引擎是隐藏的。OpenAI最初是一个使用开源代码的非营利组织,现在是一个营利性企业,批评者称它已经成功成为一个黑箱。谷歌和微软也提供有限的可见性。
大多数人工智能分析都是由公司完成的,从结果中可以获得很多。微软向OpenAI投资了130亿美元,其研究人员在4月份发表的一篇论文中得出结论,OpenAI的最新模型“显示了许多智能特征”,包括“抽象、理解、视觉、编码”和“对人类动机和情感的理解”。
斯坦福大学计算机科学博士学者Rylan Schaeffer表示,一些人工智能研究人员错误地描述了这些大型语言模型如何显示“新兴人才”,这些无法解释的能力在较小的变体中并不明显。
谢弗与斯坦福大学的两位同事白兰度·米兰达和桑米·科耶·乔在上个月发表的一篇分析论文中研究了这个问题。他们得出的结论是,新的热潮是测量误差造成的“海市蜃楼”。在IMPACT中,研究人员看到他们想看到的东西。
永生和永恒的利润
在华盛顿、伦敦和布鲁塞尔,立法者正在讨论人工智能带来的替代方案和问题,他们开始谈论监管问题。奥特曼现在正在全球巡演,希望转移早期的批评,宣传OpenAI是奇点的牧羊人。
这包括对监管持开放态度,尽管如何监管仍没有明确的框架。硅谷普遍认为政府的行动太慢,无法监控技术的快速发展。谷歌前首席执行官埃里克·埃里克·施密特(Eric Eric Schmidt)在最近的一次采访中表示,政府中没有人能做到这一点,他认为人工智能应该自我监管。
人工智能与奇点相似,被描述为不可逆转的技术趋势。奥尔特曼和他的几个同事上个月写道:“阻止它需要一个类似于全球监管体系的东西,即使这样也不能保证行得通。”他们补充说,如果硅谷做不到,其他地方可能会成功。
更不用说从这种趋势中获得的巨额收入了。虽然大家都在说人工智能是一个巨大的财富创造机器,但是变得富有的人只是那些已经富有的人。微软的市值今年飙升了5000亿美元。得益于人工智能芯片需求的激增,英伟达被认为是美国最受欢迎的上市公司之一。
奥特曼在推特上写道:“人工智能是这个世界一直想要的技术。”的确,这绝对是科技界一直希望的技术,它会在绝对最好的时机到来。去年,硅谷受到裁员和利率上升的打击,更早成长的加密货币领域陷入欺诈和失望。
查尔斯·斯特罗斯是小说《书虫的热情》的合著者之一,这是一部处理奇点的喜剧。他说:“这里的实际承诺是,公司将能够用某些软件程序来交换他们有缺陷、昂贵、缓慢和人工的信息处理子模型,从而帮助解决问题和降低管理成本。”
奇点一直被想象成一个伟大的“宇宙时刻”,令人兴奋。然而,目前人们之所以在讨论奇点,可能主要是因为美国公司想要削减人力,并且痴迷于增加利润。说的夸张一点,就是在你冲刺市值增加万亿美元的时候,连(高不可攀的)天堂也可以永远等下去。(文/陆瑾)
参考资料:
https://www . nytimes . com/2023/06/11/technology/silicon-valley-conflicts-the-idea-the-singularity-is-here . html
温馨提示:注:内容来源均采集于互联网,不要轻信任何,后果自负,本站不承担任何责任。若本站收录的信息无意侵犯了贵司版权,请给我们来信(j7hr0a@163.com),我们会及时处理和回复。
原文地址"人工智能帮助硅谷迎来“奇点”时刻?2045年人类智力可提高100万倍":http://www.guoyinggangguan.com/qkl/142508.html。

微信扫描二维码关注官方微信
▲长按图片识别二维码