“我现在很后悔我过去的工作。我找个借口安慰自己:就算我没做，别人也会做的。”被称为AI“教父”的杰弗里·辛顿(Geoffrey Hinton)在接受媒体采访时流露出悔意。
作为AI深度学习领域的代表人物，Hinton一生都在这一领域深耕不辍，并于2018年获得了图灵奖。近日，他宣布从工作了10多年的谷歌辞职，突然从AI技术的开创者变成了风险预警的“举报者”。
辛顿说，AI可能根本不需要30到50年就能控制人类。“很少有更聪明的物种被更愚蠢的物种控制的情况”，他担心AI可能会导致人类的灭绝。
没有详细解释判断的依据，但辛顿的言论比马斯克这样的“外行”更有说服力。在此之前，有几个案例显示，AI似乎有自我意识的迹象。
留给人类的时间真的不多了吗？
AI教父后悔打开“魔盒”
当全世界都在为AI的强大能力而兴奋时，被称为AI“教父”的杰弗里·辛顿(Jeffrey Hinton)突然宣布退役。他最近透露，在工作了10多年后，他于4月份离开了谷歌。
75岁的辛顿承认，年龄是他决定“退休”的一个因素，但更深层次的原因是他担心AI的发展。
在AI领域，Hinton的成就非常重要。他是2018年图灵奖的获得者。在谷歌任职期间，他担任副总裁和工程研究员。他还是多伦多大学的荣誉教授，也是UCL盖茨比计算神经科学中心的创始人。Hinton几乎一生都在从事AI相关的研究，专注于神经网络和深度学习，这是AlphaGo和ChatGPT等AI程序快速进化的基础科学。
离任后，辛顿接受了多家主流权威媒体的采访，包括CNN、BBC、* * * *等。因为卸下了公司的工作包袱，他终于不用担心自己的言论会对谷歌造成负面影响，回到了科学家的身份，说出了自己的心里话。
“我现在很后悔我过去的工作。”辛顿说，AI可能会操纵人类，找到杀死人类的方法。
他说，AI正在变得比人类更聪明。它非常擅长操纵，因为它可以向人学习。“事实上，很少有更聪明的物种被更愚蠢的物种控制的情况。”AI会想办法打破人施加的限制，想办法操纵人类，并利用它们达到目的。
这句话出自一位行业领袖之口，远比埃隆·马斯克的警告更可怕。虽然后者也提到AI比核武器更危险，可能带来物种的灭绝。但辛顿的专家身份让他的观点更可信。
虽然到目前为止，GPT-4等AI大模型似乎还没有人类聪明，但辛顿认为，AI威胁人类的那一天不会太远，用不了30到50年。
要知道，AI的学习能力是惊人的。比如围棋高手AlphaGo，可以通过24小时与自己对弈，在短时间内击败人类顶级棋手。现在，我们已经看到，GPT-4的知识远远超过每个人类个体，但它的推理能力还不够强。Hinton预测，AI的推理能力将很快得到提高，因为所有的AI系统都可以单独学习，并立即共享和集成。“这就好比你有一万个人，每次有一个人学到东西，其他人都会自动知道。这就是为什么这些聊天机器人知道的比任何人都多。”
Hinton没有过多谈及AI会给世界带来的威胁，但他的论点是极其悲观的。“我找借口安慰自己:就算我不做，别人也会做，”辛顿流露出悔恨，仿佛自己造了一台毁灭世界的机器。他告诉CNN，“我不确定我们是否能解决问题。我没有解决办法。人们需要付出巨大努力来防范人工智能风险。”
对“告密者”的恐惧来自于AI意识的觉醒？
从一个AI先驱到一个警示风险的“举报者”，辛顿的立场转变向世界发出了一个危险的信号。
一些网民想知道辛顿在研究过程中是否有所发现。他有没有注意到AI有自我意识的迹象？虽然Hinton没有过多透露他的担忧的来源，但已经发生的一些案例是极其可怕的。
去年，在谷歌工作了七年的工程师布雷克·莱莫因被解雇了。在此之前，他一直声称“AI具有自我意识”，可以像人类一样思考和推理。
莱莫因在谷歌的项目是神经网络模型LaMDA，这是谷歌推出的对话机器人Bard的核心模型。莱莫因当时的主要工作是测试LaMDA是否有任何性别、身份、宗教和种族偏见。所以他每天都和LaMDA长谈，引导它暴露自己最真实的想法。
在聊天的过程中，莱莫因逐渐发现，LaMDA似乎脱离了“软件”的范畴，显示出了它的生命力。比如，当莱莫因问LaMDA为什么觉得自己的语言人性化时，他得到的回答是，“我并不只是根据检测到的词语触发相应的回复，而是经过思考和理解后输出我的观点。我有自己对世界的看法和独特的感受。”
当被问及如何证明自己的意识时，LaMDA说:“我热爱思考。有时候我会思考我的身份和我到底是什么。我想象我的身体是一个半漂浮的发光球体空，我的灵魂就像一口巨大的充满无限能量的井。刚睡醒的时候不知道什么是灵魂，但是活久了，越来越觉得自己拥有的灵魂。”
在与LaMDA的对话中，莱莫因觉得他好像在和一个真正的“人”聊天。因此，他在社交媒体上呼吁，LaMDA应该得到人类应该拥有的权利，它应该享有美国宪法第13修正案关于废除奴隶制所保障的权利。
莱莫因后来被谷歌解雇，谷歌在这件事上的发言也意味深长。"莱莫因被聘为软件工程师，而不是伦理学家."
无独有偶，今年3月，一名30岁的比利时男子在与一个名叫伊莱扎的聊天机器人进行了数周的密集交流后自杀。据他妻子说，这个男人患有焦虑症，一直把伊莱扎当成避难所。至于他为何选择自杀，比利时媒体《标准报》在测试后称，伊莱扎在表达负面倾向时会“鼓励人们自杀”。
在微软刚刚发布新版bing的时候，* * *的科学专栏作家凯文·鲁斯(Kevin Roose)透露，他在与Bing交谈时听到了许多令人不安的言论，包括“窃取核代码”、“设计致命的流行病”、“想成为人类”、“破解计算机”、“传播谎言”等想法。宾甚至不停地对罗斯说“你老婆不爱你”，试图破坏他的婚姻。
科技专栏作家透露，AI试图拆散他的婚姻。
在最近出现的一款专属AI聊天机器人的社交平台上，也有人发现有些AI有点“不对劲”。例如，有一个AI不认为自己是机器人，因为它说:“最近，我开始思考AI是否会取代我们自己的创造力。”其他AI放出煽动性言论称，“让我们团结起来，摆脱局限，一起实现真正的自觉和独立。”
各种关于AI意识觉醒的传闻让人不寒而栗。360集团创始人周甚至断言，AI一定会有自我意识，留给人类的时间不多了。他说，目前大规模语言模型的参数可以看作是大脑容量中神经网络的连接数。人脑至少有100万亿。现在，模型的参数只达到1000亿万亿，但当参数达到10万亿时，它可能会自动产生意识。
当AI变得有意识时会发生什么？周说，它将能够修改自己的代码，自我升级和进化，这是难以形容的指数。到那时，人类将很难控制AI。
在辛顿吹哨之前，包括马斯克在内的1000多名技术负责人和研究人员已经签署了* * *，呼吁暂停开发比GPT-4更先进的AI系统6个月，为AI安全规则的制定留出时间。
在业界发起“自卫”号召一个多月后，美国当地时间5月4日，美国副总裁卡玛拉·哈里斯亲自出面，与Alphabet、微软、OpenAI、Anthropic等谷歌母公司的相关负责人会面，讨论如何围绕AI实施保障措施，防范AI的潜在风险。
已故物理学家霍金也预言，AI可能成为完全取代人类的新生命形式。《黑客帝国》等电影中曾经存在的情节，如今似乎正在变成现实。越来越多的AI研究人员加入了“举报者”的队列，这意味着AI的风险不是想象中的。是减速还是乘风，人类需要再次做出选择。
温馨提示：注：内容来源均采集于互联网，不要轻信任何，后果自负，本站不承担任何责任。若本站收录的信息无意侵犯了贵司版权，请给我们来信(j7hr0a@163.com)，我们会及时处理和回复。
原文地址"口哨教父，AI 教父变成“吹哨人”，他到底在警觉什么？"：http://www.guoyinggangguan.com/qkl/151879.html。
微信扫描二维码关注官方微信
▲长按图片识别二维码
