资料来源:新智元。
导读:谷歌DeepMind首席执行官哈萨比斯(Hassabis)爆料:新的Gemini模型将与AlphaGo和大语言模型相结合,成本预计数千万美元甚至上亿美元。
谷歌,真是破釜沉舟。
传说中的双子座,结合了AlphaGo和类似GPT 4的模型,终于来了?
一个是用强化学习打败人类围棋冠军,创造历史的AI系统。另一个是目前几乎称霸所有大车型榜单,一骑绝尘的最强大的多模态大车型。两个AI合在一起就无敌了!
谷歌DeepMind首席执行官哈萨比斯(Hassabis)最近告诉外媒Wired,Gemini仍在开发中,还需要几个月的时间,谷歌DeepMind已经准备好打入数千万美元甚至数亿美元。
此前,山姆·奥特曼透露,制造GPT-4的成本超过1亿美元。Google DeepMind当然不能输。
时间太长,无法阅读版本
双子座将结合AlphaGo和GPT-4的语言功能,系统解决问题和规划的能力将大大增强。
双子座是一个大的语言模型,类似于GPT-4,预计花费数千万到数亿美元,相当于开发GPT-4的成本。除了AlphaGO,还会有其他创新的双子星座将AlphaGo与强化学习和树搜索相结合。
强化学习允许AI从试错和反馈中学习,以解决具有挑战性的问题。树搜索方法有助于探索和记住场景中可能的运动。比如DeepMind在游戏场景中强化学习的丰富经验,会给双子座带来新的功能。
来自其他领域的技术(如机器人和神经科学)也将融入双子座。
下一个算法是超越ChatGPT。
OpenAI首席执行官山姆·奥特曼表示,GPT 5号离发布还有几天时间,至少在6个月内不会开始训练。双子座的发售日期还没有确定,可能会在几个月之内。
仍在开发中的Gemini也是一个用于文本处理的大型语言模型,本质上类似于GPT-4。
然而,谷歌DeepMind首席执行官戴密斯·哈萨比斯表示,Gemini将被集成到AlphaGo中使用的技术中,这将赋予系统规划和解决问题的新能力。
2016年AlphaGo战胜围棋世界冠军李世石的那一幕,至今记忆犹新。
哈萨比斯说,“可以说双子座结合了AlphaGo系统的一些优势和大语言模型的惊人语言能力。此外,我们还有其他一些有趣的创新。」
据说Gemini有之前模型没有的多模态功能,在整合工具和API方面非常高效。此外,双子座将提供多种规模,以支持未来的记忆和规划创新。
在三月份,有一种说法是双子座会有像GPT-4一样的万亿个参数。此外,据说双子座将使用数万个谷歌TPU人工智能芯片进行训练。
在上个月的谷歌开发者I/O大会上,谷歌提到,从一开始,Gemini的目标就是以多模态和高效的方式集成工具和API。
当时谷歌的预测是:“虽然还处于早期,但我们已经在Gemini中看到了以前的模型中从未有过的多模态能力,这非常令人印象深刻。」
AlphaGo背后的技术是强化学习,这是DeepMind首创的技术。
RL**随着时间的推移与环境相互作用,通过试错学习策略,从而实现长期累积回报的最大化。
通过强化学习,AI可以通过试错和接受反馈来调整自己的表现,因此它学会了处理困难的问题,例如在围棋或电子游戏中选择如何走下一步。
此外,AlphaGo还使用蒙特卡罗树搜索(MCTS)方法来探索和记忆棋盘上所有可能的动作。
这并不是哈萨比斯第一次搅起科技巨头的大规模人工智能淘金热。
2014年,DeepMind利用强化学习让AI学会玩简单的电子游戏。这个成绩很惊人,直接让DeepMind被谷歌收购。
谷歌的押注是正确的。
在接下来的几年里,DeepMind会时不时的产生一个惊艳的结果。
深度学习和强化学习正在解决许多经典的人工智能问题,如逻辑、推理和知识表示。
2016年,石破天惊的AlphaGo直接点燃了深度学习和第一轮AI产业的热潮。
2017年,AlphaGo Zero在没有使用人类数据的情况下,迅速超越了AlphaGo。
AlphaGo Zero
2020年,AlphaFold对蛋白质结构的预测与实验室技术相当,基本解决了蛋白质的折叠问题。
今年6月,AlphaDev创造了一种新的排序算法,这将彻底改变计算机科学的效率和成就。
相比OpenAI更一般的路线,DeepMind在垂直领域深耕多年。
语言模型的下一次大飞跃在哪里?双子座可能会引导下一代语言模型的方向。
背水一战——打一场生死战
显然,双子座是谷歌的最后一站。
谷歌开创的许多技术,如Transformer架构,使最近的人工智能洪水成为可能。
由于对技术的开发和部署过于谨慎,在ChatGPT和其他生成型AI的竞争面前,似乎暂时落后。
为了对抗ChatGPT,谷歌连续抛出几个动作,比如推出Bard,将生成式AI整合到搜索引擎等产品中。
为了集中精力做大事,4月份,谷歌干脆将哈萨比斯的DeepMind和谷歌主要人工智能实验室Google Brain合并为Google DeepMind。
哈萨比斯显然对适应后的新团队非常有信心。他说,这个全新的团队汇集了两股对人工智能最近的进展至关重要的力量。
“如果你看看我们在人工领域的地位,你会相信未来80%或90%的创新将来自其中一个团队。在过去的十年里,两个团队都取得了优异的成绩。」
新思想
训练一个像OpenAI的GPT-4这样的大型语言模型,需要从书籍、网页等来源输入大量精选数据集到“Transformer”中。
Transformer使用训练数据中的模式来巧妙地预测应该出现在后续文本中的每个字母和单词。
这种看似简单的机制在回答问题和生成文本或代码方面非常强大。
但这个看似简单的技术原理也遭到了很多行业领袖或人工智能专家的批评。
马斯克:目前AI技术的本质是统计
乐存:AI的智力水平不如狗。
OpenAI在GPT系列机型上的突破是基于变压器的核心技术,从根本上采用RLHF来增强机型的性能。
DeepMind在强化学习方面也有丰富的经验。
这让人们有很好的理由期待双子座未来可能表现出的创新能力。
更关键的是,哈萨比斯和他的团队还将尝试用人工智能其他领域的核心技术来增强大规模语言模型的能力。
DeepMind的技术积累非常广泛。
从机器人学到神经科学,他们的武器库中有各种各样的设备供他们选择。
比如像乐存这样的AI大佬说,Transformer把语言模型的能力过度限制在了文本的范围内。
像人类和动物一样,从世界的物理经验中学习可能是发展人工智能的最佳解决方案。
或许在双子座,人工智能会展现出其他方向的潜力。
不确定未来
哈萨比斯的任务是加速谷歌人工智能技术的发展,同时管理未知和潜在的严重风险。
大语言模型的快速进步,让很多人工智能专家担心这项技术是否会打开潘多拉魔盒,让人类社会付出难以接受的代价。
哈萨比斯表示,人工智能可能给人类社会带来的好处不可估量。
人类必须继续发展这项技术。
强行暂停AI技术的发展是完全不可操作的。
但这并不意味着哈萨比斯和他领导的DeepMind会不顾后果地推动技术的发展。
毕竟Google和DeepMind把AI技术的领导地位给了OpenAI。
很大一部分原因是对AI发展“过于负责”的态度。
网友:不看好
但对于未来双子星的发布,由于之前谷歌的保守态度,大部分网友似乎并不看好。
你认为这款类似AGI的车型什么时候会发布?
我赌10美元,谷歌永远不会发布这个东西。
如果有谁关注过谷歌的项目,就会发现他们一般都是先吹一会牛,然后什么都不发布,一年后再把项目砍掉。
不过对于谷歌在目前大语言模式中的贡献,网友还是认可的。
网友A:A:open ai使用的大语言模型技术基本上是Google发明的。
网友B:对,但是特斯拉发不了财,爱迪生可以。
这位网友非常看好DeepMind利用其在强化学习方面的经验,在大语言模型上做出的突破。
不过,他仍然认为,也许谷歌只会抱着改进现有产品的想法来推广这项技术,而不是推出新产品。
参考资料:
https://the-decoder . com/deep mind-founder-shares-details-on-Gemini-Google-next-gen-response-to-GPT-4/
本网站声明:网站内容来源于网络。如有侵权,请联系我们,我们会及时处理。
温馨提示:注:内容来源均采集于互联网,不要轻信任何,后果自负,本站不承担任何责任。若本站收录的信息无意侵犯了贵司版权,请给我们来信(j7hr0a@163.com),我们会及时处理和回复。
原文地址"见过谷歌ceo后,谷歌下一代手机":http://www.guoyinggangguan.com/qkl/142051.html。

微信扫描二维码关注官方微信
▲长按图片识别二维码