来源:
图片来源:工具生成。
GPU，GPU还是GPU，AI掀起的“计算革命”不仅让几乎垄断GPU市场的英伟达成为聚光灯的焦点，也让Open AI的CEO一次次在采访中谈到GPU的短缺。
5月29日，从事机器学习和人工智能的初创公司Humanloop的首席执行官拉扎·哈比卜(Raza Habib)邀请了包括OpenAI首席执行官山姆·奥特曼(Sam Altman)在内的20位开发者，共同探讨人工智能的未来，而整个讨论中最重要的主题就是——GPU的短缺是最大的瓶颈。
奥特曼表示，目前OpenAI最不满意的客户是API的可靠性和速度，而这个问题主要是GPU不足造成的。
这场计算革命使英伟达今年股价飙升170%，跻身万亿美元市值公司之列。在GPU持续供不应求的情况下，围绕NVIDIA的狂欢还会继续吗？
OpenAI非常依赖GPU。
奥特曼表示，他们的下一步计划是不断更新GPT-4，使其更便宜、更快，而在开发过程中遇到的最大瓶颈是GPU的短缺。在采访中，有人指出:
长度为32k的上下文窗口至今未能普及，OpenAI也未能克服技术上的障碍，主要是因为算法的高复杂度。虽然很快会有100，000-100，000个新的32K上下文窗口令牌，但提供更多的令牌访问需要技术和研究上的突破。微调)API目前受限于GPU的可用性。他们还没有使用过适配器或者LoRa这样高效的微调手段，所以微调运维管理需要高精度的计算。以后会有更好的微调支持。他们甚至可能拥有一个社区贡献模型的市场。OpenAI提供的专用能力服务受限于GPU。当用户请求专用容量时，OpenAI需要确保有足够的GPU可供用户分配。但由于GPU资源有限，供应量有限。要使用这项服务，客户必须愿意预付10万美元。
对于OpenAI的未来发展，奥特曼表示，2023年，OpenAI的目标是尽可能降低“智能成本”，继续降低API的成本:
更便宜更快的GPT-4-第一个任务。更长的上下文窗口——在不久的将来，将会有多达一百万个上下文窗口令牌。微调API——微调API将被扩展到最新的模型中，但是它的具体形式将由开发者展示他们真正想要的东西。支持会话状态的API——现在当你调用聊天API时，你必须重复历史对话并重复支付相同的令牌。将来会有一个API的版本，可以记住对话历史。
在5月16日举行的AI大会听证会上，奥特曼已经表达了对计算能力瓶颈的担忧:由于计算能力的瓶颈，如果少一些人使用ChatGPT会更好。
英伟达的狂欢还会继续吗？
在这场AI大战中，华尔街高呼英伟达是唯一的“军火商”，其出人意料的业绩指引让市场开始了围绕英伟达的狂欢。股价再度攀升，市值一度突破万亿美元大关。
目前，包括谷歌和微软在内的许多科技巨头都使用英伟达芯片为AI业务提供计算能力。谷歌计划将生成式人工智能技术嵌入到六款产品中，每款产品的用户都超过20亿。
Nvidia在周一的COMPUTEX大会上推出了新产品，涵盖了从机器人到游戏的多个领域。它还宣布了一个新的超级计算机平台-DGXGH 200，以帮助新一代的大人工智能模型。谷歌、微软和Meta有望成为获得接入的首选客户。会上，英伟达首席执行官黄仁勋表示，全球有4万家大公司和1.5万家初创企业正在使用英伟达的技术。
英伟达最近表示，该公司正在扩大供应，以满足不断增长的需求。英伟达首席执行官黄仁勋周日表示，该公司已经增加了用于生成式人工智能的新旗舰芯片H100的产量。
温馨提示：注：内容来源均采集于互联网，不要轻信任何，后果自负，本站不承担任何责任。若本站收录的信息无意侵犯了贵司版权，请给我们来信(j7hr0a@163.com)，我们会及时处理和回复。
原文地址"更快、更便宜！Sam Altman最新访谈透露OpenAI下一步计划，目前GPU短缺是最大瓶颈"：http://www.guoyinggangguan.com/qkl/145406.html。
微信扫描二维码关注官方微信
▲长按图片识别二维码
