来源:
4月12日，微软宣布开源Deep Speed Chat，帮助用户轻松训练ChatGPT等大型语言模型，让每个人都能拥有自己的ChatGPT！(开放源地址:)
据悉，Deep Speed Chat是基于微软Deep Speed深度学习优化库开发的，具有训练和强化推理的功能，还采用了RLHF(人工反馈机制强化学习)技术，可以提高15倍以上的训练速度，但大大降低了成本。比如一个类似ChatGPT的模型，有130亿个参数，1.25小时就可以训练出来。
简单来说，通过深度极速聊天提供的“傻瓜式”操作，用户可以用最短的时间、最高效的成本训练出类似ChatGPT的大型语言模型，这预示着一个ChatGPT的时代即将到来。
微软为什么开源深速聊？
ChatGPT仅用了几个月就席卷全球，成为历史上发展最快的消费级应用，为推动世界经济发展和科学研发发挥了重要作用。很多企业和个人用户都想参与到这场AI技术变革中，但由于巨大的资源和资金投入，只能望而却步。
即使开源领域已经推出了骆驼、羊驼、骆马、Databricks-Dolly等优秀的类ChatGPT项目，但仍然缺乏基于RLHF的端到端大规模系统，这使得训练一个强大的类ChatGPT模型非常困难。
例如，使用上述开源项目训练一个具有67亿个参数的类ChatGPT模型，通常需要一个昂贵的多卡到多节点GPU集群，但这些资源对于大多数科学家、小企业和个人开发者来说都很难获得。
即使有这样的资源，现有开源系统的训练效率通常也不到这些机器所能达到的最大效率的5%。
现在，通过深度极速聊天，我们可以解决资源和算法的问题，轻松高效地训练出最先进的类ChatGPT模型，拥有数千亿个参数。
深度快速聊天技术简介
ChatGPT模型的训练基于InstructGPT GPT论文中的RLHF，使得现有的深度学习系统在训练类ChatGPT模型时存在各种局限性。现在通过深度速聊，可以突破这些训练瓶颈，达到最佳效果。
深度极速聊天有三个核心功能:强化推理、RLHF模块和RLHF系统。
简化ChatGPT类型模型的训练和强化推理:只需要一个脚本就可以实现多个训练步骤，包括使用Huggingface预训练模型和使用DeepSpeed-RLHF系统运行InstructGPT训练的全部三个步骤，生成自己的类ChatGPT模型。此外，还提供了一个易于使用的推理API来测试模型训练后的对话性能。
Deep Speed-RLHF模块:Deep Speed-RLHF再现了InstructGPT论文中的训练模式，并确保它包括三个步骤:a)有监督的微调(SFT)，b)奖励模型微调，c)基于人类反馈的强化学习(RLHF)。此外，它还提供了数据抽象和混合功能，以支持用户使用来自不同来源的多个数据源进行训练。
DeepSpeed-RLHF系统:将DeepSpeed的训练和推理能力集成到一个统一的混合引擎(deep speed hybrid engine或deep speed-he)中，用于RLHF训练。DeepSpeed-HE可以在RLHF中的推理和训练模式之间无缝切换，使其能够利用DeepSpeed-Inference的各种优化。
例如，张量并行计算和高性能CUDA算子用于语言生成，训练部分也可以受益于零基和基于LoRA的内存优化策略。DeepSpeed-HE可以在RLHF的不同阶段自动进行智能内存管理和数据缓存。
此外，Deep Speed Chat在成本、效率和可扩展性方面都非常出色。
高效且节约成本:在Azure云上训练一个OPT-13B模型只需要9个小时，训练一个OPT-30B模型需要18个小时。这两种培训分别花费不到300美元和600美元。
卓越的可扩展性:可以支持数千亿参数的模型训练，在多节点、多GPU系统上表现出卓越的可扩展性。所以，即使是130亿参数的模型，也能在1.25小时内完成训练。对于1750亿参数的模型，用深度速聊训练不到一天。
注:在Azure上训练时，由于GPU不同，训练时间和费用也不同。
全民聊天的时代已经到来。
打个不恰当的比方，微软开源的深速聊就像当年的互联网。为了提高开发率，降低了台式电脑的价格，让普通用户也能拥有自己的电脑。
只有更多的用户参与进来，整个行业生态才能快速发展壮大。所以微软的开源对整个ChatGPT生态发展起到了至关重要的推动作用，让每个人都能拥有自己的ChatGPT。
目前ChatGPT处于初级发展阶段，存在安全风险、数据隐私、伦理道德等问题。相信随着参与用户的增加，这些问题将得到有效解决，从而为全球经济发展做出贡献。
温馨提示：注：内容来源均采集于互联网，不要轻信任何，后果自负，本站不承担任何责任。若本站收录的信息无意侵犯了贵司版权，请给我们来信(j7hr0a@163.com)，我们会及时处理和回复。
原文地址"微软宣布windows开源，微软开源吗"：http://www.guoyinggangguan.com/qkl/159969.html。
微信扫描二维码关注官方微信
▲长按图片识别二维码
