据VentureBeat报道,专注于建立去中心化云和开源模式的加州公司Together最近宣布了RedPajama项目。据悉,RedPajama是Together、Ontocord.ai、ETH DS3实验室、斯坦福CRFM、Hazy Research和MILA魁北克人工智能研究所之间的合作项目,旨在打造领先且完全开源的大规模语言模型(LLM)。它的训练将基于LLaMA的1.2万亿令牌数据集。这些数据使任何组织能够预先训练模型并获得许可。未来几周,Together将基于RedPajama数据集发布一套完整的LLM和指令调整版本。该公司强调,即将推出的模型将完全开源,在商业上可行。
本文由会员发布,不代表本站立场。如有侵权,请联系我们删除!
温馨提示:注:内容来源均采集于互联网,不要轻信任何,后果自负,本站不承担任何责任。若本站收录的信息无意侵犯了贵司版权,请给我们来信(j7hr0a@163.com),我们会及时处理和回复。
原文地址"Together 联合斯坦福等机构开启 RedPajama 计划,旨在创建完全开源的大型语言模型":http://www.guoyinggangguan.com/qkl/155467.html。

微信扫描二维码关注官方微信
▲长按图片识别二维码