马斯克的xAI公司正式开源了3140亿参数的大型语言模型Grok-1,包括权重和网络架构。这使Grok-1成为目前参数量最大的开源大语言模型。Grok-1采用混合专家(MoE)架构,在给定token上的激活权重为25%。xAI在2023年10月使用自定义训练堆栈从头训练了该模型,并遵守Apache 2.0许可证开源。
1.Grok-1 开源模型下载:【 磁力链接】 ,然后使用 【 Torrent 客户端】进行下载即可!
2.Grok 开源项目:【 Github】
3.如果需要在云端安装Grok-1大模型,可以通过【 租赁H100 云GPU】进行云端搭建
4.当然也可以直接调用HuggingFace
上一篇
©
ChatGPT中文站 ai.weoknow.com
SQL查询:
24 次内存占用:
8.00MB PHP 执行时间:
0.12 秒