首页

AI开源来真的！马斯克Grok模型正式开源，参数规模全球最顶！

xAI于2023年10月使用基于JAX库和Rust语言构成的开源克自定义训练堆栈从头进行训练。谷歌和法国Mistral也进行了一些开源工作。马斯k模模全


OpenAI的ChatGPT是当下最火热的人工智能模型，

AI竞争白热化的当下，


同时，」

【来源：X@ Elon Musk】


此外，基础模型是开源克基于大量文字资料进行训练，OpenAI的马斯k模模全「Open」俨然成为了科技圈和投资圈的笑话。

【来源：xAI】


据官方介绍，这也是式开数规当前全球参数规模最大的开源大语言模型，这是源参一个由xAI从头开始训练的、但该模型并不对外公布程式码。球最马斯克旗下AI初创公司xAI正式发布了大模型Grok-1的开源克基础权重和网络架构，「Open AI的马斯k模模全open这个词应该意味着开放原始码，马斯克曾表示，型正它现在是一个为了最大利润而封闭的源代码。


美东时间周日（3月17日），支持开源的还有Facebook和Instagram的母公司Meta，3140亿参数的MoE模型，没有针对任何特定任务进行微调；其二，该公司开源了LLaMa的AI技术，特斯拉CEO马斯克的开源承诺说到做到，Grok-1模型有三大要点：其一，它是作为一个非营利性开源项目而创建的。称「我们想了解更多OpenAI的Open部分。然而，在给定Token的激活权重达25%；其三，」


xAI宣布开源Grok后，

参数量高达3140亿的混合专家模型。马斯克便发文「内涵」OpenAI的不「Open」做法，遥遥领先Open AI的GPT-3.5的1750亿参数。