马斯克信守承诺,xAI 开源 Grok-1 模型

马斯克信守承诺,xAI 开源 Grok-1 模型

马斯克(Elon Musk)拥有的 AI 新创 xAI 宣布开源 Grok-1 模型,让研究人员和开发者能以既有基础进行开发,也将影响 xAI 未来更新聊天机器人 Grok 的方式。

此一开源版本包含 3,140 亿参数混合专家模型(Mixture of Experts model,MoE)Grok-1 的基本模型权重和网络架构。xAI 透过官方部落格文章指出,该版本是采去年 10 月 Grok-1 预训练阶段的原始基础模型检查点,并未针对任何特定应用(如对话)进行微调。

xAI 是在 Apache 2.0 授权条款下对外开源 Grok-1,允许商业用途,但不包含用于训练模型的资料或与 X 连接以即时取得的资料。Grok 背后由 Grok-1 模型支援,用于编写程式码、创意写作以及回答问题。

业界虽然有许多完全开源的 AI 基础模型,如 Mistral AI 和 Falcon,但最广泛使用的模型并未对外开源,或在有条件开放使用。例如 Meta 的 Llama 2 虽然免费提供研究成果,但未满足开放原始码协会(Open Source Initiative,OSI)的要求,让每日用户超过 7 亿的开发者必须缴纳授权费,而且不允许开发者在 Llama 2 基础上进行迭代。

马斯克收购 X(前身为 Twitter)后,其演算法背后的程式码最终对外公开,他更批评那些不开源 AI 技术的公司,包括由他和奥特曼(Sam Altman)、布洛克曼(Greg Brockman)等人共同创立的 OpenAI。日前他对 OpenAI 提起诉讼,认为这家新创现在只想借由 AI 牟取利润而非促进人类福祉,背离公司最初使命。

(首图来源:xAI)

   特别声明    本页内容仅供参考,版权终归原著者所有,若有侵权,请联系我们删除。