PANews 3月18日消息,馬斯克的人工智慧公司xAI宣布開放其3140億參數混合專家模型Grok-1的權重和架構。 Grok-1是一個從頭開始由xAI訓練的大型語言模型,採用混合專家模型架構,其中25%的權重在給定令牌上處於活躍狀態。該模型的基本模型權重和網路架構現已根據Apache 2.0授權開放。 Grok-1的預訓練階段已於2023年10月結束,目前發布的是原始基礎模型檢查點,未針對任何特定應用進行微調。有興趣使用該模型的使用者可以按照github.com/xai-org/grok上的指南操作。
馬斯克的AI公司xAI正式公開Grok-1原始碼
評論
推薦閱讀
- 2024-11-23
PA日報| 川普提名對沖基金主管Scott Bessent出任財政部長;Magic Eden(ME代幣)TGE將於12月10日進行
- 2024-11-23
涵蓋26個賽道,盤點加密產業最值得關注的50個未發幣項目
- 2024-11-23
川普新政府成員的「加密地圖」:一覽核心決策者的加密持倉狀況及政策立場
- 2024-11-23
除了Vitalik購買的ANON外,Farcaster生態還有哪些AI Agent Meme幣值得關注?
- 2024-11-23
一週精選丨比特幣價格逼近10萬美元;Solana價格創新高;DeSci Meme爆發
- 2024-11-22
亞馬遜將向OpenAI最大競爭對手Anthropic追加投資40億美元