-
![為超越 OpenAI GPT-4，Meta 不惜使用爭議數(shù)據(jù)訓練 Llama 3]()
-
![Meta 訓練 Llama 3 遭遇頻繁故障：16384 塊 H100 GPU 訓練集群每 3 小時“罷工”一次]()
Meta 訓練 Llama 3 遭遇頻繁故障：16384 塊 H100 GPU 訓練集群每 3 小時“罷工”一次
Meta 近日發(fā)布的一份研究報告顯示，其用于訓練 4050 億參數(shù)模型 Llama 3 的 16384 個英偉達 H100 顯卡集群在 54 天內(nèi)出現(xiàn)了 419 次意外故障，平均每三小時就有一次。其中，一半以上的故障是由顯卡或其搭載的高帶寬內(nèi)存（HBM3）引起的。 -
![大模型一對一戰(zhàn)斗 75 萬輪，GPT-4 奪冠，Llama 3 位列第五]()
大模型一對一戰(zhàn)斗 75 萬輪，GPT-4 奪冠，Llama 3 位列第五
關(guān)于 Llama 3，又有測試結(jié)果新鮮出爐 ——大模型評測社區(qū) LMSYS 發(fā)布了一份大模型排行榜單，Llama 3 位列第五，英文單項與 GPT-4 并列第一。 -
![對標 GPT-4，消息稱 Meta 最快下周發(fā)布兩款 Llama 3 模型]()
對標 GPT-4，消息稱 Meta 最快下周發(fā)布兩款 Llama 3 模型
科技媒體 theinformation 近日發(fā)布博文，表示 Meta 公司將于下周預告兩款 Llama 3 AI 模型，為今年夏季推出“完整形態(tài)” Llama 3 鋪墊。 -
![Meta 宣布改組旗下 AI 部門，正著手訓練自家下一代大語言模型 Llama 3]()
Meta 宣布改組旗下 AI 部門，正著手訓練自家下一代大語言模型 Llama 3
據(jù)外媒 The Verge 報道，Meta 公司最近對自家部門進行了大規(guī)模改組，主要整合了自家 AI 研發(fā)部門 Facebook AI Research（FAIR）與產(chǎn)品部門，將原本獨立的 AI 研發(fā)部門“變成產(chǎn)品部門的一部分”，并宣布已開始訓練下一代大型語言模型 Llama 3，意圖令 AI“成為公司發(fā)展核心”。
