NEW RELEASED ✨ Meta Llama 4 登場!✨ Meta 於2025年4月5日正式推出Llama 4 系列的大型語言模型! 目前包含👇 Llama 4 Scout, Llama 4 Maverick Llama 4 Behemoth (訓練中) 💡技術亮點: ❇️Llama 4 Scout 具109B的參數規模、17B的啟動參數,16個專家模組 提供高達10M的上下文視窗 並採用創新的iRoPE(交錯旋轉位置嵌入)技術 適合做多文件摘要、多步推理、長篇程式碼推理等應用 ❇️Llama 4 Maverick 和Scout相比,Maverick具有400B的參數規模,128個專家模組 是同類型產品中最好的多模態模型 推理能力超越了GPT-4o 和 DeepSeek-V3,在語言及視覺上都有亮眼的表現! ❇️Llama 4 Behemoth Behemoth人在訓練中 雖然未正式發布,但此為Llama系列中最大的模型 同時也是Maverick的教師模型🧑‍🏫 🔧應用: 多文件總結、圖像/影片理解、程式碼推理與生成 ❓開放性與授權測試 ❓效能差異與數據真實性 ❓語言支援情況 Llama 4 系列採用了MoE (Mixture of Experts) 架構 具備原生多模態處理能力— 可同時處理文字、圖片、影片等多種類型的資料 展現了生成式 AI 的下一個進化階段 不論是多模態理解、超長上下文推理及未來要推出的模型 都非常值得期待!🤩 #AI #meta #llama4 #moe ![489528324_1866126614188079_2353760794201377773_n](https://hackmd.io/_uploads/H1JK0ChAke.png)