模型簡介

Llama3-70B-Instruct是Meta開發并發布的Llama3系列中規模為700億參數的大型語言模型（LLM），指令調優模型針對對話用例進行了優化，在常見的行業基準測試中優于許多可用的開源聊天模型。

使用場景

Llama3的預期用例是英語語境下的商業和研究。指令調優模型適用于類似助手的聊天，而預訓練模型可以適應各種自然語言生成任務。Llama3可供各種規模的個人、創作者、研究人員和企業使用。

超出范圍：以任何違反適用法律或法規（包括貿易合規法）的方式使用。以可接受使用政策和Llama3社區許可證禁止的任何其他方式使用。使用英語以外的語言。

評測效果

Llama3模型在標準自動基準測試下的結果。

技術亮點

• Llama3是一種自回歸語言模型，它使用優化的轉換器架構。優化版本使用監督微調（SFT）和具有人類反饋的強化學習（RLHF）來符合人類對幫助性和安全性的偏好。

• 使用分組查詢注意力（GQA）來提高推理可擴展性。

• Llama3在來自公開來源的超過15萬億tokens數據上進行了預訓練。微調數據包括公開可用的指令數據集，以及超過1000萬個人工注釋的示例。

版本列表

相關資源及引用

相關資源

• 許可證定制：商業許可證可在以下網址獲得：

• 有關模型的問題、評論及反饋，請參閱模型。

• 有關生成參數和如何在應用程序中使用Llama3的更多技術信息，請訪問。

相關引用

如對您有幫助，歡迎引用。

@article{llama3modelcard,

  title={Llama 3 Model Card},
  author={AI@Meta},
  year={2024},
  url = {//github.com/meta-llama/llama3/blob/main/MODEL_CARD.md}
}

免責聲明

Llama3-70B-Instruct模型，來源于第三方，本平臺不保證其合規性，請您在使用前慎重考慮，確保合法合規使用并遵守第三方的要求。