Llama

LlamaはMetaが2023年から公開している大規模言語モデルのシリーズで、重みが公開されており誰でもダウンロードして利用できる。

記事2本最終言及

LlamaはMetaが開発した大規模言語モデル(LLM)のシリーズである。2023年2月に最初のモデルがLLaMAの名前で公開され、その後Llama 2、Llama 3、Llama 4と続いた。モデルの重みが公開されており、研究者や開発者が直接ダウンロードして実行やファインチューニングを行える点が特徴である。

Llamaはオープンウェイトモデルのエコシステムの基盤となった。さまざまなサイズのモデルが提供されており、個人のコンピュータやサーバーでローカルに実行する用途で広く使われ、これを基にした派生モデルや実行ツールが数多く作られている。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。

この項目を扱った記事

  • AIエージェントの性能改善、プロンプト最適化と重みの学習をどう使い分けるかAI性能 ·

    FireActでは、GPT-4の実行結果でファインチューニングした130億パラメータのLlama 2モデルが34.4%に達し、プロンプトで動かしたGPT-3.5の31.4%を上回りました。

    記事を読む
  • AIエージェント開発者が知るべきLLMの仕組みと設計ルールAI活用 ·

    RULERベンチマークのneedle-in-a-haystackタスクでは、エッセイのテキストにマジックナンバーを隠して末尾で問い合わせますが、Llama-2-7Bが8kトークンまで高い精度を保つのに対し、RWKV-v5-7BとMamba-2.8Bは2kから4kトークンを超えると急激に劣化します。

    記事を読む

説明の誤りや、見つからない項目はありますか?

事典の説明は、AIPOSTの記事と広く知られた事実をもとにまとめています。誤りは訂正依頼でお知らせいただければ、確認して修正します。新しい記事に登場した名前は、記事の公開後に事典に加わります。