Unsloth

LLMのファインチューニングを高速・省メモリ化するオープンソースライブラリを開発し、量子化モデルも配布する米国のAIスタートアップ。

記事2本最終言及

Unslothは、大規模言語モデルのファインチューニングをより高速かつ少ないメモリで行える同名のオープンソースライブラリを開発する米国のAIスタートアップである。2023年に兄弟のDaniel HanとMichael Hanが設立し、サンフランシスコに拠点を置く。ライブラリはAttentionと逆伝播のカーネルを独自に最適化し、LoRA・QLoRA方式の学習をHugging Faceの標準実装より高速化しつつGPUメモリ使用量を削減する。

Llama、Qwen、Gemma、DeepSeekなど主要な公開モデルに対応し、コンシューマー向けGPU1枚やGoogle Colabの無料環境でも学習できることから、個人開発者や研究者の間で広く使われている。また公開モデルをGGUFなどに変換した量子化版をHugging Faceで配布しており、層ごとに異なる精度を適用するDynamic量子化(UD)方式で知られる。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。

この項目を扱った記事

  • 16GB・70WのGPUで27Bモデルを128kコンテキストで動かす検証結果AI性能 ·

    同じ課題セットは以前、UnslothがQ3KXLで量子化したベースのQwenモデル、つまりより大きなファイルに対しても実行されていました。

    記事を読む
  • ローカルLLMでコーディングエージェント4種を比較、修正数の差はわずかAI性能 ·

    構成には、UnslothのQwen 3.8 27B UD Q4KXL GGUFファイルを、llama.cppのllama-serverで配信して使いました。

    記事を読む

説明の誤りや、見つからない項目はありますか?

事典の説明は、AIPOSTの記事と広く知られた事実をもとにまとめています。誤りは訂正依頼でお知らせいただければ、確認して修正します。新しい記事に登場した名前は、記事の公開後に事典に加わります。