ByteShape

ByteShapeは、独自の量子化技術ShapeLearnで圧縮したオープンLLMの重みを配布するAI企業である。

記事1本最終言及

ByteShapeは、大規模言語モデルの量子化(モデルの重みをより少ないビット数に圧縮してメモリ使用量を減らす技術)を専門とするAI企業である。独自技術ShapeLearnで公開モデルを低ビットに圧縮したGGUFファイルをHugging Faceで配布している。

ByteShapeが配布するモデルはllama.cppなどのローカル推論サーバーでの利用を想定しており、一般向けGPU一枚でも大きなモデルを動かせるようにすることを目指している。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。

この項目を扱った記事

  • 16GB・70WのGPUで27Bモデルを128kコンテキストで動かす検証結果AI性能 ·

    ByteShapeがShapeLearn量子化を施したQwen3.8-27Bは、重み1つあたり約3.01ビットのIQ3XS版で、ごく普通の自宅サーバー上でこれを実現し、その上でスループット、メモリ、推論、コーディング、エージェントの一連のテストを受けました。

    記事を読む

説明の誤りや、見つからない項目はありますか?

事典の説明は、AIPOSTの記事と広く知られた事実をもとにまとめています。誤りは訂正依頼でお知らせいただければ、確認して修正します。新しい記事に登場した名前は、記事の公開後に事典に加わります。