ベンチマーク
FreeToken ベンチマーク
一般向け GPU、ノート PC、ワークステーションでの実測 tokens-per-second 結果を掲載しています。正確なテスト条件に基づくプリフィルとデコードのスループットを確認できます。
ベンチマークとは？
ベンチマークでは、一般向けノート PC、ゲーミング PC、ワークステーション GPU における FreeToken の性能を測定します。1 秒あたりのトークン数、プリフィルとデコードの速度、メモリ使用量、CPU-GPU 帯域幅に重点を置いています。すべての結果に正確なテスト条件を記載しており、ft bench bw を使えば、自分のマシンでオフロードとハイブリッド MoE 実行のどちらを選ぶべきか判断できます。
ベンチマークを読む理由は？
1
現実的な期待値を設定する
自分の GPU クラスで実際に期待できる tokens/s を確認します
2
購入前に比較する
RTX 3090、4090、5090 のスループットと予算を比較検討します
3
セットアップを調整する
ft bench bw の結果を使って、オフロードとハイブリッド実行のどちらを選ぶか決めます
注目・必須
すべてのベンチマーク
技術ガイド
FreeToken 290bモデル：2026年版エッジMoEセットアップガイド
適応型キャッシュ、帯域幅スケジューリング、弾性メモリによって、FreeTokenがコンシューマー向けハードウェアでフロンティア規模のMoEモデルを提供する仕組みを解説します。
チュートリアル
FreeToken 753bモデル：セットアップガイドとMoEチューニングのヒント
FreeTokenがローカル環境で753BのGLM-5.2を提供する仕組みを解説します。セットアップ、メモリページング、MoEキャッシュ、ベンチマーク、実践的なチューニング方法を取り上げます。
ガイド
FreeTokenベンチマーク：ローカルMoEサービングセットアップガイド
FreeTokenベンチマーク、ローカルMoEサービング設計、ハードウェア要件、インストール手順、実測パフォーマンス結果を解説します。