「Opus級のAIがVRAM 12GBで動く」はどこまで本当?
話題のStrata 0.2を一次情報で確かめた
公式リポジトリ・モデルカード・量子化の配布元・第三者の評価サイトを読み比べました。「本当のところ」と「書かれていない条件」を、図書館のたとえで分けて説明します。
結論:半分は本当。ただし「Opus級」と「12GB」には、見出しに書かれない条件が付きます
- Strataは実在します。ただしAIモデルの名前ではありません。大きなAIモデルを家庭のPCで動かすための無料アプリです(MITライセンス、0.2.0-betaは2026年10月19日公開)。
- 動かすモデルはAlibabaのQwenチームが作った「Qwen3.8-Flash-Next」です。「Opus級」の出どころは、Qwenが自分で測った成績表です。比較相手は最新ではない「Claude Opus 4.6」で、第三者の総合評価はまだ出ていません。
- 「12GBで動く」は本当です。ただしメモリ(RAM)48〜64GB、SSDの空き約70〜80GBも要ります。さらに中身を2〜3ビットに縮めた「縮刷版」を使うのが前提です。
- 縮刷版の成績は、原本にかなり近いと報告されています。ただしこれは縮刷した研究室自身の測定です。12GB機での速さは、利用者の測定で1秒に約19〜45トークンでした。
- 試す人がやることは3つです。①まず自分のPCのメモリを確かめる。②入手は公式のReleasesからだけにする。③共有機能とAIの自動操作はオフのまま始める。
一言でいうと「大図書館の本を、文字を小さくした縮刷版にして、自宅の机と本棚に分けて置けるようになった」話です。机(12GB)だけでは足りません。
目次
まずこの1枚:見出しを3つに分けて確かめる
「Strata 0.2:Opus級の高性能ローカルLLMがVRAM 12GBで動く」。2026年10月、こんな紹介がSNSや技術ブログで広がりました。
この1文には、確かめるべき主張が3つ入っています。1つずつ、開発元の資料と第三者の資料で確かめました。
図1:見出しを3つの主張に分けた確認結果。根拠は第3章・第4章と、最後の出典にあります。
Strata 0.2
本当GitHubのNiko1221/Strataで公開されています。0.2.0-betaが10月19日、最新の0.2.9は10月31日の公開です。
Opus級
条件つきQwenの表では、Opus 4.6と並べた16項目のうち15項目でQwenが上でした。ただし測ったのはQwen自身です。
VRAM 12GB
条件つきグラフィックカードは12GBで足ります。そのかわり、モデルの大部分はメモリ(RAM)に置きます。
「Strata」という名前の推論エンジンは、GitHubに少なくとも2つあります。この記事のStrataはNiko1221/Strata(MIT、12GB機向けのアプリ)です。ro99/strata(Apache-2.0)は別のプロジェクトです。こちらは大きな作業用PCを想定し、「4ビット未満には縮めない」方針です。ほかに、非公式のまとめサイトやフォーク(派生版)もあります。
たとえると「大図書館を自宅で使う」
図2:「12GBで動く」の正体。机(12GB)に全部を載せるのではなく、本棚(メモリ)と地下書庫(SSD)に分けて置いています。
このたとえで、見出しの2つの言葉を言い直すと、こうなります。
- 「Opus級」は原本の成績表の話です。縮刷版の成績は別に確かめる必要があります。
- 「12GBで動く」は机の広さの話です。本棚(メモリ)の広さは見出しに出てきません。
2つとも、それぞれは事実です。でも1つの文につなげると、「12GBのPCで、Opusと同じ性能がそのまま出る」と読めてしまいます。次の図は、その流れを示しています。
図3:2つの正しい事実が1文につながるとき、条件が抜け落ちる。
「Opus級」はどこまで本当か
出どころはQwenのモデルカードの成績表
Strataの公式資料(README・モデルの説明・仕組みの説明)には、「Opus」という言葉は出てきません。出どころは、モデルの開発元QwenがHugging Faceに載せたモデルカードです。そこにQwen3.8-Flash-Nextと「Claude-Opus-4.6 (Max)」を並べた表があります。
表のうち、Opus 4.6の点数が載っている項目を抜き出しました。点数はすべてQwenが公開したもの(開発元の自社の数値)です。
出典:Qwen3.8-Flash-Nextのモデルカード(Hugging Face、2026年11月2日に確認)。上の5項目のほか、SWE-bench Multilingual・NL2Repo-Bench・CoWorkBench・JobBenchと、画像系の7項目でも比べています。Opus 4.6の点数がある16項目のうち、Qwenが上なのは15項目で、下なのはHLEの1項目でした。
「Opus級」と言い切れない4つの理由
① 採点したのは開発元
表を作ったのはQwen自身です。試験の条件(どの道具を使わせたか、何回解かせたか)も、Qwenが決めています。CoWorkBenchとRecreationBenchは、Qwenが社内で作った試験です。
② 相手は最新のOpusではない
比べた相手はClaude Opus 4.6です。第三者の評価サイトArtificial Analysisには、すでに後継の「Claude Opus 5.5」が載っています。
③ 条件がそろっていない項目がある
SWE-bench Proでは、Opus 4.6だけ「公式に公開された点数」を使っています。ほかのモデルは、Qwenが問題を直した版で測り直しています。同じ物差しで測った比較ではありません。
④ 第三者の総合点がまだない
Artificial Analysisの総合指標(v5.0)では、11月2日時点でQwen3.8-Flash-Nextは「N/A(未掲載)」でした。外部の目による総合評価は、まだ出ていません。
「Qwen3.8-Flash-Nextの原本は、開発元の測定では、多くの試験でClaude Opus 4.6を上回った」。ここまでは一次情報で言えます。「Opusと同じくらい賢い」と第三者が認めた、とまでは言えません。
「12GBで動く」はどこまで本当か
机は12GBでいい。本棚が48〜64GB要る
Strataの資料によると、縮刷版のうち「専門家の本」の部分は、すべてメモリ(RAM)に置きます。目安は「本の量+約10GB(OSやほかのアプリ用)」です。グラフィックカードを大きくすると速くなりますが、必要なメモリは減りません(低メモリモードを除く)。
机の広さ
本棚の広さ。ここが本当の条件
+初回の追加分(約6GB)
縮刷版の大きさと成績
12GB機で使う縮刷版は、オーストリア科学技術研究所(IST Austria)の研究室ISTA-DASLabが作ったものです。Strataもこの縮刷版を最初に勧めています。成績は次のとおりです(縮刷版を作った研究室自身の測定)。
| 版 | 1つあたりのビット数 | ダウンロード | 必要なメモリの目安(Strata) | 3つの試験の平均 |
|---|---|---|---|---|
| 原本(BF16) | 16 | 354GB | 家庭のPCでは無理 | 93.12(基準) |
| Q2_0 | 2.40 | 66.4GB | 48GBで可 | 89.07(いちばん速い) |
| IQ2_XS | 2.50 | 68.0GB | 48GBで可 | 89.16 |
| IQ3_XXS | 3.00 | 75.8GB | 64GB | 92.57 |
| IQ3_S | 3.50 | 83.6GB | 64GB(ほかのアプリはほぼ閉じる) | 93.26(いちばん遅い) |
3つの試験は数学(AIME25)・理科(GPQA-Diamond)・プログラミング(LiveCodeBench v6)です。原本の点数は研究室が自分で測ったもので、Qwenのモデルカードの数字とは条件が違います。研究室自身も「原本を少し上回るのは誤差の範囲で、原本より賢いという意味ではない」と書いています。
たとえで言えば、文字をかなり小さくした縮刷版でも、試験の点はあまり落ちなかったという報告です。ただし試験は3種類だけです。日本語の文章や長い会話の質が同じかどうかは、この表からは分かりません。
速さ:12GB機では「1秒に約19〜45トークン」
速さの数字は2種類あります。開発元の測定と、利用者が測ってStrataのリポジトリに投稿した測定です。機種が違うので、単純には比べられません。
| 版 | 開発元の測定 RTX 5070 12GB+64GB | 利用者の測定 RTX 3060 12GB+64GB | 256トークンの返事が出るまで (利用者の測定) |
|---|---|---|---|
| Q2_0 | 毎秒94トークン | 毎秒約45トークン | 約6.4秒 |
| IQ2_XS | 毎秒79トークン | 毎秒約43トークン | 約6.8秒 |
| IQ3_XXS | 毎秒62トークン | 毎秒約26トークン | 約11.5秒 |
| IQ3_S | 毎秒53トークン | 毎秒約19トークン | 約16秒 |
開発元の測定はエンジン0.1.26の短い会話(Q2_0の行だけ0.1.36)、利用者の測定はStrata 0.1.41で、128トークンの質問に256トークン答えたときの中央値です(2026年10月9日、Windows 11)。長い文書(約12万8千トークン)を読ませると、最初の1語が出るまでQ2_0で約2分17秒かかりました。
「12GBで動く」は、メモリ48〜64GB、SSDの空き約80GB、2〜3ビットの縮刷版の3つがそろったときの話です。メモリ16GBの一般的なPCでは、このモデルは動かせません。メモリ32GBに12〜16GBのカードの組み合わせで動くのは、専門家を半分に減らしたコード専用の「Coder」版だけです(カードが24GBならQ2_0とIQ2_XSも動くと開発元は書いています)。開発元は、Coderはコード以外と、日本語を含む英語以外の言語に弱いと書いています。
0.2で増えたこと
- アプリになった(0.2.0):デスクトップアプリ・ターミナル・エンジンの3つに分かれ、Windows・Linux・Mac用のインストーラーが出ました。画像の読み取りも標準でオンになりました。
- DeepSeek V4.1-Flashにも対応(0.2.4):もっと大きなモデルも、12GBのカードで動かせるようになりました。ただし空きディスクが約245〜280GB必要です。速さもRTX 3060で毎秒6〜11トークン程度(開発元の測定、版により異なる)です。
- 更新がとても速い:0.2.0-beta(10/19)から0.2.9(10/31)まで、12日間で10回以上の版が出ています。この記事の数字も、すぐ古くなる可能性があります。
クラウドのOpus・Ollamaと比べると
「家でOpus級」を考える人が実際に比べるのは、クラウドのAIか、使い慣れたOllamaでしょう。3つを並べました。
| 比べる点 | クラウドのClaude Opus | Strata+Qwen3.8-Flash-Next(縮刷版) | Ollama公式のQwen3.8-Flash-Next |
|---|---|---|---|
| 必要なPC | ブラウザが動けばよい | VRAM 12GB以上+メモリ48〜64GB | いちばん小さい版でも105〜120GB(q4_K_M・MLX版) |
| 入力した文章の行き先 | 運営会社のサーバー | 自分のPCの中(開発元の説明) | 自分のPCの中 |
| 性能の根拠 | 第三者の評価が多い | 原本はQwenの自己採点、縮刷版は研究室の測定 | 原本はQwenの自己採点 |
| お金 | 利用料(API・プラン) | ソフトは無料。PC代と電気代 | ソフトは無料。大きなPCが要る |
| 手間 | ほぼなし | 約80GBのダウンロード、設定の確認 | 100GB超のダウンロード |
| 向いている人 | 手軽さと最新の性能を取りたい人 | 外に出せない資料を、手元の64GB機で扱いたい人 | メモリ128GB級の作業用PCやMacを持つ人 |
Ollamaの版の大きさは、ollama.comのライブラリ(2026年11月2日に確認)によります。なお、縮刷版の配布元はモデルカードに「OllamaやLM Studioでも動く」と書いています。この記事では、その動作は確かめていません。
メモリが足りないPCで手元のAIを使いたいなら、無理にこのモデルを選ぶ必要はありません。GPUの大きさ別のモデル選びは、Ollamaモデルおすすめ|GPU容量別ベスト5とOllamaの最適なモデル選びとパソコンスペックにまとめています。
あなたのPCで動く?4問で診断
Windowsなら、タスクマネージャー →「パフォーマンス」で数字を見られます。GPUの「専用GPUメモリ」がVRAM、「メモリ」がRAMです。
- NVIDIA GeForce RTX 20/30/40/50シリーズ、AMD Radeon RX 7700以降・RX 9060/9070、Apple Silicon(M1以降)のMac、AMD Ryzen AI Max(Strix Halo)、Intel Arc(Linuxのみ)なら → Q2へ
- それ以外(内蔵GPUだけのノートPCなど)なら → D
- はい → Q3へ(Macはメモリが共通なので、Q3の数字で判断)
- いいえ → D(12GB未満の報告もありますが、ここでは判定しません)
- 64GB以上 → A
- 48GB前後 → B
- 32GB → C
- 16GB以下 → D
- はい → A〜Cの判定どおり
- いいえ → 先に空きを作る。外付けHDDや遅いSSDだと、かなり遅くなります
判定の目安は、Strataの資料「Which model?」(2026年11月2日に確認)のメモリの表によります。実際に入るかどうかは、Strataの「plan(計画表示)」で確かめられます(次章)。
始め方(安全寄りの手順)
この記事では、Strataを実機では動かしていません。以下は、公式の手順を安全寄りに並べ直したものです。ファイル名の数字は、更新で変わります。
- 入手先を「公式のReleases」に決める
入手先は
github.com/Niko1221/Strataの「Releases」です。検索広告、まとめサイト、似た名前のリポジトリからは取らないでください。日本語の説明(README.ja.md)も公式にあります。 - 診断(第6章)で、入るサイズを決めておく
メモリが48GBならQ2_0かIQ2_XS、64GBならIQ3_XXSから試すのが目安です。
- アプリを入れる
Windowsは
Strata-0.2.9-windows-x64-setup.exeです。管理者権限は要りません。開発元によると、Windows版にはまだ電子署名がありません。そのため「WindowsによってPCが保護されました」という警告が出ます。公式のReleasesから自分で取ったファイルだと確かめられないときは、先に進まないでください。
- 初回起動で、グラフィックカード用のエンジンを取る
インストーラーにはエンジンが入っていません。最初の起動で、カードに合うエンジンの大きさが表示されます。そこでダウンロードします。
- モデルを選び、保存先を決めて取る
保存先は、空きの多いSSDにします。ダウンロードは約70〜80GBあるので、時間に余裕のあるときに行ってください。
- 最初は「共有オフ・エージェントはManual」のまま使う
「他の機器と共有」やトンネル機能は使わないでおきます。AIにファイル操作をさせるモードは、毎回確認が出る「Manual」(初期設定)のままにします(理由は次章)。
コマンドで使う人向けに、Strataには「何をダウンロードして、メモリをどう使うか」を実行せずに表示する機能があります。何も取らず、何も変えません。
strata launch --plan --family qwen --model iq2_xs
コマンドで入れる方法は、公式の「Install」ページにあります。1行で入れる方法は、ダウンロードした台本をそのまま実行する仕組みです。開発元自身が「台本を保存して、読んでから実行する」方法も案内しています。慣れていない人は、アプリ版を使ってください。
セキュリティ:ローカルの利点と7つの注意
ローカルで動かす利点
Strataの安全の説明(SAFETY.md)は、開発元がコードを読んで書いたものです。主な内容は次のとおりです。
- 会話・ファイル・画像・モデルはPCの中に残り、利用状況を送る仕組み(テレメトリー)はない
- モデルを取ったあとは、ネットにつながなくても動く
- サーバーは初期設定で自分のPC(127.0.0.1)からしか使えない
- 更新は署名つき、モデルのファイルはハッシュ値(指紋)で確かめてから使う
クラウドに出せない社内資料や個人的な文章を扱えるのは、ローカルAIの大きな利点です。ただし、開発元自身が「外部のセキュリティ監査はまだ受けていない」と書いています。上の説明は、第三者が確かめたものではありません。
7つの注意
① 偽物・似た名前
人気のツールは、偽の配布サイトに狙われやすくなります。同じ名前の別プロジェクトや、非公式まとめサイト、フォークもあります。入手は公式のReleasesからだけにします。
② 署名のないインストーラー
Windows版には、まだ電子署名がありません。警告が出るのが「正常」なので、偽物でも同じ警告になります。どこから取ったかが、唯一の確かめ方です。
③ 1行インストール
コマンド1行で入れる方法は、届いた台本をそのまま実行します。開発元も、普通のプログラムと同じ注意が必要だと書いています。
④ 共有・トンネル機能
アプリの共有機能はAPIキーがないと始まりません。ただし、エンジン単体のサーバーを鍵なしでネットワークに開くと、警告が出るだけです。ネットに丸見えのAIサーバーは、実際に多数見つかっています。
⑤ AIの自動操作(エージェント)
「Bypass」モードは、確認なしで何でもできます。「Manual」でも、承認した操作は、作業フォルダの外のファイルにも届きます。確認カードはよく読んでから押します。
⑥ 外部サービスのAPIキー
アプリに保存した外部サービスのキーは、本人しか開けないファイルに置かれます。ただし暗号化はされていません。不要なキーは保存しないでください。
⑦ 改造版のモデルとライセンス
「Uncensored」「abliterated」など、第三者が改造した版も出回っています。作り手を確かめてから使います。モデルの利用条件(Qwen Community License)は、AIサービス事業での商用利用には別の許可が要る、と定めています。
会社のPCで使うなら
ローカルでも、会社のAI利用ルールの対象です。大きなファイルのダウンロードや、ソフトの導入の許可が要るかを先に確かめます。
ローカルAIの守り方は、Ollamaの記事で詳しく説明しています。考え方はStrataにもそのまま使えます。
- ローカルLLMセキュリティ完全ガイド|Ollamaを安全に使う
- shodanでノーガードOllamaを検索!日本で解放されているOllamaの数は?(④の実例)
- 【シミュレーター】AIモデル鑑定士 〜怪しいGGUFを見抜け!〜(⑦のモデル選び)
- AIエージェント/MCPのセキュリティ|新しい攻撃面7つ(⑤のエージェント)
- 企業のAI利用ガイドライン雛形(会社で使う場合)
今やること3つとよくある質問
先にメモリを確かめる
VRAMより、メモリ(RAM)が48GB以上あるかが分かれ目です。第6章の4問で判定します。
公式Releasesから入れる
入手は Niko1221/Strata から。署名がないぶん、入手先の確認が唯一の守りです。
成績表より自分の仕事で試す
「Opus級」は自己採点です。共有オフ・Manualのまま、普段の作業で品質と速さを確かめます。
Strataは新しいAIモデルの名前ですか?
いいえ。Strataは、大きなモデルを家庭のPCで動かすアプリ(推論エンジン)です。中で動くモデルは、主にQwenの「Qwen3.8-Flash-Next」です。0.2.4以降はDeepSeek V4.1-Flashなども選べます。
Ollamaで同じことはできませんか?
Ollamaの公式ライブラリにもQwen3.8-Flash-Nextはあります。ただし11月2日時点では、いちばん小さい版でも105〜120GBでした。12GBのカードと48〜64GBのメモリで動かす工夫(2〜3ビットの縮刷版と、机・本棚の分担)が、Strataの特徴です。
ネットにつながないPCでも使えますか?
開発元の説明では、モデルを取ったあとはネットなしで動きます。オフラインのPCへの引っ越しの考え方は、OllamaをオフラインPCへ丸ごと引っ越す方法も参考になります。この記事では、Strataのオフライン動作は確かめていません。
本当にOpusと同じくらい賢いのですか?
開発元の測定では、原本は多くの試験でOpus 4.6を上回りました。ただし、第三者の総合評価はまだありません。家庭のPCで使う縮刷版も、原本とは別物です。自分の用途で試して判断するのが確実です。
Macでも使えますか?
Strataは、Apple Silicon(M1以降)のMacにも対応しています。Macはグラフィックとメモリが共通なので、必要な量は「VRAM+RAM」の合計で考えます。
詳しい人向け:数字の出どころと出典
モデル(Qwen3.8-Flash-Next)
- Hugging Faceの登録は2026-08-24。モデルカードには「Qwen4の土台になる構造の試験的プレビュー」とある。ライセンスはQwen Community License 1.0。
- パラメータは125B(1語あたり6Bが動く)。これとは別にn-gram埋め込み51BとMTP 4Bがある。48層・各層512エキスパートで、1語ごとに10個+共有1個を使う。512×48=24,576エキスパート。
- 文脈は262,144トークンで、最大1,000,000トークンまで伸ばせる。注意機構はGated DeltaNet+Qwen Sparse Attention(3:1)。
- 比較表のOpusは「Claude-Opus-4.6 (Max)」。SWE-bench ProのOpus欄だけは公式公表値で、他モデルは修正済みタスクで再評価した値(モデルカードの注記)。HLEの採点はGPT-4o。
縮刷版(ISTA-DASLab GSQ-RCO GGUF)
- 層ごとに量子化の型を割り当てる非一様量子化(GSQ+RCO、arXiv 2604.18556/2605.00649)。shard 1が本体、shard 2はn-gram表(51.2B、IQ4_NL固定で28.8GB)。
- 評価はAIME25・GPQA-Diamond・LiveCodeBench v6の平均。配布元は「100%超は誤差、原本より良いという意味ではない」と明記している。
- コード専用のCoderは、512エキスパートのうち256を残した版(IQ1_M相当)。配布元によると、SWE-bench Verifiedは原本の91%、LiveCodeBenchは99%。
Strata(Niko1221/Strata)
- リポジトリ作成は2026-09-24、MIT。0.2.0-betaは2026-10-19、0.2.9は2026-10-31(アプリ0.2.9、Control・エンジン0.1.55)。11/2時点でスター約3.8万。
- 配置:GPUには注意機構・ルーター・共有エキスパート・出力層・MTP・KVキャッシュと、よく使うエキスパートのキャッシュを置く。RAMには全エキスパートを固定して置き、CPUがGPUと並行して計算する。SSDにはn-gram表を置き、OSのキャッシュ越しに読む。
- MTPで最大3トークンを下書きし、1回で検証する。開発元によると、答えは同じまま1.6〜1.8倍速くなる。
- 利用者の測定(RTX 3060、v0.1.41)は、ISTA-DASLabのリビジョン
ed59f92を使い、温度0・推論オフ・INT8 KVで測った値。表の数字は128トークン入力時のデコード中央値。
確かめられなかったこと
- 第三者による総合評価(Artificial Analysis v5.0では未掲載)。旧版の指標の数字はブログなどで出回っているが、一次情報では確かめていない。
- 縮刷版の日本語の品質と、Strata上での品質。開発元は61問の自社テストを使っているが、外部の検証はない。
- Strataの安全の説明の正しさ(外部の監査は未実施)、オフライン動作、Ollama・LM Studioで縮刷版が動くかどうか。
- 12GB未満のカードで動くという派生版(フォーク)の主張。
出典(いずれも2026年11月2日に確認)
- Niko1221/Strata(README、Releases、docs/MODELS.md、docs/HOW_IT_WORKS.md、docs/SAFETY.md、docs/INSTALL.md、SECURITY.md)
https://github.com/Niko1221/Strata - Strata 0.2.0-beta リリースノート
https://github.com/Niko1221/Strata/releases/tag/v0.2.0-beta - 利用者の測定:RTX 3060 12GB, Strata 0.1.41(2026-10-09)
https://github.com/Niko1221/Strata/blob/main/bench/results/2026-10-09-community-rtx-3060-0141/README.md - Qwen/Qwen3.8-Flash-Next モデルカード・ライセンス
https://huggingface.co/Qwen/Qwen3.8-Flash-Next - ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-GGUF モデルカード
https://huggingface.co/ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-GGUF - Artificial Analysis:Qwen3.8-Flash-Next のページ
https://artificialanalysis.ai/models/qwen3-8-flash-next - Ollama ライブラリ:qwen3.8-flash-next のタグ一覧
https://ollama.com/library/qwen3.8-flash-next/tags - 同名の別プロジェクト:ro99/strata
https://github.com/ro99/strata


コメント