「Opus級のAIがVRAM 12GBで動く」はどこまで本当?話題のStrata 0.2を一次情報で確かめた

ファクトチェック|ローカルAI

「Opus級のAIがVRAM 12GBで動く」はどこまで本当?
話題のStrata 0.2を一次情報で確かめた

公式リポジトリ・モデルカード・量子化の配布元・第三者の評価サイトを読み比べました。「本当のところ」と「書かれていない条件」を、図書館のたとえで分けて説明します。

Strata 0.2Qwen3.8-Flash-NextローカルLLMVRAM 12GB量子化2026年11月2日時点

結論:半分は本当。ただし「Opus級」と「12GB」には、見出しに書かれない条件が付きます

  1. Strataは実在します。ただしAIモデルの名前ではありません。大きなAIモデルを家庭のPCで動かすための無料アプリです(MITライセンス、0.2.0-betaは2026年10月19日公開)。
  2. 動かすモデルはAlibabaのQwenチームが作った「Qwen3.8-Flash-Next」です。「Opus級」の出どころは、Qwenが自分で測った成績表です。比較相手は最新ではない「Claude Opus 4.6」で、第三者の総合評価はまだ出ていません。
  3. 「12GBで動く」は本当です。ただしメモリ(RAM)48〜64GB、SSDの空き約70〜80GBも要ります。さらに中身を2〜3ビットに縮めた「縮刷版」を使うのが前提です。
  4. 縮刷版の成績は、原本にかなり近いと報告されています。ただしこれは縮刷した研究室自身の測定です。12GB機での速さは、利用者の測定で1秒に約19〜45トークンでした。
  5. 試す人がやることは3つです。①まず自分のPCのメモリを確かめる。②入手は公式のReleasesからだけにする。③共有機能とAIの自動操作はオフのまま始める。

一言でいうと「大図書館の本を、文字を小さくした縮刷版にして、自宅の机と本棚に分けて置けるようになった」話です。机(12GB)だけでは足りません。

1

まずこの1枚:見出しを3つに分けて確かめる

「Strata 0.2:Opus級の高性能ローカルLLMがVRAM 12GBで動く」。2026年10月、こんな紹介がSNSや技術ブログで広がりました。

この1文には、確かめるべき主張が3つ入っています。1つずつ、開発元の資料と第三者の資料で確かめました。

見出しの主張 → 一次情報で確かめた結果 「Strata 0.2」 って何? 実在する。ただしAIモデルの名前ではなく、 大きなモデルを家庭のPCで動かす無料アプリ。 同じ名前の別プロジェクトもあるので注意 本当 「Opus級」 誰がそう言った? モデルの開発元Qwenの自己採点。相手は 最新ではないOpus 4.6。しかも原本(フル版)の成績。 第三者の総合評価は11/2時点で未掲載 条件つき 「VRAM 12GB」 それだけで動く? 動く。ただしメモリ48〜64GB・SSD空き約80GB、 2〜3ビットに縮めた「縮刷版」が前提。 速さは機種しだい(利用者測定で毎秒約19〜45トークン) 条件つき

図1:見出しを3つの主張に分けた確認結果。根拠は第3章・第4章と、最後の出典にあります。

Strata 0.2

本当

GitHubのNiko1221/Strataで公開されています。0.2.0-betaが10月19日、最新の0.2.9は10月31日の公開です。

Opus級

条件つき

Qwenの表では、Opus 4.6と並べた16項目のうち15項目でQwenが上でした。ただし測ったのはQwen自身です。

VRAM 12GB

条件つき

グラフィックカードは12GBで足ります。そのかわり、モデルの大部分はメモリ(RAM)に置きます。

⚠ 名前の取り違えに注意

「Strata」という名前の推論エンジンは、GitHubに少なくとも2つあります。この記事のStrataはNiko1221/Strata(MIT、12GB機向けのアプリ)です。ro99/strata(Apache-2.0)は別のプロジェクトです。こちらは大きな作業用PCを想定し、「4ビット未満には縮めない」方針です。ほかに、非公式のまとめサイトやフォーク(派生版)もあります。

2

たとえると「大図書館を自宅で使う」

📚

このモデルは「専門家の本が約2万5千冊ある大図書館」です。1語を書くたびに、そのうち10冊ほどを開いて調べます。全部の本を毎回開くわけではありません。

Strataは、この図書館を自宅で使えるようにする司書です。よく開く本は机(グラフィックカード)に置きます。全部の本は本棚(メモリ)に、分厚い索引は地下書庫(SSD)に置きます。そのうえで、本そのものは文字を小さくした縮刷版にします。

※厳密な仕組みとは違うところもあります。最初の理解のためのたとえです。技術的な説明は第10章にあります。

原本(フル版) 約354GB Qwenが成績表を出したのはこちら 文字を小さくする(量子化) 16ビット → 2.4〜3.5ビット 縮刷版(ISTA-DASLab) 66〜84GB 12GB機で使うのはこちら 縮刷版を、PCの3か所に分けて置く 机=グラフィックカード VRAM 12GB ・毎回使う部分(注意の計算など) ・よく開く本を数千冊 ・使いながら入れ替える 1GB増えるごとに約700冊多く置ける 本棚=メモリ(RAM) 48〜64GBが目安 ・全24,576冊(専門家) ・机にない本はCPU(司書)が  その場で読む(机と同時に) ここが足りないと動かない 地下書庫=SSD 空き約70〜80GB ・分厚い索引(約29GB) ・1語ごとに数行だけ読む ・速いNVMe SSDが望ましい ダウンロードは66〜76GB+約6GB 数字はStrataの資料と、縮刷版の配布元(ISTA-DASLab)のモデルカードによる

図2:「12GBで動く」の正体。机(12GB)に全部を載せるのではなく、本棚(メモリ)と地下書庫(SSD)に分けて置いています。

このたとえで、見出しの2つの言葉を言い直すと、こうなります。

  • 「Opus級」は原本の成績表の話です。縮刷版の成績は別に確かめる必要があります。
  • 「12GBで動く」は机の広さの話です。本棚(メモリ)の広さは見出しに出てきません。

2つとも、それぞれは事実です。でも1つの文につなげると、「12GBのPCで、Opusと同じ性能がそのまま出る」と読めてしまいます。次の図は、その流れを示しています。

事実A(Qwen公式) 原本の成績は、多くの項目で Opus 4.6を上回る(自己採点) 事実B(Strata公式) 縮刷版なら、12GBの机+ 広い本棚で動かせる 紹介で1文に縮む 「Opus級が12GBで動く」 条件が落ちる 落ちた条件 ・採点したのは開発元 ・相手はOpus 4.6(最新でない) ・成績は原本、使うのは縮刷版 ・メモリ48〜64GBが必要

図3:2つの正しい事実が1文につながるとき、条件が抜け落ちる。

3

「Opus級」はどこまで本当か

出どころはQwenのモデルカードの成績表

Strataの公式資料(README・モデルの説明・仕組みの説明)には、「Opus」という言葉は出てきません。出どころは、モデルの開発元QwenがHugging Faceに載せたモデルカードです。そこにQwen3.8-Flash-Nextと「Claude-Opus-4.6 (Max)」を並べた表があります。

表のうち、Opus 4.6の点数が載っている項目を抜き出しました。点数はすべてQwenが公開したもの(開発元の自社の数値)です。

SWE-bench Pro (プログラムの不具合を直す力)

Qwen原本
62.5
Opus 4.6
53.4

GPQA Diamond (大学院レベルの理科の問題)

Qwen原本
91.7
Opus 4.6
91.3

HLE (分野をまたぐ超難問)

Qwen原本
35.9
Opus 4.6
40.0

LiveCodeBench v6 (競技プログラミング)

Qwen原本
91.9
Opus 4.6
88.8

IFBench (指示どおりに書く力)

Qwen原本
81.3
Opus 4.6
62.5

出典:Qwen3.8-Flash-Nextのモデルカード(Hugging Face、2026年11月2日に確認)。上の5項目のほか、SWE-bench Multilingual・NL2Repo-Bench・CoWorkBench・JobBenchと、画像系の7項目でも比べています。Opus 4.6の点数がある16項目のうち、Qwenが上なのは15項目で、下なのはHLEの1項目でした。

「Opus級」と言い切れない4つの理由

① 採点したのは開発元

表を作ったのはQwen自身です。試験の条件(どの道具を使わせたか、何回解かせたか)も、Qwenが決めています。CoWorkBenchとRecreationBenchは、Qwenが社内で作った試験です。

② 相手は最新のOpusではない

比べた相手はClaude Opus 4.6です。第三者の評価サイトArtificial Analysisには、すでに後継の「Claude Opus 5.5」が載っています。

③ 条件がそろっていない項目がある

SWE-bench Proでは、Opus 4.6だけ「公式に公開された点数」を使っています。ほかのモデルは、Qwenが問題を直した版で測り直しています。同じ物差しで測った比較ではありません。

④ 第三者の総合点がまだない

Artificial Analysisの総合指標(v5.0)では、11月2日時点でQwen3.8-Flash-Nextは「N/A(未掲載)」でした。外部の目による総合評価は、まだ出ていません。

⚠ 正確に言い直すと

「Qwen3.8-Flash-Nextの原本は、開発元の測定では、多くの試験でClaude Opus 4.6を上回った」。ここまでは一次情報で言えます。「Opusと同じくらい賢い」と第三者が認めた、とまでは言えません。

4

「12GBで動く」はどこまで本当か

机は12GBでいい。本棚が48〜64GB要る

Strataの資料によると、縮刷版のうち「専門家の本」の部分は、すべてメモリ(RAM)に置きます。目安は「本の量+約10GB(OSやほかのアプリ用)」です。グラフィックカードを大きくすると速くなりますが、必要なメモリは減りません(低メモリモードを除く)。

12GB
グラフィックカード(VRAM)
机の広さ
48〜64GB
メモリ(RAM)
本棚の広さ。ここが本当の条件
約80GB
ダウンロード(66〜76GB)
+初回の追加分(約6GB)

縮刷版の大きさと成績

12GB機で使う縮刷版は、オーストリア科学技術研究所(IST Austria)の研究室ISTA-DASLabが作ったものです。Strataもこの縮刷版を最初に勧めています。成績は次のとおりです(縮刷版を作った研究室自身の測定)。

版1つあたりのビット数ダウンロード必要なメモリの目安(Strata)3つの試験の平均
原本(BF16)16354GB家庭のPCでは無理93.12(基準)
Q2_02.4066.4GB48GBで可89.07(いちばん速い)
IQ2_XS2.5068.0GB48GBで可89.16
IQ3_XXS3.0075.8GB64GB92.57
IQ3_S3.5083.6GB64GB(ほかのアプリはほぼ閉じる)93.26(いちばん遅い)

3つの試験は数学(AIME25)・理科(GPQA-Diamond)・プログラミング(LiveCodeBench v6)です。原本の点数は研究室が自分で測ったもので、Qwenのモデルカードの数字とは条件が違います。研究室自身も「原本を少し上回るのは誤差の範囲で、原本より賢いという意味ではない」と書いています。

たとえで言えば、文字をかなり小さくした縮刷版でも、試験の点はあまり落ちなかったという報告です。ただし試験は3種類だけです。日本語の文章や長い会話の質が同じかどうかは、この表からは分かりません。

速さ:12GB機では「1秒に約19〜45トークン」

速さの数字は2種類あります。開発元の測定と、利用者が測ってStrataのリポジトリに投稿した測定です。機種が違うので、単純には比べられません。

版開発元の測定
RTX 5070 12GB+64GB
利用者の測定
RTX 3060 12GB+64GB
256トークンの返事が出るまで
(利用者の測定)
Q2_0毎秒94トークン毎秒約45トークン約6.4秒
IQ2_XS毎秒79トークン毎秒約43トークン約6.8秒
IQ3_XXS毎秒62トークン毎秒約26トークン約11.5秒
IQ3_S毎秒53トークン毎秒約19トークン約16秒

開発元の測定はエンジン0.1.26の短い会話(Q2_0の行だけ0.1.36)、利用者の測定はStrata 0.1.41で、128トークンの質問に256トークン答えたときの中央値です(2026年10月9日、Windows 11)。長い文書(約12万8千トークン)を読ませると、最初の1語が出るまでQ2_0で約2分17秒かかりました。

🚨 見出しにない条件

「12GBで動く」は、メモリ48〜64GB、SSDの空き約80GB、2〜3ビットの縮刷版の3つがそろったときの話です。メモリ16GBの一般的なPCでは、このモデルは動かせません。メモリ32GBに12〜16GBのカードの組み合わせで動くのは、専門家を半分に減らしたコード専用の「Coder」版だけです(カードが24GBならQ2_0とIQ2_XSも動くと開発元は書いています)。開発元は、Coderはコード以外と、日本語を含む英語以外の言語に弱いと書いています。

0.2で増えたこと

  • アプリになった(0.2.0):デスクトップアプリ・ターミナル・エンジンの3つに分かれ、Windows・Linux・Mac用のインストーラーが出ました。画像の読み取りも標準でオンになりました。
  • DeepSeek V4.1-Flashにも対応(0.2.4):もっと大きなモデルも、12GBのカードで動かせるようになりました。ただし空きディスクが約245〜280GB必要です。速さもRTX 3060で毎秒6〜11トークン程度(開発元の測定、版により異なる)です。
  • 更新がとても速い:0.2.0-beta(10/19)から0.2.9(10/31)まで、12日間で10回以上の版が出ています。この記事の数字も、すぐ古くなる可能性があります。
5

クラウドのOpus・Ollamaと比べると

「家でOpus級」を考える人が実際に比べるのは、クラウドのAIか、使い慣れたOllamaでしょう。3つを並べました。

比べる点クラウドのClaude OpusStrata+Qwen3.8-Flash-Next(縮刷版)Ollama公式のQwen3.8-Flash-Next
必要なPCブラウザが動けばよいVRAM 12GB以上+メモリ48〜64GBいちばん小さい版でも105〜120GB(q4_K_M・MLX版)
入力した文章の行き先運営会社のサーバー自分のPCの中(開発元の説明)自分のPCの中
性能の根拠第三者の評価が多い原本はQwenの自己採点、縮刷版は研究室の測定原本はQwenの自己採点
お金利用料(API・プラン)ソフトは無料。PC代と電気代ソフトは無料。大きなPCが要る
手間ほぼなし約80GBのダウンロード、設定の確認100GB超のダウンロード
向いている人手軽さと最新の性能を取りたい人外に出せない資料を、手元の64GB機で扱いたい人メモリ128GB級の作業用PCやMacを持つ人

Ollamaの版の大きさは、ollama.comのライブラリ(2026年11月2日に確認)によります。なお、縮刷版の配布元はモデルカードに「OllamaやLM Studioでも動く」と書いています。この記事では、その動作は確かめていません。

メモリが足りないPCで手元のAIを使いたいなら、無理にこのモデルを選ぶ必要はありません。GPUの大きさ別のモデル選びは、Ollamaモデルおすすめ|GPU容量別ベスト5とOllamaの最適なモデル選びとパソコンスペックにまとめています。

6

あなたのPCで動く?4問で診断

Windowsなら、タスクマネージャー →「パフォーマンス」で数字を見られます。GPUの「専用GPUメモリ」がVRAM、「メモリ」がRAMです。

Q1グラフィックカード(GPU)は対応していますか?
  • NVIDIA GeForce RTX 20/30/40/50シリーズ、AMD Radeon RX 7700以降・RX 9060/9070、Apple Silicon(M1以降)のMac、AMD Ryzen AI Max(Strix Halo)、Intel Arc(Linuxのみ)なら → Q2へ
  • それ以外(内蔵GPUだけのノートPCなど)なら → D
Q2VRAM(専用GPUメモリ)は12GB以上ありますか?
  • はい → Q3へ(Macはメモリが共通なので、Q3の数字で判断)
  • いいえ → D(12GB未満の報告もありますが、ここでは判定しません)
Q3メモリ(RAM)は何GBですか?
  • 64GB以上 → A
  • 48GB前後 → B
  • 32GB → C
  • 16GB以下 → D
Q4SSDに80GB以上の空きはありますか?
  • はい → A〜Cの判定どおり
  • いいえ → 先に空きを作る。外付けHDDや遅いSSDだと、かなり遅くなります
A:全サイズOKIQ3_XXSかIQ3_Sで品質を取るか、Q2_0で速さを取るか選べます。
B:小さい版ならOKQ2_0かIQ2_XS。ブラウザなどを閉じて使うのが無難です。
C:コード専用なら12〜16GBのカードでは「Coder」版だけ。日本語の会話には向きません。小さいQwen3.6-35B-A3Bも候補です。
D:今回は見送り手元のPCに合う小さめのモデルを選ぶのが現実的です。

判定の目安は、Strataの資料「Which model?」(2026年11月2日に確認)のメモリの表によります。実際に入るかどうかは、Strataの「plan(計画表示)」で確かめられます(次章)。

7

始め方(安全寄りの手順)

この記事では、Strataを実機では動かしていません。以下は、公式の手順を安全寄りに並べ直したものです。ファイル名の数字は、更新で変わります。

  1. 入手先を「公式のReleases」に決める

    入手先は github.com/Niko1221/Strata の「Releases」です。検索広告、まとめサイト、似た名前のリポジトリからは取らないでください。日本語の説明(README.ja.md)も公式にあります。

  2. 診断(第6章)で、入るサイズを決めておく

    メモリが48GBならQ2_0かIQ2_XS、64GBならIQ3_XXSから試すのが目安です。

  3. アプリを入れる

    Windowsは Strata-0.2.9-windows-x64-setup.exe です。管理者権限は要りません。開発元によると、Windows版にはまだ電子署名がありません。そのため「WindowsによってPCが保護されました」という警告が出ます。

    公式のReleasesから自分で取ったファイルだと確かめられないときは、先に進まないでください。

  4. 初回起動で、グラフィックカード用のエンジンを取る

    インストーラーにはエンジンが入っていません。最初の起動で、カードに合うエンジンの大きさが表示されます。そこでダウンロードします。

  5. モデルを選び、保存先を決めて取る

    保存先は、空きの多いSSDにします。ダウンロードは約70〜80GBあるので、時間に余裕のあるときに行ってください。

  6. 最初は「共有オフ・エージェントはManual」のまま使う

    「他の機器と共有」やトンネル機能は使わないでおきます。AIにファイル操作をさせるモードは、毎回確認が出る「Manual」(初期設定)のままにします(理由は次章)。

コマンドで使う人向けに、Strataには「何をダウンロードして、メモリをどう使うか」を実行せずに表示する機能があります。何も取らず、何も変えません。

strata launch --plan --family qwen --model iq2_xs

コマンドで入れる方法は、公式の「Install」ページにあります。1行で入れる方法は、ダウンロードした台本をそのまま実行する仕組みです。開発元自身が「台本を保存して、読んでから実行する」方法も案内しています。慣れていない人は、アプリ版を使ってください。

8

セキュリティ:ローカルの利点と7つの注意

ローカルで動かす利点

Strataの安全の説明(SAFETY.md)は、開発元がコードを読んで書いたものです。主な内容は次のとおりです。

  • 会話・ファイル・画像・モデルはPCの中に残り、利用状況を送る仕組み(テレメトリー)はない
  • モデルを取ったあとは、ネットにつながなくても動く
  • サーバーは初期設定で自分のPC(127.0.0.1)からしか使えない
  • 更新は署名つき、モデルのファイルはハッシュ値(指紋)で確かめてから使う

クラウドに出せない社内資料や個人的な文章を扱えるのは、ローカルAIの大きな利点です。ただし、開発元自身が「外部のセキュリティ監査はまだ受けていない」と書いています。上の説明は、第三者が確かめたものではありません。

7つの注意

① 偽物・似た名前

人気のツールは、偽の配布サイトに狙われやすくなります。同じ名前の別プロジェクトや、非公式まとめサイト、フォークもあります。入手は公式のReleasesからだけにします。

② 署名のないインストーラー

Windows版には、まだ電子署名がありません。警告が出るのが「正常」なので、偽物でも同じ警告になります。どこから取ったかが、唯一の確かめ方です。

③ 1行インストール

コマンド1行で入れる方法は、届いた台本をそのまま実行します。開発元も、普通のプログラムと同じ注意が必要だと書いています。

④ 共有・トンネル機能

アプリの共有機能はAPIキーがないと始まりません。ただし、エンジン単体のサーバーを鍵なしでネットワークに開くと、警告が出るだけです。ネットに丸見えのAIサーバーは、実際に多数見つかっています。

⑤ AIの自動操作(エージェント)

「Bypass」モードは、確認なしで何でもできます。「Manual」でも、承認した操作は、作業フォルダの外のファイルにも届きます。確認カードはよく読んでから押します。

⑥ 外部サービスのAPIキー

アプリに保存した外部サービスのキーは、本人しか開けないファイルに置かれます。ただし暗号化はされていません。不要なキーは保存しないでください。

⑦ 改造版のモデルとライセンス

「Uncensored」「abliterated」など、第三者が改造した版も出回っています。作り手を確かめてから使います。モデルの利用条件(Qwen Community License)は、AIサービス事業での商用利用には別の許可が要る、と定めています。

会社のPCで使うなら

ローカルでも、会社のAI利用ルールの対象です。大きなファイルのダウンロードや、ソフトの導入の許可が要るかを先に確かめます。

ローカルAIの守り方は、Ollamaの記事で詳しく説明しています。考え方はStrataにもそのまま使えます。

9

今やること3つとよくある質問

1

先にメモリを確かめる

VRAMより、メモリ(RAM)が48GB以上あるかが分かれ目です。第6章の4問で判定します。

2

公式Releasesから入れる

入手は Niko1221/Strata から。署名がないぶん、入手先の確認が唯一の守りです。

3

成績表より自分の仕事で試す

「Opus級」は自己採点です。共有オフ・Manualのまま、普段の作業で品質と速さを確かめます。

Strataは新しいAIモデルの名前ですか?

いいえ。Strataは、大きなモデルを家庭のPCで動かすアプリ(推論エンジン)です。中で動くモデルは、主にQwenの「Qwen3.8-Flash-Next」です。0.2.4以降はDeepSeek V4.1-Flashなども選べます。

Ollamaで同じことはできませんか?

Ollamaの公式ライブラリにもQwen3.8-Flash-Nextはあります。ただし11月2日時点では、いちばん小さい版でも105〜120GBでした。12GBのカードと48〜64GBのメモリで動かす工夫(2〜3ビットの縮刷版と、机・本棚の分担)が、Strataの特徴です。

ネットにつながないPCでも使えますか?

開発元の説明では、モデルを取ったあとはネットなしで動きます。オフラインのPCへの引っ越しの考え方は、OllamaをオフラインPCへ丸ごと引っ越す方法も参考になります。この記事では、Strataのオフライン動作は確かめていません。

本当にOpusと同じくらい賢いのですか?

開発元の測定では、原本は多くの試験でOpus 4.6を上回りました。ただし、第三者の総合評価はまだありません。家庭のPCで使う縮刷版も、原本とは別物です。自分の用途で試して判断するのが確実です。

Macでも使えますか?

Strataは、Apple Silicon(M1以降)のMacにも対応しています。Macはグラフィックとメモリが共通なので、必要な量は「VRAM+RAM」の合計で考えます。

10

詳しい人向け:数字の出どころと出典

モデル(Qwen3.8-Flash-Next)

  • Hugging Faceの登録は2026-08-24。モデルカードには「Qwen4の土台になる構造の試験的プレビュー」とある。ライセンスはQwen Community License 1.0。
  • パラメータは125B(1語あたり6Bが動く)。これとは別にn-gram埋め込み51BとMTP 4Bがある。48層・各層512エキスパートで、1語ごとに10個+共有1個を使う。512×48=24,576エキスパート。
  • 文脈は262,144トークンで、最大1,000,000トークンまで伸ばせる。注意機構はGated DeltaNet+Qwen Sparse Attention(3:1)。
  • 比較表のOpusは「Claude-Opus-4.6 (Max)」。SWE-bench ProのOpus欄だけは公式公表値で、他モデルは修正済みタスクで再評価した値(モデルカードの注記)。HLEの採点はGPT-4o。

縮刷版(ISTA-DASLab GSQ-RCO GGUF)

  • 層ごとに量子化の型を割り当てる非一様量子化(GSQ+RCO、arXiv 2604.18556/2605.00649)。shard 1が本体、shard 2はn-gram表(51.2B、IQ4_NL固定で28.8GB)。
  • 評価はAIME25・GPQA-Diamond・LiveCodeBench v6の平均。配布元は「100%超は誤差、原本より良いという意味ではない」と明記している。
  • コード専用のCoderは、512エキスパートのうち256を残した版(IQ1_M相当)。配布元によると、SWE-bench Verifiedは原本の91%、LiveCodeBenchは99%。

Strata(Niko1221/Strata)

  • リポジトリ作成は2026-09-24、MIT。0.2.0-betaは2026-10-19、0.2.9は2026-10-31(アプリ0.2.9、Control・エンジン0.1.55)。11/2時点でスター約3.8万。
  • 配置:GPUには注意機構・ルーター・共有エキスパート・出力層・MTP・KVキャッシュと、よく使うエキスパートのキャッシュを置く。RAMには全エキスパートを固定して置き、CPUがGPUと並行して計算する。SSDにはn-gram表を置き、OSのキャッシュ越しに読む。
  • MTPで最大3トークンを下書きし、1回で検証する。開発元によると、答えは同じまま1.6〜1.8倍速くなる。
  • 利用者の測定(RTX 3060、v0.1.41)は、ISTA-DASLabのリビジョン ed59f92 を使い、温度0・推論オフ・INT8 KVで測った値。表の数字は128トークン入力時のデコード中央値。

確かめられなかったこと

  • 第三者による総合評価(Artificial Analysis v5.0では未掲載)。旧版の指標の数字はブログなどで出回っているが、一次情報では確かめていない。
  • 縮刷版の日本語の品質と、Strata上での品質。開発元は61問の自社テストを使っているが、外部の検証はない。
  • Strataの安全の説明の正しさ(外部の監査は未実施)、オフライン動作、Ollama・LM Studioで縮刷版が動くかどうか。
  • 12GB未満のカードで動くという派生版(フォーク)の主張。

出典(いずれも2026年11月2日に確認)

  1. Niko1221/Strata(README、Releases、docs/MODELS.md、docs/HOW_IT_WORKS.md、docs/SAFETY.md、docs/INSTALL.md、SECURITY.md)
    https://github.com/Niko1221/Strata
  2. Strata 0.2.0-beta リリースノート
    https://github.com/Niko1221/Strata/releases/tag/v0.2.0-beta
  3. 利用者の測定:RTX 3060 12GB, Strata 0.1.41(2026-10-09)
    https://github.com/Niko1221/Strata/blob/main/bench/results/2026-10-09-community-rtx-3060-0141/README.md
  4. Qwen/Qwen3.8-Flash-Next モデルカード・ライセンス
    https://huggingface.co/Qwen/Qwen3.8-Flash-Next
  5. ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-GGUF モデルカード
    https://huggingface.co/ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-GGUF
  6. Artificial Analysis:Qwen3.8-Flash-Next のページ
    https://artificialanalysis.ai/models/qwen3-8-flash-next
  7. Ollama ライブラリ:qwen3.8-flash-next のタグ一覧
    https://ollama.com/library/qwen3.8-flash-next/tags
  8. 同名の別プロジェクト:ro99/strata
    https://github.com/ro99/strata

ローカルAIを、もっと安全に使いこなす

Ollamaの入門から、モデル選び・守り方・活用まで、順番に読めるまとめページがあります。

Ollamaガイド(まとめ)へ

コメント