arXiv Frontier AI論文解説（2026年10月3日）

キーワード: 視覚ハーネスと無損失の視覚記憶 / 重みを更新しないロボットの自己改善 / 研究の着想源を探す文献検索 / 自然言語からCLIへの変換と検証可能な報酬 / 演算子ノルムから導く省メモリ最適化

本日は、マルチモーダルモデルに過去の観測画像を原寸のまま見返させるだけでARC-AGI-3の公開25ゲームを完走させたMITの研究、シミュレーションでの練習とスキルライブラリの書き換えだけでロボットの成功率を28.6%から95.0%へ上げたUC BerkeleyとAmazon FARの研究、研究の着想源になった論文を著者自身に申告させて作った検索ベンチマーク、Kali Linuxのセキュリティツールを自然言語から正確なコマンドへ変換させる評価と学習の基盤、そして列ごとに1成分だけを更新する最適化手法でオプティマイザ状態をほぼ消したLLMファインチューニングの研究を扱う。数値はいずれも各論文のarXiv HTML本文の報告値による。

オープニング：2026年10月3日 — arXiv Frontier AI論文解説

5本のうち3本は、モデルの重みに手を入れずに外側の仕組みで性能を引き出す研究である。1本目は観測画像を捨てずに保存し、モデルが自分で見返す道具を与える。2本目は、ロボットを動かすスキルのコードとシステムプロンプトを、練習の結果から書き換える。3本目は、検索エージェントが研究の着想源をどこまで探せるかを測り、エージェント化しても埋め込み検索を超えないことを示した。4本目はセキュリティツールのコマンド生成で、検証済みのデータから実行不要の報酬を作り、8Bモデルを685BのMoEモデルに近づける。5本目は最適化の幾何の選び方から、オプティマイザの状態メモリをほぼゼロにする更新則を導く。

論文1: 視覚の記憶を損なわずに残すハーネスで対話型パズルを完走する

出典: VISTA: A Visual Harness for Reasoning in an Interactive World. arXiv:2610.02200 (2026).

採用理由は、ARC-AGI-3でこれまで主流だったプログラム合成を使わず、画像を見て自然言語で推論するだけの構成で完走を報告した点と、どの部品がどれだけ効いたかを段階的なアブレーションで分解している点にある。MITのチームで、Kaiming Heが著者に入る。ARC-AGI-3は、ルールも目標も明示されない対話型のゲーム群で、エージェントは操作の結果から物体の役割、遷移規則、隠れた状態、目標を推定しなければならない。既存の手法の多くは盤面を色番号の文字列グリッドとして言語モデルに渡し、実行可能なプログラムとして世界モデルを組み立てて探索する。著者らはこれを視覚の問題として捉え直したうえで、既存の視覚言語モデルには二つの制約があると指摘する。画像は一度だけ符号化されて後の推論で必要になる細部が残らないこと、そして文脈長に収めるために過去の観測が削除されたり文章の要約に置き換えられたりすることである。

VISTAはこの二点に対応する三つの部品からなる。描画された画像をそのまま観測として渡すこと、環境が返したすべてのフレームを、操作途中のアニメーションのコマも含めて原寸で保存する無損失の視覚記憶、そしてモデルが任意の過去のフレームを呼び出し、任意の矩形領域を拡大して見る、あるいは指定した画素のRGB値を読む検査ツールである。ハーネス自体は学習済みモデルを含まない機械的な仕組みで、ゲームの理解を書くGUIDE.mdと現在の状態を書くWORKING.mdの二つのメモも持たせる。文脈が上限に近づくと引き継ぎの要約を書いて新しい文脈で再開するが、メモと視覚記憶と行動履歴は残る。評価指標のRHAEは初見の人間の行動数と比べる効率の指標で、人間と同じ行動数なら100%、少なければ最大115%、未完了のレベルは0点になる。

Claude Opus 5.0を最高水準の推論量で使うと、公開25ゲームすべてを完了してRHAEは100.00、総行動数は7,302で、初見の人間の17,135より57.4%少ない。GPT-5.6 Solでも全ゲームを完了し99.00だった。主催者の公式実装は同じくプログラムを使わない構成で、Opus 5.0が40.68、GPT-5.6 Solが13.33である。GPT-5.6 Solでの段階的な比較では、文字グリッドを画像に置き換えるだけで13.33から47.32、行動数と時間の上限を緩めて51.66、会話を継続して文脈圧縮で上限を越える最小限のハーネスで65.82、二つのメモを加えて70.05、無損失の記憶と検査を加えて94.10、画素値の読み取りで99.00になった。最大の伸びは記憶と検査の追加で生じている。画像と文字グリッドの比較では性能は同程度だが、1フレームあたり文字グリッドが約4,000トークン、画像が約308トークンで、1ゲームあたりの消費は71.9Mと30.7Mだった。文脈の上限は200Kが最良で、780Kでは1ゲーム105.7Mトークンに膨らみ、100Kでもスコアは0.4下がるだけでトークンはほぼ半分になる。オープンウェイトのGLM-5.3 Flash 320Bでは66.93で公式構成を大きく上回り、同じゲームを3Dで描画しても84.12を得た。GameWorld、AI GameStore、BabyVisionの迷路と線たどりの問題でも同じモデルの最小構成を上回り、BabyVisionの正答率は41.0%から63.2%になった。

限界は著者ら自身が二つ挙げている。性能の大部分は基盤モデルの能力に依存しており、ハーネスはそれを引き出す仕組みにすぎないこと、そして使ったモデルが公開ゲームより後に公開されたため、学習データにゲームが含まれていた可能性を排除できないことである。非公開セットでの評価が汎化の強い検証になるとしている。100.00という値自体は、プログラム合成を使う同時期の他のシステムも達成しており、この研究の新しさは到達点よりも、視覚の観測と見返しの道具だけで同じ水準に届いた点と、トークン効率の改善にある。

論文2: 重みを変えずにシミュレーション練習でロボットのスキルを育てる

出典: Reconstruct, Practice, Go Real: Guided Self-Improvement for Embodied Agents. arXiv:2610.02204 (2026).

採用理由は、モデルの重みを一切更新せず、スキルのコードとシステムプロンプトだけを書き換えて実機まで届けた点と、改善の出どころを部品ごとのアブレーションとライブラリ単体の比較で切り分けている点にある。UC Berkeley、Amazon FAR、MIT、シカゴ大学のチームで、Pieter Abbeel、Rocky Duan、Nika Haghtalab、S. Shankar Sastryが著者に入る。言語モデルでロボットを動かす方式には、知覚と制御の部品を組み合わせたプログラムを実行するCode-as-Policyと、マルチモーダルモデルを制御ループの中に置き続けるAgent-as-Policyがあり、前者は速いが明示的な論理に縛られ、後者は柔軟だが呼び出しが多く遅い。RPGは繰り返し使う実行をコードのスキルに任せ、視覚や意味の判断が要る場面だけをモデルに残す設計をとる。

手順は三段階で、六つの役割のエージェントが分担する。Reconstructでは、193種類のタスクを含むオフラインデータセットABCの動画と説明から操作能力を読み取り、MuJoCo上に関連する練習タスクを作る。元のタスクをそのまま再現する必要はなく、例えばサングラスの整理はケースを閉じる課題になる。成功判定の関数は構築役が書き、人が目的に合っているかを確認してから練習中は固定する。初期のスキルライブラリは既存のCaP-Xの9個の道具と、構築役が作った6個のスキルの計15個である。Practiceでは、実機と同じ観測しか使わない実行エージェントと、同じモデルとライブラリにシミュレータの真の状態を加えた特権エージェントが同じ初期状態から並行して試行する。動画解析役は両者の実行記録と元データの動画を比べて最初の失敗を特定し、実装役が新しいスキル、既存スキルの修正、プロンプトの改訂を提案する。候補は全22タスクで各5試行ずつ走らせ、平均成功率が上がり、かつどのタスクも5回中2回以上は失わない場合だけ統合の対象になり、統合後も同じ検査をやり直す。

評価は練習に使わない各タスク10個の初期配置、計220エピソードで行う。成功率は1回目の練習後の63/220、28.6%から、15回後に209/220、95.0%に上がった。同じGemini 3.8 Flashを実行時に使うASPIREは75.5%、GPT-6 Astra Proを使うCaP-Agent0は60.0%、Gemini版のCaP-Agent0は48.6%だった。練習中のコード改訂にはFable 5.1を使っている。ライブラリは15個から38個に増え、新規23件、既存スキルの修正66件が入った。最大の伸びは3回目から4回目の43.2%から73.6%で、この回はスキルの変更がなくプロンプトだけが変わっている。新しいプロンプトは知覚と行動のループに上限を設け、残りの対話回数を追跡させ、観測を繰り返し要求せず現在の推定で動くよう促すものだった。5回の練習で比べたアブレーションでは、全部入りが78.2%、動画解析役なしが51.8%、特権エージェントなしと両方なしが50.9%だった。ライブラリだけを差し替えた比較では4タスクで26/40から37/40になり、持ち上げのスキルは6cmを指示して実際には4.6から5.1cmしか動かず、指示値を達成値として報告していた不具合が修正されていた。修正前は13回中12回失敗し、修正後は11回すべて成功している。実機のYAMロボットでは、ボールを引き出しに入れて閉める、タオルを畳む、ボウルを左右の手で受け渡す3タスクを各10回行い、30回すべて成功した。比較対象のCaP-Agent0は、GPT-6 Astra Proでも引き出しが4/10、受け渡しが1/10だった。

限界として、11件の失敗のうち7件がタオル畳みで、変形物の操作が残った課題である。成功率の推移は単調ではなく、6回目と14回目には1件ずつ減った。5つの開発用初期配置での検査を通った改訂が、評価用の10配置では一部で悪化したためで、ライブラリ単体の比較でもあるタスクで6/6から5/6への小さな後退がある。共有スキルを書き換える方式では、ある課題の修正が別の課題を壊しうることを結果自体が示している。評価関数の確認、練習の打ち切り、実機への適合は人が担っており、著者らはAPIのレート制限による並列試行の制約と、タスクが増えたときの改訂の衝突を今後の課題に挙げる。

論文3: 研究の着想源になった論文を探す検索ベンチマーク

出典: ScholarCatalyst: A Benchmark for Retrieving Papers That Inspire New Research. arXiv:2610.02202 (2026).

採用理由は、研究エージェントの評価で最も記録が残りにくい「どの先行研究が着想を与えたか」を、論文の著者本人の申告で正解データにした点にある。Stanford、ソウル大学、ワシントン大学、CMU、Allen Institute for AI、MITのチームで、Chelsea Finn、Yejin Choi、Graham Neubig、Pang Wei Koh、Omar Khattab、Akari Asaiらが著者に入る。著者らは、問いを立てた段階で役に立つ先行研究を見抜く力を研究上のセンスの中核とみなし、これをcatalyst論文の検索という具体的な課題に落とした。既存の学術検索ベンチマークは、主張の根拠探しや明示された情報要求との関連度を測るもので、引用の意図ラベルから正解を作るものもあるが、引用されなかった論文が着想源になりえたかどうかは測れない。

データの作り方はこうである。対象論文のarXiv IDを与えると、パイプラインが本文と参考文献を解析し、Gemini 3.1 Proが研究の出発点となる問いと、それを部分分野ごとに見た問いの下書きを作る。引用文献に加えてBM25とQwen3-Embedding-8Bで引用されていない候補も集め、Gemini 3.6 Flashが再順位付けして1問あたり10件に絞る。主要会議に2025年から2026年に採択された計算機科学の論文207本の筆頭著者184人が、問いを自分の言葉に直し、各候補が実際に役立った、あるいは役立ちえたかを理由つきで判定した。207本のうち100本以上が口頭発表、スポットライト、受賞のいずれかである。問いは894件で、764件は手を入れずに使われ、残りは最終的な解法を漏らす表現だけを修正した。検索対象は対象論文より前に出た約19万1千本に限り、ウェブ検索は禁止し、エージェントの基盤には全対象論文より前に知識が途切れるGPT-4.1とo3を使う。著者が検討して不採用にした論文は難しい負例になる。

最も良い一般向けの埋め込み検索でも、上位20件に入る正解は全体で48%、出発点の問いで39%、部分分野の問いで51%にとどまる。学術文献で学習した検索器は、上位20件の再現率で一般向けモデルより出発点の問いで16ポイント以上、部分分野の問いで27ポイント以上低い。同じ埋め込み検索器を道具として何度も呼ぶエージェントは0.42で、検索器単体の0.48を下回り、正規表現で題名と要旨を探すエージェントは探索中に正解の8%しか目にしていなかった。対象論文を学習で見ている可能性のあるClaude Fable 5.1を緩い上限の参照として使っても0.51だった。分析では、着想源の論文と不採用の論文は、語の重なりでも埋め込みの余弦類似度でも問いへの近さが変わらない。部分分野の問いの正解の43.6%は対象論文に引用されておらず、その67.8%は参考文献を一つも共有しない。引用された正解でも、手法の利用や拡張という意図ラベルが付くのは出発点の問いで46.2%、部分分野の問いで34.0%にすぎない。完成した論文全体を読ませたGemini 3.1 Proも、出発点の問いの正解を平均32.2%しか挙げられなかった。

著者らの解釈は、ボトルネックが見つけた論文の理解ではなく、何を探すかにあるというものである。エージェントに取得論文の本文を要旨以上に読ませても上位20件の再現率の変化は0.04以内で、問いの言い換えや仮想的な要旨を生成して検索する方式も改善しないか、むしろ下げた。逆に対象論文の参考文献を与えると0.35上がり、候補の網羅が成績を決めていることがわかる。限界として、対象は2025年から2026年の計算機科学に限られ、分野の偏りがある。正解は完成後の振り返りなので後知恵の影響を受ける。上限の目安として、1本の論文で共著者3人に判定させた予備比較では、共著者は筆頭著者の正解の43から60%を84から88%の精度で当てており、最良のシステムの上位5件の再現率0.24より大きく高い。著者が着想源に挙げた論文の49.5%は自分の研究分野の外から来ており、分野を越えた検索にこそ改善の余地があると著者らは見ている。

論文4: 自然言語からセキュリティツールのコマンドを正確に組み立てる

出典: KaliBench: A Fine-Grained Benchmark for Cybersecurity Tool Use on Kali Linux with Runtime-Free Verifiable Rewards. arXiv:2610.02206 (2026).

採用理由は、エージェント評価の中で切り出されにくい「コマンドを1本正しく書けるか」という部品を、実行せずに検証できる形に整え、その信号を強化学習の報酬に転用して小型モデルを大きく伸ばした点にある。ハリーファ大学のチームの研究である。既存のサイバーセキュリティ評価は、選択式の知識問題か、CTFのような端から端までのエージェント課題に分かれている。後者は計画、環境との対話、観測の解釈、ツール呼び出し、誤りからの回復が混ざるため、失敗の原因を部品に帰属できない。関数呼び出しのベンチマークはJSONスキーマで道具と引数が定義されている前提だが、Kali Linuxには2,000を超えるツールのパッケージがあり、すべてのスキーマをプロンプトに並べることは現実的でない。モデルはスキーマなしで、ツールを選び、引数を正しい順序と綴りで組み立てなければならない。

データは公式のツール文書2,372件から始まる。Qwen3-Maxがツールごとに10から13件の問いとコマンドの対を作り、計2万7千7百件を得たが、人手で見ると半数以上に存在しないオプションや綴りの誤りがあった。そこで、文書と照合する言語モデルの検証で最初の回に53.8%を落とし、再生成と再検証を経て1万4千5百件にし、Kali Linuxの全ツール入りのDockerコンテナで実際に実行して、存在しないツールや無効な引数による失敗をさらに11.95%除いた。最後に、最も強いモデルが文書つきでも失敗した例をエージェントと人が見直し、4.9%を不正として除外した。意味の近い重複を除いた最終版は8,504件、1,642ツール、23の能力分類と5つの攻撃段階にわたり、評価用5,000件と学習用3,504件に分けた。評価は、問いだけを与える制限なし、正解を含む20個のツール名を与える制限あり、さらにその文書を与えるヒントありの3条件で行う。出力はシェルの字句解析で分解し、ツール名、別名を考慮したオプション引数、順序つきの位置引数を成分ごとに採点するので、コマンドを実行する必要がない。

24の構成のオープンウェイトモデルのうち、制限なしで完全一致率が42%を超えたものはない。候補を絞ると、ツール選択の正解率は平均72.0%から95.2%に上がるが、引数の正確さはほとんど伸びない。文書を与えるとオプション引数のF1が平均45.1%から87.8%、完全一致率が22.3%から73.1%に上がり、ボトルネックが意図の理解ではなく引数の組み立てに必要な領域知識にあることがわかる。規模の効果は一様ではなく、Qwen3の8Bが平均でGemma-3の27BやLlama-Primusの70Bを上回った。商用モデルでは制限なしの完全一致率がGPT-5.6 Solで61.68%、GPT-5.5を使うCodexで51.68%、Claude Opus 5で44.02%だった。ただしClaude Opus 5が回答したのは5,000問中3,675問の73.50%で、回答した問いに限れば59.89%になる。提供元ごとの安全上の制限がこの用途の使い勝手に影響している。学習では、セキュリティ向けの8BモデルRedSage-InsをLoRAで、教師ありファインチューニング、GRPOによる検証可能な報酬での強化学習、その二つの連結の3通りで学習させた。報酬はツール名、位置引数、オプション引数の成分ごとの一致と完全一致、出力形式から計算する。3条件の平均スコアは76.9、77.4、79.2で、連結版は685BのMoEモデルであるDeepSeek-V3.2に1.0ポイント差まで近づいた。

限界として、強化学習を含む2つの版は、文書を与える条件のスコアを元のモデルよりわずかに下げており、すでに解けていた例での後退が見られた。教師ありの初期化はこれを緩和する。問いは文書から合成したもので、言い換えには頑健だが、文法の崩れや語の誤りを含む問いでは成績が最も大きく落ち、文書を与える条件でも1.07ポイント下がった。対象は1回のコマンド生成で、文書に基づいたデータに依存しているため、複数段の作業や環境の状態を踏まえた評価は今後の課題として残る。典型的な失敗は、長い形式と短い形式のオプションの混用、存在しないオプションの創作、短い形式しかないツールへの長い形式の捏造、単数形と複数形の取り違えで、完全一致を要求する評価でなければ見えにくい誤りである。

論文5: 列ごとに1成分だけ更新する省メモリ最適化手法

出典: TACO: Ternary Absolute-max Column-wise One-sparse Optimizer for LLM Fine-Tuning. arXiv:2610.02199 (2026).

採用理由は、勾配の圧縮という後付けの工夫ではなく、Muonと同じ「どのノルムの下での最急降下か」という見方から、更新が本質的に疎になる幾何を選んで最適化手法を導いた点にある。セントラルフロリダ大学とモロッコのモハメッド6世工科大学のチームである。13BのモデルをAdamWでファインチューニングすると、BF16の重みが約26GB、FP32の一次と二次のモーメントが約104GB、勾配が約26GBで、活性化を除いても約156GBになる。既存の対策は、状態の量子化、二次モーメントの因子分解、低ランク部分空間への射影、勾配を使わない零次最適化に分かれる。Muonは重みを行列として扱い、スペクトルノルムの下での最急降下を近似して状態を減らすが、状態は密なままで、AdamWで事前学習したモデルに切り替えると性能が落ちる最適化器の不整合が報告されている。

TACOは次元で正規化した1から1への演算子ノルムを選ぶ。このノルムは列ごとのℓ1ノルムの最大値に対応し、その双対の幾何では最急降下方向が列ごとに分離する。各列で勾配の絶対値が最大の成分を一つ選び、その符号を反転した値だけを更新する。

$$ D_{:,j} = -\,\mathrm{sign}(G_{i^\star j})\, e_{i^\star},\qquad i^\star = \arg\max_i |G_{ij}| $$

ここで$G$は重み行列の勾配、$e_{i^\star}$は$i^\star$番目の単位ベクトルで、$m \times n$の更新には高々$n$個の非零成分しかない。ただし、ミニバッチの勾配では列ごとに選ばれる成分が不安定になる。密な勾配履歴を持てば安定するが、メモリの利点が消える。実用版のTACOは、各列で値の大きい成分だけをFP8の疎な履歴として保持し、指数移動平均で更新する。既定では1列あたり16成分、減衰率0.95で、状態の大きさは$O(mn)$から$O(n)$になる。理論面では、標準的な平滑性の仮定の下で素朴なTACOが$O(\varepsilon^{-2})$回の反復でε停留点に達することを示し、単純化した固定入力の設定ではAdamの代理モデルと同じ極限解に向かい、Muonとは異なることを示している。これを最適化器の不整合と結びつけている。

OPT-13BのSST-2では、持続的な最適化器状態がAdamW8bitの27.7GBから0.16GBへ174分の1に、最大メモリが80.6GBから27.5GBへ2.9分の1になった。重みの25.7GBに対して追加分は1.8GBで、Adafactor、GaLore、FlashAdamWの最大メモリはそれぞれ52.6GB、56.7GB、67.7GBである。精度と処理速度は、TACOが94.2%で毎秒276トークン、Adafactorが95.5%で350、GaLoreが95.7%で31、FlashAdamWが95.5%で547だった。OPT-30Bは80GBのH100 1枚で最大62.5から68.1GBに収まり、AdamWでは1枚に載らない。Qwen3-32Bまで同じ設定で学習でき、OPT、Qwen3、Pythia、Llama、Mistralの各系列に移植できた。学習率はOPTの4つの規模すべてで3×10⁻⁵が最良で、規模ごとの調整を要しない。アブレーションでは、列ごとの上位1成分の更新が上位8成分以上の密な更新より良く、理論上の最急降下方向をそのまま使う設計が支持された。

限界として、評価はSST-2、RTE、BoolQ、SQuAD、DROPなどの分類、選択式推論、質問応答に限られ、SST-2の精度は比較手法より1ポイント余り低い。既定の2千ステップは上限ではなく、1万6千ステップに延ばすとBoolQで6.5、RTEで4.3ポイント上がるので、低メモリの代わりに必要なステップ数が増える可能性がある。PythiaとMistralではタスクによるばらつきが大きく、勾配履歴の減衰率0.95は8タスク中6タスクで改善したが、SQuADとDROPでは例外だった。

まとめ

マルチモーダルモデルに無損失の視覚記憶と見返しの道具を与えて、ARC-AGI-3の公開25ゲームをプログラム合成なしで完走し、初見の人間より57.4%少ない行動数にしたVISTA、特権エージェントと動画解析で失敗を診断し、重みを変えずにスキルとプロンプトだけで成功率を28.6%から95.0%へ上げ、実機30回を全成功させたRPG、著者本人の申告で研究の着想源を正解にし、エージェント検索が埋め込み検索を超えないことを示したScholarCatalyst、実行せずに検証できる成分ごとの報酬で8Bモデルを685BのMoEモデルの1.0ポイント差まで近づけたKaliBench、そして列ごとに1成分だけを更新する最急降下から最適化器状態を174分の1にしたTACOの5本だった。1本目と2本目は、どちらも基盤モデルを固定し、外側の記憶やスキルを改良して性能を上げているが、1本目は公開ゲームの学習データ混入を、2本目は共有スキルの書き換えによる別タスクの後退を、それぞれ自ら限界として示している。3本目と4本目は、エージェントの失敗を部品に分けて測る設計で、前者は候補の網羅、後者は引数の組み立てに原因を特定した。

参考ソース

• 論文1: VISTA: A Visual Harness for Reasoning in an Interactive World. arXiv:2610.02200
• 論文2: Reconstruct, Practice, Go Real: Guided Self-Improvement for Embodied Agents. arXiv:2610.02204
• 論文3: ScholarCatalyst: A Benchmark for Retrieving Papers That Inspire New Research. arXiv:2610.02202
• 論文4: KaliBench: A Fine-Grained Benchmark for Cybersecurity Tool Use on Kali Linux with Runtime-Free Verifiable Rewards. arXiv:2610.02206
• 論文5: TACO: Ternary Absolute-max Column-wise One-sparse Optimizer for LLM Fine-Tuning. arXiv:2610.02199