arXiv Frontier AI論文解説（2026年10月2日）

キーワード: 証明探索のマルチエージェント / 半事実的介入とトークン単位の信用割当 / 連続埋め込みのフローによる統合マルチモーダル / 物理言語の自己進化と動画世界モデル / 脳信号復号のショートカット学習

本日は、Geminiを土台に証明者と検証者の役割を分けたエージェント群でオンライン学習とメカニズムデザインの未解決問題5件を解いたGoogle Researchの研究、問題と答えを変えない言い換えで確率が揺れるトークンだけ優位度を削るGRPOの変種、言語も画像も連続埋め込みのまま一つのフローマッチング目的で生成する統合モデル、物理過程を説明する言語そのものをエージェントで改良して動画生成モデルの物理的妥当性を上げるNVIDIAの研究、そして非侵襲の脳信号から単語を当てる手法の大きな改善が脳データなしでも再現できることを示した検証研究を扱う。数値はいずれも各論文のarXiv HTML本文の報告値による。

オープニング：2026年10月2日 — arXiv Frontier AI論文解説

5本のうち4本は、性能の向上がどこから来たのかを分解している。1本目は証明の生成と検証を別の役割に分け、検証済みの補題だけを次の回へ持ち越す。2本目は、正解の報酬を応答全体に一律に配るGRPOの信用割当を、トークンごとの揺れで細かくする。3本目は、言語と画像で別々だった生成の仕組みを一つにそろえ、同じデータと同じパラメータ予算での比較を示す。4本目は、動画生成モデルに渡す説明文を物理の観点で書き直すだけで、どこまで物理的妥当性が変わるかを測る。5本目は、広く追試されてきた脳信号の復号法の改善のほとんどが、入力の切り出し方から漏れた単語の長さの情報で説明できることを示した。

論文1: 証明と検証を分担するエージェント群で未解決問題を解く

出典: Cogentic: Multi-Agent Orchestration for Automated Proof Discovery. arXiv:2609.40324 (2026).

採用理由は、言語モデルによる数学の成果が、機械的に計算できる評価値のある探索問題や形式証明に偏るなか、自然言語の証明を要する理論計算機科学の未解決問題5件で、分野の専門家が検証した新しい定理を報告した点にある。Google Researchのチームで、Yang Cai（イェール大学兼任）、Aranyak Mehta、Christopher Liawらが著者に入る。AlphaEvolveのようなプログラム探索は強力だが、安くて忠実な自動採点を前提にしており、すべての証明問題がその形に還元できるわけではない。一方、1回の生成で出せるのは有望なアイデアまでで、競合する予想を並行して試し、技術的な障害を越え、途中の成果を長い期間保持する仕組みが欠けている、というのが著者らの問題設定である。

提案するCogenticは、研究グループの分業をそのまま写した構成をとる。数学的な判断をしない調整役のオーケストレーターが、証明の方向ごとに証明者の枠を割り振り、要約役が過去の試行と検証結果から証明者ごとに異なる要約を書く。証明者は並列に独立して証明を書き、検証者は「すべての段階は正当化されるまで誤り、すべての引用は確認するまで誤り」という前提で読む。1本ずつ読む検証者と、その回の草稿を並べて読む検証者の両方を通らなければ受理しない。却下された証明の中で個別に正しいと認められた補題は、監査役が自己完結した形に書き直して再検証し、検証済みの台帳に積む。反例で否定された上界のような行き止まりも台帳に記録し、後の回で繰り返さない。助言役は記録の傾向から証明者と検証者への指示を調整するが、答えの予想や手法の推薦は禁じられている。多くの問題では数百回、最も難しい問題で数千回程度のGeminiの呼び出しで結果が得られた。

成果は5件である。オンライン逆線形最適化では、隠れた目的を持つ専門家の選択を観察する学習者の累積損失を、期間Tに依存せず次元dに比例する大きさに抑える決定的で効率的なアルゴリズムを示した。従来の効率的な手法はd log Tで期間とともに増え、Tに依存しない上界は次元の指数関数だった。下界は√dなので、√d倍の差が残る。売り手と買い手の両側市場では、事前分布に依存しないメカニズムが最適な取引利得に追いつくために必要な追加参加者の数を、従来の「両側に少なくとも2万人ずつ」から「少ない側の売り手を2人」に下げ、1人では足りないことも示した。専門家助言の予測では、期間を知らないアルゴリズムの後悔の主要定数が、期間を知る場合の√(t ln n / 2)と専門家数の極限で一致することを、幾何級数の期間ごとの乗算重み法を寿命付きで束ねる初等的な構成で証明した。加法的な評価を持つ1人の買い手への販売では、単品販売と一括販売の良い方が最適収入の何分の1を得られるかの比を、従来の5.2から3.52に改善した。自動入札のオークションでは、2人の入札者で比例型の第一価格オークションのアナーキー価格が1.5で、これが匿名メカニズムの下限と一致することを示した。

限界は評価設計にある。問題はいずれも著者らの専門分野から選ばれ、一部の付随論文には既にその問題に取り組んでいた共著者が入っている。単発生成や他のハーネスとの対照比較は行っておらず、解けなかった問題の数や呼び出し回数ごとの成功率も示されていない。証明は形式化されておらず、正しさは専門家の読解に依存する。自動入札の一般のn人についての結果は、支配されない入札という仮定のもとでのみ成り立つ。逆線形最適化の√dの最適な上界は、付随論文の公開後に別の研究者が非効率なアルゴリズムで達成しており、効率的な最適アルゴリズムは未解決のまま残っている。著者らは議論の節で、候補となる結果が人が読める速さを超えて生まれ、計算予算が増えるほどその差が開くことを課題として挙げている。

論文2: 言い換えで揺れるトークンの信用を削る強化学習

出典: Semifactual Credit-Augmented Policy Optimization. arXiv:2609.40360 (2026).

採用理由は、検証可能な報酬による強化学習（RLVR）で、応答全体に同じ優位度を配るGRPOの粗さを、追加の報酬モデルも過程の教師もなしに、学習時間の1.8%の追加費用で補う具体的な設計を示した点にある。西湖大学、浙江大学、上海人工知能実験室のチームの研究である。出発点は診断実験で、数学の問題と答えを保ったまま、言い換え・軽い誤字・無関係な状況設定での包み込み・無関係な文脈の追記の4種類の「半事実的」な改変をGPT-5.5で作り、同じ応答を強制的に読ませたときの各トークンの確率の変化を測った。変化量は二つの確率の差を平均で割った有界の距離で、0から2の範囲に収まる。確率がまったく変わらない位置は12.82%で、変化の大きさは数桁にわたってばらつき、内省を示す語や接続語の平均の揺れは全体平均の2.74倍と2.32倍、数式記号と数字は0.47倍と0.37倍だった。重みを変えずに、各ステップで揺れの大きい候補を累積確率0.8まで除いて生成すると、Qwen3-4B-Baseの正答率は1000問で15.8%から30.0%に上がった。

この観察から著者らは、正解した応答の全トークンに同じ正の優位度を与えるGRPOは、推論に役立つトークンと同時に、問題と無関係な特徴への依存も強化しうると考えた。SCAPOは、同じグループの応答を4種類の改変プロンプトのもとで教師強制し、トークンごとの揺れを改変の種類ごとに標準化して平均し、さらに標準化した安定度を作る。そのうち負の部分、つまり相対的に不安定なトークンだけを係数0.01で優位度に加え、勾配は止める。安定していることには加点しない。安定は正しさを意味しないからである。この補正は学習の初期だけ、4Bでは最初の120ステップ、1.7Bでは200ステップにかけ、その後は通常のGRPOで続ける。改変は事前に作っておき、応答を新たに生成し直さないため、計測した実行時間に占める割合は1.8%だった。

DAPO-Math-17Kで学習し、データ、報酬、テンプレート、ロールアウト設定、ステップ数、評価条件をそろえて、GRPO、GSPO、SAPO、反実仮想マスキングで信用を割り当てるCF-GRPO、将来のKLで重み付けするFIPOと比べた。AIME 2024〜2026の正答率はGRPOより4Bで5.63ポイント、1.7Bで4.17ポイント高く、GRPOの最終的なAIMEの正答率に半分以下のステップ数で達した。数学の8指標では4Bで6つ、1.7Bで8つすべてで最高となり、分布外の3つのベンチマークでは両方の規模で最高だった。GPQA-Diamondでは4Bで36.26%から42.45%、1.7Bで27.42%から31.25%に上がった。アブレーションでは、補正値を応答内でシャッフルしてトークンとの対応を壊すとAIMEで3.55ポイント、答えが変わる反実仮想の改変に置き換えると5.56ポイント下がり、符号は負だけを使う設定が全符号や正だけより良かった。

限界として、対象は4B以下のベースモデルと数学の訓練データに限られ、著者らも大規模モデルや数学以外の領域を今後の課題としている。改変は4種類で、その生成を外部の大規模モデルに頼っている。揺れの大きい候補を除いた生成で正答率が倍近くになった結果は、語彙のすべての候補について改変プロンプトでの確率を計算する診断であり、そのままの形で推論時の手法として提案されているわけではない。補正の強さと期間は規模ごとに設定されており、その選び方への感度は本文では示されていない。

論文3: 言語も画像も連続埋め込みのフローで生成する統合モデル

出典: Multimodal Flow: Unified Flow Modeling of Language and Vision in Embedding Spaces. arXiv:2609.40362 (2026).

採用理由は、統合マルチモーダルモデルの二大方式である「画像も離散トークンにする方式」と「言語は離散予測、画像は拡散やフローという混成方式」に対し、言語も画像も連続のまま単一のフローマッチング目的で扱う第三の方式を、同じデータ・同じ最適化・同じパラメータ予算での比較つきで示した点にある。華中科技大学、北京交通大学、Horizon Roboticsのチームの研究である。離散方式ではトークナイザーが落とした細部をモデルは扱えず、混成方式では量子化は避けられるが、言語と画像で目的関数も生成の手順も異なる。テキストの埋め込みを直接フローマッチングで生成できることは先行研究が示していたが、テキストだけ、画像だけ、双方向の対データを同じ連続の事前学習目的で学ぶ枠組みは未開拓だった。

Multimodal Flowは、凍結したSigLIP 2で画像を、凍結したT5-smallで8トークンずつに区切ったテキストを連続表現に写し、それぞれを「ハイパーチャンク」として並べる。テキストのチャンクはトークンの順序を、画像のチャンクは空間の格子構造を保つ。全体の分布はチャンクの順に因数分解し、各チャンクは先行するチャンクを見ながら、チャンク内の位置はまとめて生成する。目標チャンクにはノイズとの線形補間でノイズを加え、モデルはきれいな終点を予測し、それを速度に直して二乗誤差を取る。注意はモダリティ共通、フィードフォワード層はモダリティ別である。学習時は複数の目標チャンクを1回の順伝播で並列に予測し、推論時はチャンクを1つずつ生成して、完成したチャンクのキーと値をキャッシュする。条件付き生成には分類器なしガイダンスを、画像生成にもテキスト生成にも同じ形で使う。

1.6Bのフロー本体を150Bトークンでゼロから学習したMF-1は、GenEvalで0.821、DPG-Benchで83.44、VQAv2・MMBench・POPEの平均で75.3となり、ゼロから学習した統合モデルのMudditやD-DiTを上回り、事前学習済みLLMから初期化した同規模のモデルとは同等の水準だった。同じデータ・最適化・学習可能パラメータ数で比べると、画像経路と本体の設計を共有し、テキストだけを自己回帰にしたTransfusion型の混成モデルや完全離散モデルより、画像生成と視覚理解の両方で高い。総学習トークンをそろえて、混合事前学習から始めた場合と無作為初期化を比べると、SeedBenchは31.6から62.4、MMBenchは36.0から67.2に上がった。設計の分析では、画像表現にDINOv2を使うと生成が最も良く、SigLIP2は生成と説明文生成の均衡が良かった。再構成向けのVAE潜在や生の画素はどちらの課題でも劣った。フィードフォワード層を共有すると、特に画像を条件にしたテキスト生成が悪化した。ガイダンスの強さは、説明文生成では3、画像生成では5が最も良かった。

限界として、テキストは凍結した小さなT5で8トークンずつ符号化し、別途学習した復号器で文字列に戻すため、言語側の表現力と生成品質はこの符号化器と復号器の能力に縛られる。本文で報告される言語側の評価は、パープレキシティ、説明文生成、視覚質問応答である。規模は1.6Bまでで、事前学習済みのLLMを使うモデルに対しては上回るのではなく同等にとどまる。著者らは、長い交互配置の系列、動画、その他の構造化されたモダリティへの拡張を今後の課題としている。

論文4: 物理を語る言語を自己進化させて動画世界モデルを鍛える

出典: Physis-Lang: Self-Evolving Language as a Physical Representation for Video World Model. arXiv:2609.40358 (2026).

採用理由は、動画生成の物理的妥当性を上げる研究の多くが、言語では物理知識を表しきれないと考えて幾何・運動・シミュレーターなどの補助信号を足すなか、言語の表現を体系的に最適化すれば足りるのではないかという逆の仮説を立て、公開モデルで閉じたモデルのVeo 3.1を3つのベンチマークで上回った点にある。NVIDIA、オックスフォード大学、MITのチームで、Ming-Yu Liu、Song Han、Han Caiらが著者に入る。従来の動画とテキストの学習は見た目と意味の一致を最適化しており、物体が突然消える、衝突の結果がおかしい、因果の順序が逆になる、といった失敗が残っている。

Physis-Langは、説明文に「物理的推論」の欄を加え、関与する物体、原因、相互作用、支配する法則、時間的な推移、結果を書かせる。この説明文の質を測るために、Physics-IQとYouTubeから集めた246本の動画に、原因・法則・結果に分けた人手検証済みの原子的な主張3794個（1本あたり平均15.4個）を付けたPhysCapBenchを作った。採点は、生成された説明文を検証可能な主張に分解して動画と照合する適合率と、正解の主張がどれだけ説明文に含まれるかの再現率のF1である。説明文を書くモデルは固定し、20本の開発用動画で、評価役の診断を読んだエージェントが説明文生成の指示文だけを書き換える。各回の指示文をPhysCapBenchで測り、伸びが止まった時点で最良の指示文を採用し、学習用の動画全体を説明し直す。さらに、生成した動画の失敗をGPT-5.5で物理のカテゴリに分類して弱点の分布を作り、物理のタグで大規模な動画集から該当する動画を言語で検索して学習データに加える。推論時には、短いプロンプトを物理的な説明に膨らませ、起こりそうな物理的に不自然な展開を負のプロンプトとして与える。高価な商用モデルの代わりに、説明文生成と推論時の書き換えを4Bの視覚言語モデル2つに蒸留した。

学習データは、WISA-80Kから選んだ7万1千本と、弱点に合わせて検索した11万2千本の合計18万3千本で、モデルの構造と目的関数は変えずに微調整した。PhysCapBenchのF1は、反復1回目の78.64から9回目の87.82に上がり、モデルを固定したまま推論時の説明文だけを替えても、PhyGenBenchは64.17から67.29に上がった。Cosmos3-Nanoを微調整したモデルは、Physics-IQ Verified、PhyGround、PhyGenBenchでVeo 3.1を上回り、VideoPhy-2の全体では68.02対68.87でわずかに下回る一方、難しい部分集合では62.36対58.43で上回った。平均の改善は、Wan2.1-14Bで7.05点、Cosmos3-Nano-16Bで6.22点で、Cosmos 3の4B、16B、64Bではそれぞれ3.24、6.22、5.02点だった。検索で加えた動画による改善は平均3.01点で、カテゴリ別には化学過程で8.00点、破壊の力学で7.45点、布の変形で7.19点だった。蒸留した4Bモデルだけで動かす構成では、改善は4.76点に下がるが、外部への注釈費用は2万4120ドルから0ドルになる。

限界として、評価の構成に同じ系統のモデルが重なっている。弱点の診断にGPT-5.5を使い、VideoPhy-2とPhyGenBenchの評価器も元の評価器からGPT-5.5に置き換えている。著者らは識別力を上げるためとし、全モデルを同じ手順で採点しているが、学習側と評価側の判断基準が近くなる可能性は残る。PhysCapBenchは指示文の進化を止める基準として選択に使われており、そこでのF1の伸びは選択に使った集合での値である。指示文の進化は20本の開発用動画に基づく。また、Veo 3.1を上回った構成には11万2千本の追加動画と微調整が含まれている。微調整なしで推論時のプロンプトだけを物理的な説明に替えた場合の改善は、61.67から63.33だった。

論文5: 脳データなしで再現できた脳から文字列への復号の改善

出典: Removing Timing Shortcuts Improves Non-Invasive Brain-to-Text. arXiv:2609.40359 (2026).

採用理由は、2025年に発表されて後続の手法・評価・ベンチマークに広く取り込まれた非侵襲の脳信号からの単語復号法について、報告された改善の大部分が脳信号を使わずに再現できることを、合成信号の対照実験で示した点にある。機械学習の評価設計におけるショートカット学習の典型例でもある。オックスフォード大学のチームの研究である。問題の手法は、音声を聞く被験者の脳磁図の連続記録から、各単語の開始時刻に3秒の窓を切り出し、文中の全単語の窓をまとめてトランスフォーマーで符号化して、各単語をT5の埋め込み空間での最近傍探索で当てる。窓を1つずつ独立に扱う場合より、平均で50%良いと報告されていた。

著者らが指摘したのは、隣り合う窓が重なっていることである。自然な発話では3秒の間に複数の単語が入るため、隣の窓は同じ記録のサンプルを位置をずらして含む。今回のデータでは隣り合う単語の組の99.9996%で窓が重なり、平均90.6%のサンプルを共有していた。ずれの量は二乗誤差の最小化だけで求まり、単語の開始時刻の差は単語の長さと相関係数0.90で対応する。そして単語ごとに典型的な長さは違う。約80時間の音声を聞いた1人の被験者の脳磁図データで、頻度上位50語の均衡正答率を比べると、窓をまとめて扱う方式は実際の脳磁図で22.3%、独立に扱うと9.5%だった。刺激と無関係な合成信号を同じ開始時刻で切り出すと22.0%に達し、単語の間隔だけを入力すると22.9%、合成信号でも窓を重ならないように別々に作ると5.8%に落ちた。この結果は追加の32人の被験者と他のデータセットでも再現され、元の論文が分析した9つのデータセットのうち、各単語に同じ提示時間を与える読みの実験の2つだけはこの近道が使えず、まさにその2つでだけ、まとめて扱う利点が出ていなかった。

対策は、各窓を独立に復号することである。約2億パラメータのトランスフォーマーを外し、小さな畳み込みネットと残差MLPだけの約2000万パラメータのモデルにした。そのうえで、同じ単語に対する別々の脳応答を最大5回分集めて予測埋め込みを平均し、その一致度で得点の鋭さを調整する集約と、Qwen3-8Bのベースモデルを言語の事前分布として使うビーム探索による再評価を組み合わせ、SimpleB2Tとした。助けを求める、水がほしい、姿勢を変えたいといった患者の意思伝達を想定した92語・200文のベンチマークで、隣の単語の位置には別の記録から取った応答を使い、窓の重なりがない状態で評価した。1回の観測では単語誤り率65.6%、5回では36.6%だった。5回の観測で、脳信号のモデル単独は74.3%、言語モデル単独は73.8%だが、組み合わせると36.6%になる。脳磁図と同じ統計の雑音を入れると97.1%、予測埋め込みを観測の間でシャッフルすると88.3%に悪化し、改善が個々の脳応答に固有の情報によることを確かめている。一方、窓をまとめて扱う元の方式では、集約の効果は小さく、言語モデルと組み合わせても言語モデル単独と同程度かそれより悪かった。

限界として、扱うのは聞いた音声であって、想像した発話や発話を試みる際の信号ではない。各単語の開始時刻と文の単語数は既知と仮定している。5回の観測は同じ単語への別々の応答を集めたもので、実際の意思伝達では同じ試行を繰り返す負担になる。ベンチマークは臨床的な検証を経ておらず、語彙は92語に制約されているため、言語モデルの事前分布が強く効く設定である。著者らは、麻痺のある1人の患者で、50語の語彙と50文を対象に単語誤り率の中央値25.6%を達成した2021年の侵襲的な研究に近づいたとしつつ、条件が異なることを明記している。ビームの中には、最終的に選んだ文より良い候補が含まれていることが多く、復号器を変えずに選択の規則を改善する余地が残っている。

まとめ

Gemini上で証明者と敵対的な検証者を分け、検証済みの補題を台帳に積んで、両側市場の追加参加者を2万人から2人に、単品と一括販売の近似比を5.2から3.52に改善したCogentic、言い換えで揺れるトークンだけ優位度を削り、学習時間の1.8%の追加でAIMEをGRPOより最大5.63ポイント上げたSCAPO、言語も画像も連続のハイパーチャンクとして同じフローマッチングで学び、同じ予算で混成方式と離散方式を上回ったMultimodal Flow、物理の説明文を指示文の進化で改良し、公開モデルでVeo 3.1を3つのベンチマークで上回ったPhysis-Lang、そして脳信号の復号の改善の大部分が窓の重なりから漏れた単語の長さで説明できることを合成信号で示し、窓を独立に扱うことで単語誤り率36.6%に下げたSimpleB2Tの5本だった。1本目と4本目はどちらもエージェントの反復で成果物を改良しているが、1本目は正しさの判定を人の専門家に、4本目は改善の判定を同じ系統の大規模モデルに頼っており、そこが結果の解釈の分かれ目になる。2本目と5本目は、モデルが問題と無関係な手がかりに頼る現象を、前者は学習信号の側で、後者は入力の構成の側で取り除いた。

参考ソース

• 論文1: Cogentic: Multi-Agent Orchestration for Automated Proof Discovery. arXiv:2609.40324
• 論文2: Semifactual Credit-Augmented Policy Optimization. arXiv:2609.40360
• 論文3: Multimodal Flow: Unified Flow Modeling of Language and Vision in Embedding Spaces. arXiv:2609.40362
• 論文4: Physis-Lang: Self-Evolving Language as a Physical Representation for Video World Model. arXiv:2609.40358
• 論文5: Removing Timing Shortcuts Improves Non-Invasive Brain-to-Text. arXiv:2609.40359