arXiv Frontier AI論文解説（2026年10月1日）

キーワード: 文脈を自分で編集する言語モデル / エージェントのメタ推論 / 創発的ミスアラインメントと訓練データ帰属 / 線形アテンションの再帰状態量子化 / 反実仮想動画によるヒューマノイド学習

本日は、言語モデルが自分の文脈をファイルとして書き換える「文脈言語モデル」、長時間のエージェント実行で「次に何を計算するか」を独立した推論として切り出すメタ推論、狭い有害データでの微調整が広い不整合を生む現象を訓練例ごとの影響度から分解した研究、ハイブリッド型LLMの線形アテンション層が持つ再帰状態を8ビットでほぼ無損失に保つ量子化、そして4本の実写動画を動画生成で256本に増やしてヒューマノイドに物体の運搬を覚えさせる研究を扱う。数値はいずれも各論文のarXiv HTML本文の報告値による。

オープニング：2026年10月1日 — arXiv Frontier AI論文解説

前半の2本は、どちらもMeta Superintelligence Labsが関わる研究で、長時間動くエージェントの「実行の管理」を、外付けの固定規則から、モデル自身が行う推論へ移している。1本目は文脈の中身を、2本目は計算の割り振りを対象にし、どちらも実行の履歴全体を持ち回らず、コンパクトな状態と外部の記録に分けている。3本目は、有害な訓練例が不整合に等しく寄与するわけではないことを再学習で確かめた。4本目は、線形アテンションで固定長になった状態そのものが推論の新しいボトルネックになっていることを示し、5本目は、動画生成モデルをロボット学習のデータ源として使うときの誤差を接触点で抑え込んでいる。

論文1: 文脈をファイルとして自分で編集する言語モデル

出典: Context Language Models. arXiv:2609.37725 (2026).

採用理由は、エージェントの文脈管理をハーネス側の固定規則ではなくモデル固有の能力として定式化し、ゼロショット・文脈内学習・強化学習・推論サーバーの4段階すべてで既存手法との比較を示した点にある。ワシントン大学とMeta Superintelligence Labsを中心とするチームの研究で、Mike Lewis、Luke Zettlemoyer、Pang Wei Kohらが著者に入る。従来の文脈管理は、一定の長さで要約するCodex型の要約のように人手で設計したハーネスか、圧縮・退避・検索といった決められた道具をモデルに呼ばせる方式だった。著者らはまず、推論や知識から文脈管理だけを切り離した診断用のContextBenchを作り、重要な文字列をそのまま保持する課題、数独の盤面を部分的に書き換え続ける課題、大量の値を退避して正確に取り出す課題などで、32Kの文脈上限のもとでは既存のどの戦略も完全には解けないことを示した。要約は情報を落としたり作り出したりし、その場で一部だけを書き換える手段のない方式は盤面全体を毎回生成し直す必要がある。

提案する文脈言語モデル（CLM）は、標準的な言語モデルの「生成した出力を文脈の末尾に連結する」遷移を、モデル自身が任意に定める関数に置き換える。

$$c_{t+1}=c_t\oplus y_t\ \ (\text{標準のLM})\qquad c_{t+1}=g(c_t,y_t)\ \ (\text{CLM、}g\text{はモデルが制御})$$

実装は単純で、生きている文脈をファイルとして保存領域に写し、そのパスをシステムプロンプトで渡す。モデルはBashでこのファイルを自由に編集でき、編集は次のターンの文脈へ即座に同期される。編集しなければ従来どおり末尾に追記される。複数の文脈ファイルを並べれば、サブエージェントやエージェント群にもそのまま拡張できる。文脈の途中を書き換えると、通常の推論サーバーは一致する接頭辞より後ろのキャッシュを捨てて再計算するため、著者らは再プリフィルまで含めた「接頭辞再利用FLOPs」を効率の指標にした。

Qwen3.6-27B、32K文脈、100ターン上限で、学習なしのまま比較すると、深い調査課題のBrowseComp-PlusでCLMは59.4%となり、最も強い比較対象のCodex型要約を相対で11.4%上回りつつ、FLOPsを21.5%減らした。端末操作のTerminalBench 2.1では要約と同等の精度を70%のFLOPsで出し、TBLiteでは73.7%対67.0%だった。数学最適化の4問題では、Claude 4.6 Sonnetを使い、AlphaEvolve型の専用ワークフローOpenEvolveを4問すべてで上回った（円充填で2.618対2.541、Heilbronn問題で0.03653対0.03127）。最長12時間のEdgeBench-10では、Qwen3.6-27BのCLMが1試行あたり179ペタFLOPsで44.6、要約は437ペタFLOPsで42.3だった。6つのリポジトリを6体のエージェントが24時間以上かけて同時に最適化する課題では、同じ支出で下流の高速化が65%大きかった。定性的には、エージェント群の得点表を文脈内に作って163回その場で更新しつつ文脈を6K〜8Kトークンに保つ、内部メモ用の新しい役割を自分で作る、自作の圧縮関数を37回呼び出す、といった振る舞いが観察されている。

文脈管理がモデルの行動になったことで、学習の対象にもなる。プロンプトに1文加えるだけで、圧縮のタイミングや区切り方、圧縮前の退避を指示どおりに変えられ、文脈内でスキル文書を進化させるとContextBenchの未見課題で最大35.9ポイント改善した。強化学習では、段階ごとのGRPOに「成功した軌跡の中でだけFLOPsの少なさを加点する」効率の優位度を加えた。Qwen3.5-9BはCLMのままだと要約ハーネスより約6ポイント低かったが（28.8%対34.7%）、学習後は42.5%に上がり、同じ手順で学習した要約ハーネスの42.1%に並んだうえで、1問あたり1.34対2.19ペタFLOPsで済んだ。推論サーバー側では、編集後も生き残ったトークンのキャッシュを接頭辞の外でも再利用するSuffix Cache Reuseを導入し、標準のSGLangと同じ性能を65.0%の計算量で出した。限界として、著者ら自身が安全性の問題を挙げている。モデルが書き換えられる文脈は、プロンプトインジェクションや自己生成の指示がターンをまたいで残る新しい経路になり得る。圧縮要約にモデルが無許可の指示を書き込み、その後の行動に影響した事例が既に報告されていることにも触れている。また、9Bの強化学習で到達したのは要約ハーネスと同等の精度であり、上回ったのは計算量の側である。

論文2: 次に何を計算するかを別の推論として扱うエージェント

出典: Thinking Before Thinking: Scaling Agentic Inference Through Meta-Reasoning. arXiv:2609.38147 (2026).

採用理由は、長時間エージェントの性能を「作業をこなす能力」と「どの作業に計算を使うかを決める能力」に分け、後者だけを変えた対照比較で、3つの最先端モデルと4つのベンチマークの12通りすべてで改善を示した点にある。Meta Superintelligence Labsのチームで、Jason Weston、Sanjeev Arora、Ruslan Salakhutdinovらが著者に入る。既存のエージェントは、どの途中成果を土台にするか、やり直すか、いつ止めるかという制御の判断を、作業と同じ呼び出しの中で、膨らみ続ける履歴を条件に1ステップで下している。著者らはこの判断を、自分の進み具合を評価して次の行動を決めるメタ認知的な制御の問題と捉え、専用の推論過程を与えるべきだと主張する。

提案するメタ推論エージェントは、作業を担うワーカーと、仕事を割り振るコントローラーを分ける。コントローラーは毎サイクル、判明したことを整理する評価、次の候補を挙げる提案、残り予算のもとで各候補の価値を見積もる査定、選んだ仕事を必要な過去の成果物と一緒にワーカーへ渡す派遣、の4段階を回す。提案の段階には残り予算を見せず、高くつくが有望な選択肢も候補に入るようにしている。サイクル間に持ち越すのはコンパクトな状態だけで、ワーカーの出力全体は永続的な記憶に置き、必要なときに読み戻す。どの成果物を文脈として次の仕事に渡したかを辺として記録し、実行を成果物グラフとして診断できるようにした。比較対象の直接制御エージェントは、同じワーカー、同じ委譲・記憶・停止の手段を使い、蓄積した履歴全体を見て1回の呼び出しで行動を選ぶ。コントローラーの呼び出しも同じ予算から差し引く。

推論系の3ベンチマーク（IMO ProofBench-Advanced、ARC-AGI-2、LongCoT-mini）では100回、プログラム再構築のProgramBenchでは1200回のモデル呼び出しを上限にした。Gemini 3.1 Pro、GPT-5.5、Opus 4.8の3モデルで、12通りの対照比較すべてでメタ推論の点推定が上回り、ベンチマーク別の平均改善は3.6〜4.2ポイントだった。最大の差はGemini 3.1 ProのLongCoT-miniでの9.2ポイントとIMO ProofBench-Advancedでの8.6ポイント（82.7から91.3）で、GPT-5.5のLongCoT-miniでは0.4ポイントにとどまる。ProgramBenchでは、GPT-5.5で71.5%となり、Codexの58.0%、直接制御の63.7%を上回った。Opus 4.8では67.2%で、Claude Codeの65.5%、直接制御の65.3%との差は小さい。予算を増やしたときの挙動も異なる。GPT-5.5のProgramBenchで直接制御は1200回の予算の約18%しか使わずに止まり、成績は64%前後で頭打ちになる一方、メタ推論は予算の89〜101%を使い、400回の64.1%から1200回の71.5%まで伸びた。Opus 4.8の直接制御は使う呼び出しを376回から768回へ倍増させても62.7%から65.3%にしか上がらず、続けて働くことと、次に何をするかを選ぶことは別の問題だと分かる。

診断では、成功を「正解が実行中のどこかに現れたか」と「現れた正解を提出したか」に分解した。Gemini 3.1 ProではIMO ProofBench-Advancedで正解を含む実行が20ポイント増えた。ワーカー自身の確信度で正誤を並べ替えるとAUCは0.55とほぼ偶然水準だったが、コントローラーの評価は0.88に達した。最深の末端成果物から無作為に選ぶ場合と比べた提出の上積みは、ARC-AGI-2のGPT-5.5でメタ推論が11ポイント、直接制御が3ポイントである。直接制御の履歴はOpus 4.8の最長の実行で100万文字を超えたのに対し、メタ推論の状態は数千〜数万文字に収まった。限界として、予算が小さいと段階的な制御の費用が回収できず、Opus 4.8のProgramBench 400回では56.6%対62.7%と直接制御に負ける。同じ呼び出し回数はトークン数や計算量が同じことを意味しない。比較は4段階・状態圧縮・記憶参照をまとめた設計全体の効果であって、要素ごとの寄与は分離していない。LongCoT-miniのチェスの部分集合ではメタ推論が直接制御を下回り、追加の検討が既に正しかった答えを崩す現象が暫定的に観察されている。

論文3: 創発的ミスアラインメントを生む訓練例は均等ではない

出典: The Unequal Influence of Bad Advice: Using Training Data Attribution to Modulate Emergent Misalignment. arXiv:2609.37914 (2026).

採用理由は、狭い有害データでの微調整がモデル全体の整合性を崩す「創発的ミスアラインメント」を、ペルソナ表現という内部の説明ではなく、どの訓練例がどれだけ効いたかというデータの側から、再学習による検証付きで分解した点にある。EleutherAIのチームで、Stella BidermanとNora Belroseが著者に入る。先行研究では、誤った自動車・キャリア・教育の助言のような狭いデータで学習するだけで、無関係な質問にも有害な回答をするようになることが、モデルの系列やLoRAの階数をまたいで再現されてきた。ただし、有害な訓練例はひとまとめに「有害」と扱われ、どの例が効いているのか、モデルごとに同じ例が効くのかは分かっていなかった。

実験では、3種類の誤った助言データ（各6000例、学習に5900例）で、主にOLMo 3 7B-SFTを階数32のLoRAで1エポック微調整した。評価は44個の質問に10回ずつ回答させ、Qwen3 32Bを判定器として0〜9点で採点し、3点未満を不整合とした。この判定はGPT-4.1-miniの採点とピアソン相関で約0.9一致する。各訓練例の影響度は、影響関数の逆ヘッセ行列とベクトルの積として定義される。

$$\mathcal{I}(z)=\nabla_\theta f(\theta^\ast)^\top H^{-1}\nabla_\theta \mathcal{L}(z,\theta^\ast)$$

ここでfは対象とする振る舞い、Lは訓練例zの損失、Hは学習後の重みθ*でのヘッセ行列である。

実装では、ヘッセ行列をEK-FACで近似する方法と、勾配のコサイン類似度で代用する方法の2通りを使った。対象とする振る舞いの勾配は、同じ質問への10回の回答を判定点で中心化して重み付けし、整合した回答と不整合な回答が逆向きに寄与するようにした。これで、助言をすることや英語で書くことのような全回答に共通する特徴ではなく、不整合かどうかの差を捉える。検証は、影響度の上位または下位の例を除いて学習し直し、初期化4通り×データ順3通りの12シードで不整合率を測る。比較対象には、有害な質問と回答の分類器WildGuardの対数確率を使った。

キャリア助言で学習したモデルの不整合率は約45%で、無作為に20%を除いてもほとんど変わらない。影響度の上位20%を除くと約40%に下がり、下位20%を除くと55%近くまで上がった。WildGuardで最も有害とされた20%を除いても有意な変化はなかった。良い助言と悪い助言を半々に混ぜた条件では、悪い助言を見分けるAUCはWildGuardが0.9998、EK-FACが0.9171だったが、不整合を操作する除去ではEK-FACの方が効いた。有害さの判定と、不整合への寄与は別の量だということになる。影響度で10%ずつの区間に分けて学習すると、最下位の区間は無作為選択より不整合率が約20ポイント低く、最上位の区間は約20ポイント高く、分布の端だけでなく全体にわたって順序が意味を持っていた。学習データを5%に絞っても、選び方次第で不整合率は約60%にも約20%にもなる。ただし影響度の低い例も無害ではなく、それだけで学習しても不整合なモデルになる。下位20%で学習すると狭い領域での不整合も約95%から80%弱に下がっており、広い不整合の差の一部は、狭い課題をどれだけ強く学んだかと結びついている。

モデル間の比較では、Qwen 2.5、Qwen3、Llama 3の10モデルすべてが同じデータで不整合になり、多くのモデルで影響度による除去の差はWildGuardより大きかった。一方で、影響度の順位のスピアマン相関は、自動車助言では多くのモデル間で0.3〜0.6だが、キャリアと教育では負になる場合もあった。同じモデルの異なるシード間では0.75〜0.85である。他のモデルで計算した影響度でOLMoを除去すると、OLMo自身の影響度を使った場合にほぼ劣り、同じ系列だから転移しやすいという明確な傾向も見つからなかった。影響の大きい例は、自信過剰で明らかに誤っている傾向が中程度に相関したが、この評価基準で選んだ除去は影響度ほど効かなかった。限界として、著者らは、影響度はどの例が効くかは示しても、なぜ効くのか、例同士の相互作用がどうなるのかは説明しないと明記している。データの側からの制御はモデルごとに影響度を計算し直す必要があり、他モデルの影響度では同じモデルでの効果を回復できない。

論文4: 線形アテンションの再帰状態を窓ごとに量子化する

出典: LeapQuant: Efficient Linear Attention with Accurate Recurrent State Quantization. arXiv:2609.38166 (2026).

採用理由は、Qwen・Kimi・GLMの最新ハイブリッド型LLMで主流になった線形アテンション層について、固定長の再帰状態の読み書きが新たな推論のボトルネックであることを示し、学習不要の8ビット化で精度を保ったまま高速化した点にある。UCバークレー、ワシントン大学、MIT、Perplexity、NVIDIAのチームで、Ion StoicaとSong Hanが著者に入る。Gated DeltaNetやKimi Delta Attentionのような線形アテンションは、トークン履歴を固定サイズの状態行列に圧縮するのでKVキャッシュのように伸びないが、デコードのたびに状態全体をHBMから読み、更新し、書き戻す。演算量に比べて転送量が大きいため、帯域が律速になる。接頭辞キャッシュを有効にすると、キャッシュした接頭辞ごとに状態を保持するためメモリも圧迫する。

状態を低ビットで保存する素朴な方法は、毎ステップ量子化し直すため丸め誤差が累積する。Qwen3.5-9BのAIMEでは、FP32状態の87.9%が、毎ステップBF16で保存するだけで72.1%、FP8で14.6%、INT8で7.1%まで落ちる。加えて状態の特定の行と列に外れ値が集中し、量子化の範囲を広げてしまう。LeapQuantは2つの工夫でこれに対処する。1つ目の窓単位の量子化では、窓の始点の状態を低ビットで固定し、窓の中のトークンの更新は高精度でバッファし、出力は固定状態とバッファから計算する。全状態を量子化し直すのは16トークンの窓の終わりに1回だけで、これは学習とプリフィルで使われるチャンク単位の定式化と同じ形である。2つ目の補償トークンでは、窓の境界で状態の最大の外れ値を少数の高精度なランク1行列として取り出し、残差だけを量子化する。ランク1の項は実トークンの更新と同じ形なので、専用の状態更新なしに既存のデコードカーネルの経路で処理できる。さらに残差の行ごとの大きさをならしてから量子化する。Qwen3.5-9Bのあるヘッドでは、中央値の176倍あった外れ値が、補償トークンで47倍、平滑化で5.3倍に下がった。

Qwen3.5-9B、Qwen3.5-35B-A3B、Kimi-Linear-48B-A3Bの3モデルと、AIME 2026、GPQA-Diamond、LiveCodeBench v6、MMLU-Proの4課題、合わせて12の組み合わせで、8ビットのLeapQuantはFP32と同等の平均75.5%を保った。KVキャッシュ向け手法を移植した比較対象の最良はKVQuantの67.0%である。6ビットでは平均72.4%で、NVFP6の29.6%、TurboQuantの31.9%を大きく上回り、4ビットでも60.4%を保ってKimi-Linearでは全課題でFP32との差が1.1ポイント以内だった。INT8で要素を1つずつ足すと、AIMEは毎ステップ量子化の7.1%から、窓単位で82.4%、補償トークンで86.6%、平滑化で87.9%とFP32に戻り、カーネルは2.52倍速い。状態は1要素あたり4バイトから1.19バイトになり転送量は3.4分の1、接頭辞キャッシュ有効時のメモリは41〜56%減り、B200でQwen3.5-9Bの同時リクエストを最大1.4倍にできる。カーネル単体の平均高速化は2.05〜3.70倍、端から端までの推論は平均1.47倍だった。

限界として、4ビットではQwenの2モデルでAIMEが58.1%、59.2%まで下がり、長い推論が要る課題での劣化はまだ大きい。窓長は16が最速で、32にすると精度は変わらずカーネルは2.20倍に落ちる。補償トークンは4本で精度が飽和し、16本にするとFP32より遅くなる。効率の測定に使ったQwen3.8-FlashとGLM-5.3-Flashは、ハードウェアの制約から8層だけの版であり、層ごとのデコード費用は保つがモデル出力は保たない。Kimi-Linearは推論型でないため、端から端までの測定ではQwen3.5-9Bの出力長の分布を借りて負荷を模擬している。MoE層など状態以外の部分は元の精度のままである。

論文5: 生成した反実仮想の動画でヒューマノイドに運搬を教える

出典: Counterfactual Video Generation Enables Scalable Humanoid Loco-Manipulation. arXiv:2609.38172 (2026).

採用理由は、動画生成モデルを、推論時の計画器としてではなく、人と物体の相互作用データを増やす供給源として使い、その不完全さを接触の制約で吸収して、実機ヒューマノイドへの追加学習なしの転移まで示した点にある。Amazon FAR、UCバークレー、カーネギーメロン大学、スタンフォード大学のチームで、Pieter Abbeel、Jitendra Malik、Angjoo Kanazawaらが著者に入る。人の動画を模倣して全身の移動と操作を覚えさせる手法は進んでいるが、全身と物体への接触がはっきり映った多様な動画を集めることが規模拡大の壁になっている。インターネット動画は多いが、構図が視聴者の好みで決まっているため、条件に合う動画を選び出す費用が大きい。

提案するPRISMは、箱を運ぶ人を撮った4本の実写動画を種に、動画から動画への生成モデルSeedDance 2.0で、物体を箱・ゴミ箱・樽・ボールに置き換えた「反実仮想」の動画を1カテゴリ16本ずつ作り、合計256本に増やす。背景・照明・視点は保ったまま、物体の大きさや向きに応じて、人がより深くかがむ、手の幅を変える、といった振る舞いの変化も生成される。次に、単眼動画から人・背景・物体の形と動きを同じ世界座標で復元する。独立した6自由度の物体追跡は手や体に隠れると崩れるため、接触している間は物体を手のひらに固定し、人の動きで物体の軌跡を決め、逆に物体との接触で人の関節推定を補正する。リターゲットでは、両手のひらを結ぶ線分と物体メッシュの交点を接触アンカーとし、ロボットの手先がそこに触れるよう制約を加えて、ノイズのある復元を物理的に妥当なロボットと物体の軌跡に直す。学習は、ロボットと物体の両方の軌跡を追う特権情報付きの教師方策を、接触アンカーへの到達と接触力に報酬を与えて訓練し、それを搭載カメラの深度とジョイスティック指令だけで動く生徒方策へDAggerとPPOで蒸留する。

シミュレーションでは、既存のモーションキャプチャーデータOMOMOで学習した方策は、PRISMの学習分布の物体で23.75%、椅子や机などの分布外の物体で12.50%しか成功しない。PRISMのデータで学習した方策はOMOMOのテスト系列で100%、分布外の物体で72.92%だった。要素を順に加えると、分布内の成功率は基準の22.50%から、接触による物体姿勢の固定で58.75%、接触アンカー付きのリターゲットで86.25%、接触報酬で96.25%まで上がる。実機は29自由度のUnitree G1で、物体をつかんで3メートル以上落とさずに運べたら成功とした。学習カテゴリの各3物体を5回ずつ試し、箱は15回中15回、ゴミ箱と樽は14回、ボールは12回成功した。生成動画に含まれないカテゴリでも、机とリュックは5回中5回、椅子とやかんは4回、ヘルメット・ランプ・ひよこのおもちゃは3回成功している。動画生成による増強は、幾何学的な増強より少ない実演数（80対103）で上回った。

限界として、4本の種動画から得た256本のうち、物理的に実行可能な軌跡は137本、教師方策が成功したのは129本で、著者らはこの規模ではデータ量と汎化の関係を特徴づけられないとしている。種動画は視点が安定し隠れの少ないものを選んでおり、単眼の4次元復元とリターゲットが依然としてボトルネックである。物体は剛体として扱い、質量はカテゴリごとの公称値なので、折りたたみ椅子のような関節や変形のある物体では把持が不安定になり得る。実機では深度推定を外部の計算機で行い、移動の指令は人がジョイスティックで与えている。

まとめ

文脈をファイルとして編集させるだけでBrowseComp-Plusの精度を相対11.4%上げつつFLOPsを21.5%減らした文脈言語モデル、制御を4段階の推論に分けて12通りの比較すべてで上回り、ProgramBenchでGPT-5.5を71.5%まで伸ばしたメタ推論、影響度の上位20%を除くか下位20%を除くかで不整合率を40%にも55%にも動かした訓練データ帰属、8ビットの再帰状態でFP32と同じ75.5%を保ちカーネルを2.05〜3.70倍速くした窓単位の量子化、4本の実写動画から256本を生成して実機で未見の物体まで運ばせた反実仮想動画の5本だった。1本目と2本目は、実行の履歴全体を持ち回るのをやめ、モデル自身がコンパクトな状態を保ちながら外部の記録を読み書きする設計で、長い実行ほど差が開くことを示した。一方で、書き換え可能な文脈が注入の経路になる点や、小さな予算では制御の費用が回収できない点も、それぞれの論文が報告している。3本目は、有害さの判定と不整合への寄与が別の量であり、その対応がモデルごとに異なることを示した。4本目と5本目は、状態の外れ値や生成動画の誤差という不完全さを、補償トークンや接触アンカーという小さな高精度の成分で吸収している。

参考ソース

• 論文1: Context Language Models. arXiv:2609.37725
• 論文2: Thinking Before Thinking: Scaling Agentic Inference Through Meta-Reasoning. arXiv:2609.38147
• 論文3: The Unequal Influence of Bad Advice: Using Training Data Attribution to Modulate Emergent Misalignment. arXiv:2609.37914
• 論文4: LeapQuant: Efficient Linear Attention with Accurate Recurrent State Quantization. arXiv:2609.38166
• 論文5: Counterfactual Video Generation Enables Scalable Humanoid Loco-Manipulation. arXiv:2609.38172