arXiv Frontier AI論文解説（2026年10月4日）

キーワード: RLVRと思考連鎖の言語ドリフト / MCMCによる専門家データのオンポリシー化 / ループ型Transformerの対照デコーディング / コーディングエージェントの能動的な文脈圧縮 / 回路発見における忠実度指標の順位逆転

本日は、検証可能な報酬による強化学習（RLVR）が思考連鎖の言語を際限なく崩しうることを証明し、小型モデルの実験で「新しい課題」でだけ崩れが起きることを示したザールラント大学の研究、専門家の解答をMCMCでベースモデル自身の分布へ寄せてから教師あり学習することでRLや自己蒸留に並ぶ汎化と少ない忘却を得たハーバード大学の研究、ループ型Transformerの1回目のループを弱い予測として対照に使うだけでAIME 2024のpass@1を61.88%から73.33%へ上げたAppleの研究、コーディングエージェントに文脈圧縮の時機・要約内容・圧縮後の行動を学習させてSWE-bench Verifiedを9.2ポイント改善した研究、そして機構的解釈可能性の回路発見で標準の忠実度指標が同じ大きさのより劣った回路を選んでしまう現象を定量化したトロント大学の研究を扱う。数値はいずれも各論文のarXiv HTML本文の報告値による。

オープニング：2026年10月4日 — arXiv Frontier AI論文解説

前半の2本は、どちらも事後学習における教師あり学習（SFT）と強化学習の違いを扱う。1本目はRLVRがSFTと違って思考連鎖の言語ドリフトに上限を持たないことを証明し、ドリフトを抑えれば期待報酬も抑えられることを示す。2本目は反対側から、SFTの弱点とされてきた汎化と忘却を、学習アルゴリズムではなくデータ分布をモデルに寄せることで改善する。3本目は推論時の手法で、ループ型Transformerの途中のループが同じ表現空間にある弱い予測器になっている点を利用する。4本目はエージェントの文脈管理を方策の一部として学習させ、5本目は解釈可能性研究の評価関数そのものが誤った回路を選ぶ「目的関数レベルの回復ギャップ」を測る。

論文1: 検証可能報酬の強化学習が思考連鎖の言語を崩す条件

出典: On Language Drift during RLVR Post-Training. arXiv:2610.02015 (2026).

採用理由は、推論モデルの思考連鎖に現れる非標準的な言語使用、いわゆる言語ドリフトについて、RLVRとSFTの違いを形式的な定理として示し、思考連鎖の監視可能性と性能の間に原理的なトレードオフがあることを主張している点にある。ザールラント大学言語科学・言語技術学科のMichael SullivanとAlexander Kollerによる研究である。著者らは、DeepSeek-R1-Zeroの言語混在や、最前線モデルの推論過程に人間には読めない断片が現れる既報を背景に、言語ドリフトがRLVRの最適化圧だけで起こりうるのかを問う。言語ドリフトは、人間の言語分布をプロンプト条件付きで表したものとモデルの分布との期待KLダイバージェンスとして定義される。報酬モデルの欠陥を突く同一トークンの反復のような報酬ハッキングは対象外とし、内部的には一貫した新しい言語行動に焦点を当てる。

$$\mathrm{LD}(\pi)=\mathbb{E}_{x\sim P^{(HL)}_{\mathcal{X}}}\left[D_{\mathrm{KL}}\left(P^{(HL)}(\cdot\mid x)\,\|\,\pi(\cdot\mid x)\right)\right]$$

理論部分では、SFTを固定データ分布に対する交差エントロピーが単調に減る系列、RLVRを最終解答の正誤だけで決まる期待報酬が単調に増える系列としてモデル化する。定理1は、RLVRでは思考連鎖の条件付き分布が期待報酬を変えずに人間の言語分布から任意に離れうるため、言語ドリフトの上限が無限大になることを示す。定理2は、SFTではデータ分布と人間の言語分布のKLが定数なので、どの学習系列でもドリフトに有限の上限があることを示す。定理3は、どのドリフト半径の内側にも、それより大きな半径で達成できるより高い最大期待報酬が存在することを示し、ドリフトを一定以下に制約すれば到達可能な期待報酬も制約されると結論する。ただし定理は実際のRLVRで必要なドリフトの量、つまりトレードオフ曲線の傾きを与えない。そこで著者らは、ベースモデルにすでにある振る舞いを引き出すだけの課題では、ベースモデルとのKLが最小の解が選ばれるためドリフトは起きず、新しい振る舞いの発見を要する課題でだけドリフトが副作用として生じるという仮説を立てる。

実験はGSM8Kで、gemma-3-1b-pt、Llama-3.2-1B、Qwen2.5-1.5Bのベースモデルを、GRPOの変種であるDAPOとSFTでそれぞれ学習し、最良の設定を5シードずつ再現した計30の学習を比べる。ベースモデルの段階でQwenは最初に出した解答の正解率が0.41、最後の解答が0.20と高く、RLVR後の0.79のうち約3分の2は解答後に終了トークンを出すことを覚えるだけで得られたと著者らは見積もる。一方、ベースの正解率は最初の解答と最後の解答でLlamaが0.06と0.02、Gemmaが0.02と0.01しかなく、RLVR後はそれぞれ0.23と0.12になったことから、両者には新しい振る舞いの発見が必要だったとみなされる。人間の言語分布は直接測れないため、3つのinstructモデルを読み手にして、問題文を伏せたまま思考連鎖の先頭10%から100%までを見せ、モデル自身が出した最終解答を当てさせる判読性で代理測定する。RLVRとSFTの判読性の差の曲線下面積は、LlamaとGemmaで最良チェックポイント同士が-0.24と-0.17、性能をそろえたチェックポイント同士でも-0.28と-0.18で、RLVRのほうが読みにくい。Qwenは0.02と0.01でほぼ差がない。同じ種類のモデルの別シードを読み手にした自己判読性でも、LlamaとGemmaはRLVRのほうが低く、Qwenだけが0.56と0.39でRLVRのほうが高い。同じベースと同じデータから始めても、RLVRの各学習が別々の方向へ言語を変えたことを示す結果である。

限界は著者ら自身が明記している。計算資源の制約から1Bから1.5B規模のモデルとGSM8Kだけで実験しており、観察されたドリフトは最前線モデルの読めない思考連鎖ほど極端ではない。定理3のトレードオフ、すなわちドリフトを抑えると報酬が下がることは実験で検証しておらず、今後の版で補うとしている。それでも、新しい推論課題こそ最前線を進めるために必要な課題であり、そこでSFT用の注釈データが乏しいためRLVRへの依存が強まるという構図を、定理と小規模実験の両面から一つにつなげた点に意義がある。シードごとにドリフトの方向が異なるという結果は、同じデータで学習したモデルを監視役に使う方式にも疑問を投げかける。

論文2: 専門家の解答をモデル自身の分布へ寄せてから教師あり学習する

出典: Finetuning with Sampling: SFT Learns Better Than You Think. arXiv:2610.02140 (2026).

採用理由は、「RLは汎化して忘れにくく、SFTは汎化が弱く破滅的忘却を起こす」という事後学習の通説に対し、学習目的関数ではなくデータ分布の側を変えることで、素のSFTがRLや自己蒸留に並ぶことを示した発想の転換にある。ハーバード大学のAayush Karan、Sitan Chen、Yilun Duによる研究である。先行研究は、SFTの忘却をオフポリシーなデータによる大きな更新に帰し、ベースモデルとのKLが大きいほど忘却が大きいことを報告してきた。一方でオンポリシー学習は、モデル自身が正解の軌跡を一度も生成できない難問では報酬の分散がなく学習信号が得られない。著者らは、専門家の解答に含まれる情報は保ったまま、ベースモデルの分布にできるだけ近い軌跡を作れれば両者の長所を両立できると考える。

形式的には、専門家の解答と同値な軌跡の集合、例えば数学なら同じ情報を使って正しい最終解答に至る軌跡の集合に台を制限した分布のうち、ベースモデルとのKLを最小にするもの、すなわち情報射影を目標分布とする。これはベースモデルの分布をその同値集合に制限して正規化したものになる。ベースモデルが自力で正解を出せるなら棄却サンプリングで足りるが、著者らが狙うのはそれが難しい領域である。そこで専門家の軌跡を初期値とするメトロポリス・ヘイスティングス法を使う。提案分布は、現在の軌跡を一様にランダムな位置で切り、その途中経過と専門家の解答をプロンプトに入れてベースモデル自身に続きを書かせるもので、受理確率はベースモデルの尤度比で決まる。著者らは、この連鎖の各ステップでデータ生成分布とベースモデルとのKLが単調に減らないことをデータ処理不等式から示す。実装では系列を32トークンのブロックに分けて段階的に伸ばし、最大長1,856トークン、MCMCは10ステップとした。この「射影サンプリング」は学習データに一度だけかける前処理で、推論時のコストは増えない。

化学では、SciKnowEvalのChemistry L-3の1,800問で学習し、Qwen2.5-7B-Instructの正解率を0.343から0.660へ31.7ポイント上げた。素のSFTとオンポリシー自己蒸留（OPSD）はともに0.618で、専門家の解答を一度言い換えさせるだけのSFTは0.613だった。既存能力の5つのベンチマークの平均は、ベースの0.597に対して素のSFTが0.520まで落ちたが、提案法は0.586で1.1ポイント減にとどまり、MMLUは0.687から0.692とむしろ上がった。数学では、MATHのレベル3から5の8,230問で学習したQwen2.5-3Bで、MATH(3,4,5)が0.315から0.495、MATH500が0.245から0.582になり、MATH500ではGRPOの0.313を26.9ポイント上回った。GSM8Kの0.782はGRPOの0.808に届かず、AMCの0.277はUFTの0.293を下回る。提案法で得たチェックポイントからGRPOを続けるとMATH500は0.652、GSM8Kは0.830に達した。医療質問応答では、新しい課題の正解率は0.458でOPSDの0.466をわずかに下回る一方、既存能力の平均は素のSFTの0.353に対して0.516で、16.3ポイントの低下を取り戻した。Olmo-3-7B-Instructの化学でも、新課題はOPSDの0.597に対して0.583だが、既存能力の平均は0.617で全手法中最も高い。

分析では、提案法で作った軌跡のベースモデル下での長さ当たり対数尤度が専門家の軌跡より明確に高く、MCMCのステップを0から10へ増やすとKLが単調に縮まり、学習後の正解率も上向く。pass@kの曲線は非常に大きなkまでベースモデルとの差が縮まず、ベースモデルではpass@kが0だった問題の一部で通過率が67.2%や53.1%に達したことから、著者らは既存分布の先鋭化を超える能力獲得が起きていると主張する。同じデータをOlmo向けに変換してQwenを学習させると全ベースラインを下回るとの報告もあり、変換が学習対象モデルに固有であることが効いている。限界としては、新課題の正解率で常に最良ではなく医療とOlmoの化学ではOPSDが上回ること、同値性の判定に正解判定やLLM採点器が要ること、前処理コストが軌跡長の2乗に比例してブロック長に反比例することが挙げられる。前の論文がSFTによるドリフトの有界性を示したのに対し、この論文はSFTのデータ自体をオンポリシーに近づける方向を示しており、両者を並べると事後学習の設計空間がオンポリシーかオフポリシーかの二択ではないことが見えてくる。

論文3: ループ型Transformerの初回ループを弱い予測として使う対照デコーディング

出典: Decoding Looped Transformers Better for (Almost) Free. arXiv:2610.02185 (2026).

採用理由は、追加の学習も補助モデルも使わず、ループ型Transformerが構造上すでに持っている「弱い予測と強い予測の組」を推論時に再利用するだけで、推論精度と計算量の両方を改善した点にある。Appleの研究チームで、筆頭著者はインターン中の成果としている。ループ型Transformerは共有パラメータのブロックを繰り返し実行することで、パラメータ数を増やさずに実効的な深さを稼ぐ。各ループの中間状態は同じ出力ヘッドで次トークン分布に変換できるが、通常のデコーディングは最終ループの状態しか使わない。一方、対照デコーディングは強い予測器をそろった弱い予測器から遠ざける方向へ導く手法で、通常の言語モデルでは小型の補助モデル、摂動した文脈、中間層などで弱い側を用意する必要があった。ループ型では、同じ層が同じ表現空間で計算した1回目と最終回の状態がそのまま弱い予測と強い予測になる。

LoopCDには二つの形がある。ロジット空間版は、1回目の状態と最終状態をそれぞれ後段の層と出力ヘッドに通し、最終ロジットに両者の差の定数倍を足す。出力側の計算が1回分増える。隠れ状態空間版は、後段の層に入る前に最終状態と1回目の状態の差を外挿し、出力側は1回しか通さないので追加計算がない。ガイダンスの強さは固定値か、最終予測の上位2トークンの確率差が小さいほど強くする適応的な規則で決める。拡散モデルのautoguidanceや分類器なしガイダンスと同じく、劣化した参照から遠ざける考え方である。

$$z'=z_R+\omega\,(z_R-z_1),\qquad \omega=\omega_{\max}\left[1-\left(p_{R,(1)}-p_{R,(2)}\right)\right]$$

評価はOuro、Huginn、Parcae、Qwen3-4Bから作ったLooped-Qwen3の4系統で行う。Ouro-2.6B-Thinkingでは適応的なロジット版がAIME 2024のpass@1を61.88%から73.33%、AIME 2025を49.58%から56.88%、OlympiadBenchを64.05%から67.29%に上げ、pass@1の平均改善は固定と適応の両規則で5.27から7.33ポイントだった。コード生成ではHuginnの32ループで、HumanEvalのpass@1が隠れ状態版で22.56%から31.71%になった。7つの多肢選択ベンチマークの平均も全構成で上がるが、改善幅は0.29から1.59ポイントと小さく、WinoGrandeやPIQAでは下がる構成もある。さらにループ数を半分にした場合、ガイダンスなしでは多肢選択平均が0.17から1.29ポイント下がるが、LoopCDを加えると0.75から1.29ポイント戻り、Huginn、Parcae、Looped-Qwen3の6設定すべてで全深さのガイダンスなしに並ぶか上回った。追加の出力計算を含めても、順伝播の計算量は元の0.52から0.78倍、すなわち22.5%から48.2%の削減になる。

仕組みの分析も具体的である。1回目のループだけの予測は最終予測より多肢選択平均で4.0から23.7ポイント低く、Huginnでは1回目と最終予測が異なる選択肢を選ぶ割合がARC-Challengeの51%にのぼり、そのとき3.07ポイントの改善が得られる。参照を16回目に遅らせると不一致は7%、改善は0.17ポイントに縮む。差のベクトルを最終ロジットに平行な成分と直交する成分に分けると、温度調整にあたる平行成分ではなく、順位を入れ替える直交成分が改善の大半を生む。確信度の最も低い5分の1の問題では6.4から13.3ポイント改善するのに対し、最も高い5分の1では最大0.4ポイントで、答えが変わる問題は全体の5.8%から14.9%にすぎない。限界として、自己回帰生成ではガイダンスの強さを0.2から0.3程度の狭い範囲にしないと誤りが累積して精度が急落し、Huginnの隠れ状態版はガウス雑音から始まる初期状態のため1回目を参照にすると逆に0.58ポイント下がり、6回目を参照にする必要がある。ループ半減の結果は多肢選択平均での比較であり、AIMEのような長い生成で同じ計算削減が成り立つかは示されていない。

論文4: コーディングエージェントに文脈圧縮のタイミングを学習させる

出典: AutoCompact: Learning When to Compact Context in Long-Horizon Coding Agents. arXiv:2610.02163 (2026).

採用理由は、長時間タスクのエージェントで実用上避けられない文脈圧縮を、文脈長の閾値で起動する仕組みではなく、いつ圧縮し、何を残し、どう続けるかを方策の一部として学習させ、要約を実際に使うことの寄与まで切り分けて示した点にある。シンガポール経営大学、南洋理工大学、ハーバード大学の研究者らによる。リポジトリ規模のソフトウェア修正では、コードの調査、検索、編集、テストを重ねるうちに、捨てた仮説や失敗した試行、冗長なツール出力が文脈にたまる。既存のCompactionRLは残り文脈が閾値を下回ったときだけ圧縮するため、まだ証拠が必要な段階の途中で圧縮が起きうる。能動的に圧縮させる既存法も、推論時の評価基準を与えるだけで学習信号がないか、完成済みの軌跡に圧縮呼び出しを後から挿入するだけで、圧縮後の行動は元のまま残る。

AutoCompactはエージェントにcompactという行動を加え、呼ぶと過去の対話履歴を、確定した知見、関連コードと作業状態、残りの作業を記した要約に置き換える。元のタスク文は残す。ベースモデルはプロンプトで規則を与えてもcompactをほとんど呼ばなかったため、まず判定役のGPT-5.5-Codexがベースモデルの行動を一手ずつ検査するデータ収集を行う。検査対象は、今が圧縮すべき時点か、要約が必要な情報を正しく残しているか、圧縮直後の行動が要約に従っているかの3点で、不適切なら判定役が修正した出力を環境で実際に実行し、以降の軌跡はその修正された履歴から続く。この点が、修正が後の状態に影響しない事後注釈との違いである。SWE-rebenchの379タスクから1,052本の修正済み軌跡を集め、内訳は圧縮のタイミングが24%、要約の構成が53%、圧縮後の継続が23%だった。これでQwen3-Coder-30B-A3B-InstructをSFTし、さらにSWE-GymでGRPOを使い、最終パッチがテストを通るかの二値報酬だけで強化学習する。圧縮で文脈の先頭が書き換わるので、軌跡を書き換え点ごとの区間に分け、全区間に同じアドバンテージを与える。KL罰則もエントロピー項も使わない。判定役は推論時には使わない。

SWE-bench VerifiedとSWE-PolyBench Verifiedの通過率は、ベースが30.4%と19.5%、16Kトークンで強制圧縮する固定圧縮が28.8%と18.6%、CompactionRLが32.7%と19.8%、推論時の評価基準を使うSelfCompactが31.7%と20.6%、オフライン挿入でSFTするSWE-Compressorが31.0%と20.1%だった。AutoCompactのSFT段階は32.2%と21.7%で、強化学習後は39.6%と24.5%となり、ベースから9.2ポイントと5.0ポイント改善した。改善の大部分、7.4ポイントと2.8ポイントは強化学習で生じている。256Kの文脈で一度も溢れない条件でもSFT版はベースを上回り、全履歴を保持することが最適ではないことを示す。compactを使ったタスクの割合はSFT後の44.3%から強化学習後に58.5%へ増え、要約が重要な状態を落とす割合は3.1%から0.2%、次の行動を落とす割合は8.2%から2.2%に減った。同じ学習済みモデルでcompactの呼び出しを無視させると通過率が下がり、その差はタスク当たり0.10ドルの予算で19.9ポイント、4.00ドルでも1.9ポイント残る。学習で得た行動だけでなく、圧縮を実行すること自体が寄与している。

事例分析では、SFT版の要約が未解決の構文エラーを記録しながら「追加作業なしで完了」を次の行動に挙げ、実際に構文エラーで失敗した一方、強化学習版は変更完了を記録したうえで提出前の検証を次の行動に挙げ、テストに通った。著者らはこれを要約の自己整合性と呼び、情報の網羅とは別の品質軸だとする。限界として、強化学習は32Kトークンの系列で行っており評価時の256Kより短いこと、単一のスキャフォールドでの検証であること、要約の欠落率はキーワードによる選別と無作為な目視確認で数えた値であることが挙げられる。比較表では長さ起動の手法が16K、能動的な手法が256Kの文脈で評価されており、条件が完全にはそろっていない点も読み取る際に考慮が要る。著者らは、文脈上限に近づくと自動で圧縮する現行のコーディングエージェントの設計に、学習した能動的圧縮を組み合わせる余地を指摘している。

論文5: 回路発見の忠実度指標が劣った回路を選ぶ問題

出典: Are We Recovering Mechanisms? Objective-Level Recovery Gaps in Mechanistic Interpretability. arXiv:2610.02098 (2026).

採用理由は、機構的解釈可能性の自動回路発見が「より良い探索をすればより良い回路が見つかる」という前提で進んできたのに対し、探索ではなく評価関数そのものが劣った回路を高く評価しうることを、同じ大きさの回路の対で体系的に示した点にある。トロント大学とマギル大学のチームによる研究である。回路の評価には通常、回路外の計算をドナー活性、平均、ゼロのいずれかで置き換えて実行し、元のモデルの出力をどれだけ保つかを測る介入ベースの忠実度が使われる。この値は回路の説明であると同時に、探索中にどの接続を残すか、最終的にどの候補を提示するかを決める基準にもなる。著者らは、置き換えによって回路内に残った部品が元のモデルとは異なる入力を受け取り、異なる活性を計算し直す「文脈の歪み」によって、介入下でうまく振る舞う回路が、元のモデルの振る舞いをよく再現する回路より高く評価されうると考えた。

検証では、検証用プロンプトでの忠実度と、別のプロンプトで通常のリサンプリング下で測る行動基準Qを分ける。Qは元のモデルの答えとの一致率で、元のモデルの誤りも一致に含める。Greater-Thanだけは意味的な正解率を使う。忠実度が一方の回路を、Qが他方を良いとする場合を順位逆転と呼び、比較はすべて部品数が同じ回路同士で行う。対象は人手で回路が研究されてきたIOI、Greater-Than、Docstring、Acronymの4課題と、既知の回路を持つ半合成モデル群InterpBenchの10課題である。まず探索アルゴリズムを使わず、参照回路の部品を1個、または参照の大きさの5%から75%を、外の部品と入れ替えた候補を作った。KLによる忠実度で、Greater-Thanの候補同士の逆転率はリサンプリングで3.4%だがゼロ置換で54.0%に上がり、IOIでは平均置換が参照と候補の対の33.3%を逆転させるのにゼロ置換では3.3%にとどまる。介入の種類で、どちらの回路が報われるかが変わる。InterpBenchの課題93ではゼロ置換で参照と候補の対の70.0%が逆転し、その際に選ばれた回路は他方より平均63.55ポイントQが低かった。指標をロジット差や確率差に替えても逆転は残る。

次に、実際の回路発見法であるEAP、EAP-IG、ACDC、Edge-SPの出力を、10個の発見シードと各課題100個の発見用プロンプトで集めて比べた。人手回路の課題で、通常のリサンプリング下でも候補同士の逆転率はEAPが20.0%、EAP-IGが30.4%、ACDCが41.2%、Edge-SPが9.4%だった。EAP-IGは平均置換にすると53.0%に上がる。課題群全体で集計すると、人手回路の課題の候補同士の逆転率はリサンプリング、平均、ゼロの順に20.9%、30.9%、38.1%で、InterpBenchの9.8%、16.2%、26.8%より高い。半合成ベンチマークでの低い逆転率だけでは、事前学習済み言語モデルでの信頼性を保証できないことになる。最後に、検証用と独立テスト用の両方で逆転し、Qの差が0.5ポイント以上ある100件を発見結果から選び、除外された入力接続の一部だけを元のモデルの実行時の活性に戻した。回路、重み、他のドナー割り当て、元のQは固定したままである。戻す割合を80%から10%まで段階的に探索すると、100件中96件で検証とテストの両方の順位が正しく入れ替わり、人手回路の50件はすべて、InterpBenchは50件中46件が修復された。10%を戻すだけでも82件が修復された。

結論として著者らは、探索を改善しても、評価関数が劣った候補に報いる限り機構の回復は保証されないとし、忠実度と並べて固定した行動基準を報告すること、逆転率と一緒にQの差の大きさを示すこと、複数の指標と介入で結果が変わらないかを確かめることを提案する。限界も明示されている。Q自体が通常のリサンプリングに依存しており機構の同一性を保証しないこと、課題と探索予算が限られ回路の対が互いに独立でないこと、文脈の復元実験は選ばれた持続的な失敗に対するもので、最小の因果集合を特定したわけでも、無作為な復元より優れることを示したわけでもないことである。1本目の論文が思考連鎖という外に見える推論の読みやすさを扱ったのに対し、この論文はモデル内部の計算を読む道具の評価基準を問い直しており、監視と解釈の双方で測る手段の妥当性が論点になっている。

まとめ

RLVRが思考連鎖の言語ドリフトに上限を持たずSFTは有界であることを証明し、1B級モデルで新しい課題でだけドリフトが起きることを判読性で示した研究、専門家の解答をMCMCでベースモデルの分布へ寄せる射影サンプリングによって、SFTでMATH500を0.245から0.582へ上げながら既存能力の低下を抑えた研究、ループ型Transformerの1回目のループを対照の参照に使い、AIME 2024を61.88%から73.33%へ上げ、ループ半減で最大48.2%の計算を削った研究、文脈圧縮の時機と要約と継続を判定役の修正と成果報酬で学習させ、SWE-bench Verifiedを30.4%から39.6%にした研究、そして回路発見で忠実度が同じ大きさの劣った回路を選ぶ逆転を測り、部分的な文脈復元で100件中96件を修復した研究の5本だった。前半の2本はSFTとRLの境界を別々の方向から描き直し、3本目と4本目は推論時の計算と文脈という資源の使い方を改良している。1本目と5本目は、推論の外側の記述と内部の計算のどちらを読むにしても、読むための基準そのものが崩れうることを示している。

参考ソース

• 論文1: On Language Drift during RLVR Post-Training. arXiv:2610.02015
• 論文2: Finetuning with Sampling: SFT Learns Better Than You Think. arXiv:2610.02140
• 論文3: Decoding Looped Transformers Better for (Almost) Free. arXiv:2610.02185
• 論文4: AutoCompact: Learning When to Compact Context in Long-Horizon Coding Agents. arXiv:2610.02163
• 論文5: Are We Recovering Mechanisms? Objective-Level Recovery Gaps in Mechanistic Interpretability. arXiv:2610.02098