arxiv 論文解説 2026/07/09

今日のハイライト: LLMが黒人英語（AAE）を無自覚に標準英語へ「訂正」してしまう方言バイアスを暴き、アクティベーションステアリングで抑え込んだ研究、解いた問題の経験を学習可能な形でメモリに編集していく自己改善型LLM推論フレームワーク「MILES」、そして毎日何百万件も却下される動画広告を、広告主の意図を壊さずに直すTencentの「R³」の3本を軸に、LLM解釈性・安全性・エージェント・生成AI応用に関する論文10本を取り上げる。

論文1: LLMが黒人英語をこっそり「添削」していた――方言バイアスをステアリングで抑える

arXiv:2607.06845 | Huan Wu, Ali Emami, Muhammad Furquan Hassan, Osaretin Igbinoba, Osakpolor Idusuyi, Osamede Igbinoba, Faiza Khan Khattak, Laleh Seyyed-Kalantari（ヨーク大学・ヴェクター研究所ほか、カナダ）

背景

アフリカ系アメリカ人英語（AAE）は3000万人以上が話す、ルールに基づいた立派な方言である。しかしLLMはこれをルーティーンで誤解し、勝手に「訂正」してしまう。論文は、14Bから70Bパラメータの6つの指示チューニング済みLLMを対象に、直前の文脈がAAEであっても最先端モデルは体系的に標準アメリカ英語（SAE）の続きを好み、事実上AAEをSAEに書き換えてしまうことを示した。

手法

論文はこのバイアスを監査・緩和するエンドツーエンドの枠組みを提示する。監査面では、翻訳器由来の見せかけのズレから真のモデルバイアスを切り分ける「条件付き方言グループ不変性（cDGI）」と、どのAAEの特徴（マーカー）が最もバイアスを引き起こすかを特定する特徴レベルの局所化分析を導入した。二重否定（例：“ain't nobody”）のような統語的構文が、調べた全モデルに共通する普遍的な引き金であることを発見した。緩和面では、方言バイアスへのアクティベーションステアリング適用として初めての試みを提示する。追加学習不要のテスト時手法で、因果トレーシングによって「方言の方向」を抽出し、バイアスに関連する層へ注入する。

結果

アクティベーションステアリングは、プロンプトによる指示だけの場合より5倍から20倍バイアスを削減しながら、SAEとしての流暢さも保った。また研究のために、自然なツイートから収集した17,479件のAAE/SAE/AAE_back三つ組からなる、これまでで最大の実物AAE並行コーパス「REAL-AAE」を公開した（先行の実物AAEリソースの2倍から6倍の規模）。BERTScore F1=0.95で自動検証され、AAEを母語とする3名の話者による意味的一致率は83.0%だった。

意義

LLMが特定の方言話者の言葉遣いを一方的に「間違い」とみなして書き換えてしまう現象は、公平性と言語的多様性の尊重という観点から見過ごせない問題である。学習をやり直さずテスト時だけで効くステアリング手法は、既存の大規模モデルに即座に適用できる実践的な対策として期待できる。

$$ h'_l = h_l + \alpha \, d_{\mathrm{dialect}} $$

（アクティベーションステアリングの基本形。層 $l$ の隠れ状態 $h_l$ に、因果トレーシングで抽出した方言方向 $d_{\mathrm{dialect}}$ をスケール係数 $\alpha$ で加算することで、SAEへの「訂正」からAAEを保つ方向へモデルの挙動を動かす）

論文2: 解いた問題の経験を自分で編集するLLM――自己改善型メモリMILES

arXiv:2607.06974 | Ruilin Tong, Dong Gong（ニューサウスウェールズ大学、オーストラリア）

背景

LLMはテスト時に追加の計算を投入して推論力を高めるが、既存手法の多くは問題を一つずつ独立に扱う。問題が次々と到来する設定では、過去の経験を再利用可能な形で蓄積できればさらに性能を高められる。既存のメモリベース手法は、丸ごとの解法テンプレートを保存する方式（新しい問題への汎化が弱い）か、ヒューリスティックなステップ単位の選択（最終的な正解率のために最適化されていない）のどちらかに偏っている。選択ポリシーの学習には大規模な訓練データと固定された行動空間が必要で、メモリが少しずつ増え限られた監督信号しか得られないテスト時設定には向いていない。

手法

MILES（Modular Instruction Memory with LEarnable Selection）は、ステップ単位のメモリを動的に拡張し、現実的なテスト時の制約のもとで正解率に最適化されたメモリ組み合わせを適用するフレームワークである。サブゴールの埋め込みとサブ命令の非対称なペアからなるモジュール式メモリユニットを保持し、それぞれに学習可能な選択ヘッドを紐づける。この構造は粗い段階から細かい段階への2段階検索を可能にする。粗い段階ではメモリ拡張を行い、確信度の高いサンプルから選択ヘッドを訓練するための監督信号を集める。細かい段階では、学習済みの選択ヘッドを使って粗い段階の候補を再ランキングし、確信度の低いサンプルの推論を導く。

結果

MILESは既存手法と同等かそれを上回る性能を一貫して達成しつつ、精度と効率のトレードオフでも優れた結果を示した。有効性・頑健性・転移性のいずれについても効果が確認された。

意義

問題を解くたびに得られる経験を、テンプレートの丸暗記でも場当たり的なルールでもなく、学習可能な形で少しずつメモリに蓄積し取捨選択していくという設計は、限られた監督信号しかない実運用環境でLLMを継続的に賢くしていく現実的な道筋を示している。

論文3: 複数の先生に習うと道具を使いすぎる――AIエージェントの「行動レバレッジ」偏り問題

arXiv:2607.07050 | Jiabin Shen, Guang Chen, Chengjun Mao（Ant Group、中国）

背景

ツール（道具）を使うエージェント型言語モデルは、いつツールを呼び出すか、いつツールの応答を消費するか、いつ直接答えるかを学ばなければならない。これを学ばせる自然な戦略が複数教師によるオンポリシー蒸留である。1つの教師をツール呼び出しに、もう1つを直接応答に特化させ、生徒モデルは自分自身が生成した分布の上で両方から学ぶ。

手法

論文は、この戦略が集計された損失だけからは見えない「行動シフト」を引き起こしうることを示す。2教師のツール利用設定で、素の一般化知識蒸留（GKD）はツール呼び出しの再現率を改善する一方、直接答えるべき例にまでツールを呼んでしまう「過剰呼び出し」の方向にモデルを動かしてしまう。集計レベルの説明は不十分であることも示した。ツール呼び出しサンプルがより多くのトークン露出を受けるわけでもなく、系列全体でのトークンあたりの乖離もツール呼び出し教師の方が大きいわけではない。代わりに論文は「行動レバレッジの不均衡」を分析する。モード開始位置や関数名などの構造的な位置における局所的なトークンレベルの信号が、生成モード全体を不釣り合いに支配しうるというものである。これに対処するため、極端なトークンレベルのJensen-Shannon乖離を動的に圧縮しつつ勾配をゼロにしない、トークンごとの乖離較正手法「Soft Clamp」を提案する。

結果

APIGen-MTベンチマークでは、Soft Clampは決定精度を維持したまま、素のGKDと比べて過剰呼び出しを13.7%から9.0%に削減した。BFCLのマルチターン診断では、GKDの各手法の中でツール呼び出しのループや繰り返し呼び出しも減少させた。

意義

複数教師によるオンポリシー蒸留では、教師の信号が集計でどれだけ大きいかだけでなく、どこに作用しているかを監視すべきだという示唆を与える。ツールを持つエージェントの訓練における見えにくい落とし穴を明らかにした点に意義がある。

論文4: 公衆衛生Q&Aに強いLLMを作る――検索拡張生成の設計指針

arXiv:2607.06641 | Felix Feldman, Joshua Harris, Timothy Laurence, Leo Loman, Ollie Higgins, Fan Grayson, Poonam Soma, Bethany Pace-Bonello, Michael Borowitz, Toby Nonnenmacher（UK Health Security Agency（英国健康安全保障庁）、イギリス）

背景

LLMは医療系の質問応答ベンチマークで有望な結果を上げているが、公衆衛生分野での利用は幻覚（事実に基づかない出力）や公式ガイダンスの急速な変化によって制約される。検索拡張生成（RAG）は、明示的に維持された文書集合に応答を根拠づけることでこうしたリスクを緩和するが、エンドツーエンドの性能は検索の設定や多肢選択形式を超えた評価に大きく依存する。

手法

論文は、イギリス政府の公衆衛生ガイダンスに由来する7,929問からなる質問応答ベンチマーク「PubHealthBench」を検索拡張の設定に拡張し、検索と生成の選択肢を体系的に評価する。密な検索・疎な検索・ハイブリッド検索を、複数の埋め込みモデルと文書集合のバリエーションにわたって比較した。忠実性・網羅性・明瞭さ・事実の一貫性を扱うルーブリックベースの「LLM審判」を導入し、二重の人間アノテーションと突き合わせて検証した。

結果

ハイブリッド検索は再現率とランキング品質を一貫して改善し、チャンクの長さとトピックがランキング性能と相互作用することを確認した。取得した文脈を与えることで多様なLLM群にわたって多肢選択の正解率が大幅に向上し、検索なしで使う大規模モデルに、検索ありの小さなオープンウェイトモデルが匹敵または上回れるようになった。この向上は主に検索の質と文脈選択の丁寧さによってもたらされていた。判定者と人間の一致度は忠実性と網羅性で最も強く、事実の一貫性と明瞭さでは再現性が低く、大規模な解釈には注意が必要であることも分かった。

意義

公衆衛生分野で信頼できる質問応答システムを作る上で検索が最も重要なレバーであることを示し、公式ガイダンスに根拠を持つRAGシステムを構築・評価するための実践的な指針を提供する。

論文5: RAGの自動採点は信用できるか――実務データで検証する評価指標

arXiv:2607.07302 | Quentin Brabant（Orange、フランス）

背景

RAGシステムの評価には、Ragas・DeepEval・RAGChecker・Opikといった複数のライブラリが提供する自動評価指標が使われるようになっているが、それらが実務の文脈でどれだけ妥当かは十分に検証されていない。

手法

論文は、実業務のデータから人間のアノテーターが作成した質問応答データセットに基づく実証研究を報告する。RAGシステムが生成した応答と検索されたスパンを4つのライブラリの評価指標でスコアリングし、2名の評価者によるスコアや再現率のような標準的な指標と比較したうえで、相関分析を行った。

結果

自動評価指標と人間評価・標準指標との相関を分析し、指標ごとに人間の判断との一致度に無視できないばらつきがあることを明らかにした。論文はあわせて自らの手法の限界を指摘し、既存文献の手法と比較したうえで今後の研究の方向性を提案している。なお本論文はフランス語圏のワークショップEvalLLMで発表された論文の英訳である。

意義

RAGの「自動採点」がどこまで信頼できるかを、机上の議論ではなく実務データで検証した点に価値がある。便利だからと自動指標をそのまま信じるのではなく、実際の業務データで妥当性を確かめる姿勢の重要性を示している。

論文6: 言葉の意味は曲がった空間に住んでいる――言語モデル埋め込みのリーマン幾何学

arXiv:2607.07047 | Szczepan Konior, Alexandre Quemy, Przemysław Klocek, Grégoire Cattan, Bartłomiej Sobieski（IBM Automation and AI（クラクフ）ほか、ポーランド）

背景

事前学習済み言語モデルの埋め込みが持つ幾何学的構造を理解することは、解釈可能性と安全性にとって重要である。論文は、文レベルの分類信号が文脈依存トークン埋め込みのリーマン幾何学の中に存在するかを問う。

手法

学習済みエンコーダの解析的ヤコビアンからトークンごとのプルバック計量を抽出し、対称正定値行列（SPD）多様体上のフレシェ平均で集約する手法「リーマン平均プーリング（RMP）」を提案する。

結果

非自明な言語構造を持つ3つのデータセット（CoLA・CREAK・RTE）でRMPはユークリッド平均プーリングを上回った。一方、注釈由来の語彙的な手がかりを取り除くために作られたベンチマークFEVER-Symmetricでは、正しく偶然レベルの性能にとどまった。アブレーション実験では、ランダム初期化したエンコーダにフレシェ集約を組み合わせただけでも、3つのうち2つの信号を含むデータセットでユークリッド平均プーリングを上回ることが分かり、性能向上の源が学習された多様体構造ではなく幾何学的な集約そのものにあることを特定した。学習済みエンコーダが追加の信号をもたらすのは、3つの中で最も知識集約的なCREAKにおいてだけだった。

意義

単に「学習でより良い埋め込みができた」と結論づけるのではなく、性能向上の源が幾何学的な集約方法自体にあるのか学習された構造にあるのかを切り分けて検証した点に厳密さがある。解釈可能性研究において、見かけの性能向上に飛びつく前にその要因を丁寧に腑分けする姿勢の重要性を示す好例である。

$$ \bar{G} = \arg\min_{G \in \mathrm{SPD}} \sum_{i=1}^{n} d_R(G, G_i)^2 $$

（$n$個のトークンごとのプルバック計量 $G_i$ を、SPD多様体上のリーマン距離 $d_R$ に関する二乗和を最小化するフレシェ平均 $\bar{G}$ へ集約する。これが文全体の「形」を表す一つのプーリング結果になる）

論文7: 「これ」「あれ」はどっちを指す?――多言語で見る視覚言語モデルの空間認識

arXiv:2607.07251 | Kaito Watanabe, Taisei Yamamoto, Tomoki Doi, Hitomi Yanaka（東京大学、日本）

背景

視覚言語モデル（VLM）に期待される能力の一つに、与えられたテキストと画像に基づく空間推論能力がある。論文は、その評価軸として「空間直示表現」、つまり「これ」「あれ」のように指示対象が状況文脈によって決まる空間表現の使用に注目する。空間直示表現を扱うには、VLMは言語と視覚空間の両方にまたがって推論し、文脈依存の指示対象を画像の空間構造の中に位置づけなければならない。さらに、言語をまたいで適切な空間直示表現を選ぶには、それぞれの表現がエンコードする言語固有の空間的な区別をVLMが理解している必要がある。

手法

論文は、4つの言語にわたってVLMが空間直示表現を使う多言語能力を評価するベンチマークを構築した。

結果

このベンチマークを使った実験により、テストしたモデルは、特に対象物までの距離に基づいて適切な指示詞を選ぶという点で、人間とは異なる方法で指示詞を使っていることが明らかになった。

意義

「これ」「あれ」のような一見単純な指示語の使い分けにも言語ごとの空間認識の違いが埋め込まれており、VLMがそれを人間らしく扱えているかを可視化した点に意義がある。多言語でのVLM評価に、空間直示という新しい切り口を提供する。

論文8: 人間より上手いキャッチコピーを書くAI――強化学習で鍛える広告見出し生成

arXiv:2607.06818 | Yashal Shakti Kanungo, Sumit Negi, Aruna Rajan（Amazon、アメリカ）

背景

どのEコマースサイトにとっても、買い物客を引きつける長続きする広告を作ることは簡単な問題ではない。特に大規模に運用する場合、サイトの求めるクリエイティブな品質基準を満たすのは難しい。

手法

論文は、小売のコンテンツを使って商品広告の見出しを生成するプログラム的な手法を提案する。トランスフォーマーベースのマスク言語モデルに強化学習（RL）の方策勾配法を適用する、最先端の応用として位置づけられる。この手法は、売り手が広告したい複数の商品を同時に条件づけることで見出しを作成する。

結果

提案手法は、既存のトランスフォーマーおよびLSTM+RL手法を、重なり指標と品質監査の両方で上回った。さらに、モデルが生成した見出しは、文法面でも創造的な品質の面でも、人間が投稿した見出しを監査上で上回った。

意義

複数商品をまたいで一貫した見出しを大規模に自動生成できることは、実務のEコマース広告運用にとって直接的な価値がある。人間の書いた見出しを品質面で上回るという結果は、生成AIが単なる下書き支援を超えて実運用の意思決定に組み込める段階に来ていることを示している。

論文9: 広告の言い過ぎだけを直す――動画広告コンプライアンス修正AI「R³」

arXiv:2607.07318 | Yuan Chen, Zhenyu Hu, Mengge Xue, Te Cao, Liqun Liu, Peng Shu, Huan Yu, Jie Jiang（Tencent、中国）

背景

オンライン広告における厳格なコンテンツモデレーションは不可欠だが、毎日何百万件もの却下を生み出している。この規模になると、特に動画広告では手作業での修正は現実的ではない。しかし既存の安全性重視の手法は、コンプライアンスを満たすためだけに広告主の本来の意図を損なう、過剰な編集をしてしまいがちである。

手法

論文は、動画広告における音声の書き起こしと画面上のテキストの両方にまたがるテキストの違反を修正することを目指し、コンプライアンスと元の意味的な意図の保持を両立させる枠組み「R³」を提案する。3つの工夫を統合する。（1）グループ相対的なコンプライアンス経験抽出器によって高品質な教師データをブートストラップする経験駆動型のデータ合成の枠組み。（2）コンプライアンスを守りながら意味的な一貫性を最大化するよう設計された階層的な報酬を伴うカリキュラム強化学習戦略。（3）テキスト認識・書き換え・再レンダリングをシームレスに統合し、産業展開向けに設計された包括的な動画修正の枠組み。

結果

産業界のデータセットとオンラインA/Bテストによる大規模な実験で、R³は最先端のベースラインを大きく上回り、違反の修正と意図の保持の間で最適なトレードオフを達成した。

意義

「削除・書き換えすればいい」という乱暴な対処ではなく、広告主の伝えたい意図を保ちながら違反箇所だけを直すという設計思想は、コンテンツモデレーションの現場で実際に求められているバランス感覚を体現している。実際にオンラインA/Bテストまで実施している点からも、研究レベルにとどまらない実務的な完成度がうかがえる。

論文10: 隠語だらけのサイバー犯罪チャットをAIはどこまで読めるか

arXiv:2607.07277 | Tomohiro Okatsu, Naoki Takada, Yin Min Pa Pa, Katsunari Yoshioka, Tatsunori Mori（横浜国立大学、日本）

背景

有害なオンラインコミュニケーションには、スラング・隠語・略語・コミュニティ特有の言い回しが含まれることが多く、メッセージの解釈を難しくしている。論文は、サイバー犯罪に関連するDiscordのチャットにおける解釈の難しさを探索的に調査する。

手法

意図的に選んだ解釈の難しいメッセージについて、専門家によるレビューを経た参照解釈を構築する。それを使って、異なる文脈条件のもとでの人間とLLMの解釈を評価する。

結果

局所的な文脈だけでは人間にとって不十分であることが多い一方、外部知識や拡張された会話文脈は人間の解釈を大幅に改善することが分かった。LLMについても局所的な文脈は解釈を改善し、より大きなモデルの方が良い性能を示した。さらに定性的な誤り分析を行い、有害なチャットの解釈を難しくする要因の予備的な分類を提案した。

意義

これらの知見は、有害コンテンツの分析をメッセージ単位の分類問題としてではなく、証拠を統合していく問題として扱うべきだと示唆している。サイバー犯罪コミュニティの隠語をAIがどこまで正確に読み解けるかという問いは、犯罪捜査支援や有害コンテンツの自動検知の実用化に直結する。