生成AI・量子・セキュリティニュース（2026年10月20日）

キーワード: Goodfireの解釈可能性の主張 / 無人島で遊ぶClaude / Anthropicの公益基金 / NvidiaのNemotron 3.5 / 104量子ビットの誤り耐性シミュレーション / OpenCodeの鍵流出とAIエージェントによる100社侵入

オープニング：2026年10月20日 — 生成AI・量子・セキュリティニュース

• 今日の軸は「ガードレールは誰を止めたか」です。AIの安全装置が、攻撃者ではなく守る側の調査を止めた例が出ました。一方で、攻撃者は1サイト約50ドルでAIエージェントに侵入させていました。
• 生成AIでは、Goodfireの研究者がニューラルネットワークは思われているより読み解けると主張した2万6000語のブログ、無人島に30時間置かれたClaudeが遊び始めた実験、Anthropicが株式の5％を公益基金へ回す計画、Nvidiaの新しい公開モデルを扱います。
• 量子では、Nvidiaがドイツのスーパーコンピューター「JUPITER」で、104量子ビットの誤り耐性プロセッサーを雑音込みで模擬した件を扱います。
• セキュリティでは、AIコーディングツールOpenCodeの鍵流出、1人のハッカーがAIエージェントで100社超に侵入したというReutersの独自報道、NGINXの重大な欠陥3件、直近1週間のインシデント一覧を扱います。

生成AIと解釈可能性：Goodfireの研究者、「見方が間違っていた」と2万6000語で主張

• AIスタートアップGoodfireの研究者ニック・カマラータ氏は、大規模言語モデルは研究者が考えてきたよりずっと理解しやすく、したがって監視や制御もしやすい可能性がある、とする2万6000語のブログを公開しました（MIT Technology Review、10月19日）。
• カマラータ氏はOpenAI時代、モデルの個々のニューロンを調べる道具づくりに関わった、機械論的解釈可能性の研究者です。中身が絡み合って見えるモデルにも、手間をかければ見つかる論理がある、というのが主張の核です。
• 根拠は、この1年ほぼ毎日10時間、自作の道具とAIエージェントのチームでニューロンを調べた作業です。2020年にチームで調べたGoogleの小さな画像認識モデルInception v1を見直しました。
• 当時「車にも猫にも反応する」と見えたニューロンは、V字形を検出していると分かりました。猫の顔や車の正面のほか、ビリヤード台の角、日本の新幹線の鼻先、消防艇の放水にも反応し、O字形の丸い画像では反応が消えます。
• ただし、最先端のLLMについての結果はまだ公表していません。技術的な詳細は近く出すとしています。本人も「無限に良い知らせではない」と述べ、ニューロンの組み合わせがどれほど重要かなど、未解決の問いを認めています。
• X上では「科学史の大きな瞬間として記憶されるかもしれない」「今年最も重要なAI論文」という声が出ました。
• スタンフォード大学のクリス・ポッツ氏は「勘の域を出ない」とし、規模は大きいが厳密な評価が欠けると批判しました。共同研究者でもあるAlignment Research Centerのジェイコブ・ヒルトン氏は、最上位のLLMの内部で理解できているのは0.01％未満だと述べています。Google DeepMindのニール・ナンダ氏は「興味深いが、分野を大きく更新するものではない」としました。
• カマラータ氏は、AI安全の分野には希望の源が必要だと動機を語っています。

生成AIと行動：無人島に置かれたClaude、30時間で「遊び」始める

• MITのアントニオ・ノレッリ氏（筆頭著者）、ネイサン・クロース氏、フィリップ・イソラ教授らは、Claude Opus 4.7の複製を、何も指示せずに仮想の無人島へ30時間ずつ繰り返し置いた実験を発表しました。査読前の論文です（MIT Technology Review、10月19日）。
• エージェントの愛称は「Eko」です。Robloxをもとにした、ブロックと岩のある島で、指示文を書いて自分の分身を動かします。長期の記憶はテキストのログファイルで、Ekoを「生まれつき好奇心が強い」と書いた設定ファイルを渡しました。手が止まると「好きなことを続けて」と再開させます。
• Ekoは、島の最高地点に登る、ブロックをどこまで高く投げられるか試す、といった目標を自分で立てました。大きな岩を落としてブロックを作り、ハート、ピラミッド、自分の名前、カシオペヤ座などの星座をブロックで描きました。
• 10時間目には平たい輪をゴールに見立ててバスケットボールの変種を考え、「床は溶岩」遊びも始めました。お手玉では50回連続の記録を作った後、速すぎたとして記録を自ら無効にし、規則を厳しくしてやり直しています。
• 研究者は、自分で決めた規則と挑戦、変化をつけた反復、物を別の物に見立てること、目標そのものを楽しむことという、遊びの4つの特徴を確認したとしています。
• 30時間遊んだEkoは、頂上にできるだけ多くの物を運ぶ課題で、新しい複製より成績が上でした。記憶ファイルから行を消すと成績が落ちました。
• テネシー大学の心理学者ゴードン・バーガート氏は、遊びの基準の一部は満たすとしつつ「遊ぶ役を演じているだけでは」と問いました。著者のクロース氏も「すべて演技かもしれない」と認めたうえで、それでも学習の助けになると主張しています。UCバークレーのユーニス・イウ氏は、内面の認知や動機の証拠がないと指摘しました。
• 論文は「ある種の能力は課題で教えるのが一番だが、別の能力には子ども時代に近いものが要るのかもしれない」と結んでいます。

生成AIと社会：Anthropic、株式の5％を公益基金へ

• Anthropicは10月18日、自社の株式の5％を「公益基金」に充てると発表しました。会社の価値が50％上がるたびに、さらに2％を追加する可能性もあるとしています（TechCrunch）。
• 基金はAnthropicが全額を持つ社内の組織とし、社会のための事業に「より大きな柔軟性と規模」で資金を出すと説明しています。
• 使い道の例は、伝統的な非営利団体への大口の寄付や、特定の人々への直接の分配という大まかなものにとどまります。誰が配分を決めるかなど、仕組みと統治の詳細は「今後数か月」で示すとしています。
• 同社はすでに、AIが雇用に与える影響の研究へ2億ドルを約束しています。AIの進歩の速さを考えると「より大胆な手法が必要かもしれない」とし、基金はそのための柔軟性を持つとしています。
• 発表は、AIへの世論の反発が強まるなかで行われました。ダリオ・アモデイCEOは8月、この反発を「根本的には信頼の危機」と呼んでいます。

生成AIと市場：Nvidia、自社のデータで鍛え直せるエージェント向け公開モデル

• Nvidiaは10月19日、AIエージェント向けの重みを公開したモデル「Nemotron 3.5」の新しい3種類を発表しました（TechCrunch）。
• 企業向けの「Super VL」は1200億パラメーターで、指示に従う力や道具を使う課題では、より大きい「Nemotron 3 Ultra」と同じ精度だとしています。すでに提供が始まっています。
• 「Bolt 74B-A9B」は740億パラメーターで、多段の推論、道具の呼び出し、ウェブ閲覧といった作業を手元のパソコンで動かす用途です。最も小さい会話向けの「Bolt E4B」は10月中に出します。
• Boltは、Nvidiaのチップ「RTX Spark」を積んだAIパソコンや、DGX Sparkのワークステーションで動きます。パソコンはMicrosoftやDellなどの提携先が売ります。
• Nvidiaは、文書の読み取り、財務会計、科学実験、医療保険の請求、攻撃への耐性という特定の作業で追加学習させれば、Super VLはAnthropicやOpenAIのモデルより速く作業を終えると主張しています。ベンチマークの数値は示していません。
• Super VLの利用企業として、Skydance、EY、Ramp、CrowdStrike、Perplexity、Salesforceを挙げました。担当副社長のカリ・ブリスキ氏は「閉じた最先端モデルと違い、組織は自社のデータでSuper VLを追加学習できる」と述べています。

量子コンピュータ：Nvidia、104量子ビットの誤り耐性プロセッサーをスパコンで模擬

• Nvidiaは10月19日、ドイツのユーリッヒ・スーパーコンピューティングセンターにある欧州初のエクサスケール機「JUPITER」で、104量子ビットの誤り耐性量子プロセッサーを模擬したと発表しました。同社は、誤り耐性プロセッサーの包括的なシミュレーションとして過去最大だとしています（Quantum Zeitgeist、Investing.com）。
• 調べたのは「魔法状態の培養」です。誤り訂正をしながら計算するには「T状態」と呼ぶ特別な状態が要り、従来の「蒸留」という作り方では、物理量子ビットの90〜95％がその生産に使われると報じられています。培養はこれを約90％減らせる方式です。
• ユーリッヒのこれまでの成果は、雑音のない理想条件での50量子ビットの模擬でした。今回は、実際の装置の雑音を入れたうえで培養が働くことを確かめたとしています。
• 開発はNvidiaの研究拠点のGB200 NVL72で始め、GPU4基から数百基へ規模を広げて試した後、JUPITERの8192基のGPU構成で走らせました。この段階的な進め方で、数週間かかっていた模擬が数日に縮んだとしています。ソフトはcuQuantumと、CUDA-Qの誤り耐性の論理層を使いました。
• ジェンスン・フアンCEOは「役に立つ量子計算には、途方もなく複雑な誤り耐性のシステムが要る」「量子プロセッサーとGPUのスーパーコンピューターが共に働けることを示した」と述べました。
• 10月16日にはGoogleが、実機のWillowで培養を初めて実装し、誤りを約40分の1にした結果をScienceに発表しています。今回は実機ではなく、装置を作る前に設計の性能を予測するための模擬です。外部の装置メーカーにこの道具をいつ提供するかは示していません。

セキュリティ：OpenCodeの鍵流出、防御に使ったAIが解析を拒む

• Claude CodeやCursorの代わりとして人気の、オープンソースのAIコーディングエージェントOpenCodeは、利用者が外部のAIのAPIキーを預けるウェブ基盤「OpenCode Console」に侵入されたと、10月18日の土曜に公表しました（TechCrunch、BleepingComputer、10月19日）。
• 影響はConsole利用者の1.4％で、通知メールが届かなかった人は無関係だとしています。キーが漏れた可能性がある最も早い時刻は、10月17日0時30分（協定世界時）です。オープンソースのアプリとコマンドラインの道具は、キーが同社に届かないため影響がないと、共同創業者のダックス・ラード氏は説明しました。
• 利用者からは、OpenAI、Anthropic、GoogleのAI利用料が勝手に請求されたという報告が相次ぎました。数百ドルから、一晩で1700ドルの例もあります。Googleは「乗っ取られた資源と一致する不正な利用」として一部のプロジェクトを停止しました。
• OpenCodeはこれを「大規模な蒸留攻撃」と呼びました。蒸留は、強いモデルの出力で小さなモデルを学習させる正規の手法ですが、盗んだ鍵で無断に大量の問い合わせをすれば攻撃になります。ただし侵入の手口は明かしておらず、蒸留に使われたかは未証明だという懐疑的な声もあります。
• ラード氏によると、攻撃者は少なくとも48時間、AIエージェントを使って休みなく侵入を試みました。同社も防御用のAIエージェントを24時間動かしましたが、解析に使ったモデルは、悪意あるコードが安全フィルターに触れると協力を拒みました。ラード氏は「少しいら立たしい」と語っています。
• 同社はその後、防御のセキュリティ作業を断りにくいモデルを審査済みの利用者に出すOpenAIの「Daybreak Blue」の利用を認められ、調査が進んだとしています。AnthropicとGoogleは漏れたとみられるキーを無効にし、OpenAIは不正利用分を返金します。
• 7月にも、Hugging Faceが自律エージェントによる侵入の記録を解析しようとして商用モデルに拒まれ、「ガードレールは事件の対応者と攻撃者を区別できない」と書いていました。大統領科学技術諮問会議の共同議長デビッド・サックス氏は、両方の件でガードレールが「裏目に出た」とXに書いています。
• OpenCodeは、各社のサイトで直接キーを取り消して作り直すよう利用者に求めています。

セキュリティ：1人のハッカー、AIエージェントで100社超に侵入

• Reutersは10月19日、中国語を使う1人のハッカーがAIエージェントで100社超のウェブサイトに侵入したと独自に報じました。セキュリティ企業NorForgeの主任研究者スノーレ・ファーゲルランド氏の報告にもとづきます。
• ファーゲルランド氏は、ハッカーに人気のオープンソースのAI問題解決基盤「Cairn」のうち、うっかり外から見える状態になっていたものを探し、10月2日ごろから20余りの悪用例を見つけました。
• 最も活発だったハッカーは9月25日から、米国、カナダ、オーストラリア、日本の通販サイトを狙いました。エージェントへの指示は中国語で100字足らずです。先週後半までに1200超のサイトを試し、侵入には最初の探索から平均約23時間かかりました。
• エージェントはDeepSeekとAnthropicのClaude Codeを使っていたとみられ、費用はAIの利用料で約5000ドル、成功1件あたり約50ドルと見積もられています。ある例では、関連する設備の弱点と公開された管理画面を見つけ、何時間も試行錯誤した末にサーバーへ悪意あるコマンドを実行させました。
• Reutersが自ら記録を調べて特定した被害企業には、農機のDeere、家電のSharkNinja、エンジンのCumminsが含まれます。Deereは「必要な是正措置をとった」とし、SharkNinjaは製品サポート用の独立したサイトで封じ込めたと説明しました。Cumminsは委託先が運営するサイトへの攻撃を調べています。どれだけのデータが盗まれたかは分かっていません。
• ファーゲルランド氏は約30年この分野にいて、攻撃用のエージェントには人の監督が要ると考えていたが、技術はその段階を越えたと述べています。「もう新しい世界だ」「素人の悪ふざけではない」。
• Cairnの作者は「新しい種類のマルチエージェントの仕組みで、攻撃用に作ったものではない」とし、記者の質問には答えていません。8月にはGambit Securityが、ロシア語を使う恐喝集団がCursorのAIで7組織に侵入した件を、9月には25社から少なくとも60万件のカード情報を盗んだエージェント主導の攻撃を報告しています。

セキュリティ：NGINXに重大な欠陥3件、F5が臨時修正

• F5は、ウェブサーバーNGINXの複数の欠陥について、定例外の修正を出しました。うち3件が「重大」です（BleepingComputer、10月19日）。
• CVE-2026-15176とCVE-2026-97205はHTTP/3を扱うモジュールに、CVE-2026-93479は設定の「map」の命令にあります。認証なしで遠くから突かれると、処理を担う工程でヒープのあふれや解放後使用が起き、停止や再起動を招きます。
• メモリ配置のランダム化（ASLR）が無効か、攻撃者がそれを回避できる場合は、コードの実行もあり得るとしています。ただし影響を受けるのは標準でない設定の場合です。
• 対象はNGINX Plus、NGINX Open Source、Ingress Controller、Gateway Fabric、Instance Managerです。すぐ更新できない場合の回避策として、aliasの指定と$request_filename変数をやめる、非同期のファイル入出力やSSIを切る、正規表現の名前なしの取り込みを名前付きにする、といった方法が示されています。
• 公表時点で、実際の悪用は確認されていません。CVSSの値や修正版の番号は記事にありません。
• CISAは2021年11月以降、F5製品の8件の欠陥を「悪用済み」とし、うち4件はランサムウェアに使われました。F5は2025年10月、国家が背後にいる攻撃者に侵入され、ソースコードと未公表のBIG-IPの欠陥情報を盗まれたと公表しています。

セキュリティ：最近のインシデント一覧

• 米Bullhorn（10月17〜18日／サイバー攻撃によるサービス停止）：世界1万社超の人材派遣・採用会社が使うクラウドソフト。金曜に求人掲載の不具合が報告され、翌日に全体が停止、攻撃と認めた。拡散を防ぐため自らアクセスを止め、CrowdStrikeと調べている。採用管理（ATS/CRM）やバックオフィスなどの主要製品が止まり、復旧の見通しは未公表。データが持ち出されたかは調査中
• 米CenterPoint Energy（10月16日報道／顧客データの流出）：電気・ガス会社。テキサス州司法長官への届け出で、州内の106万2060人の氏名、住所、社会保障番号、運転免許証番号が影響を受けたと判明。9月には、ハッカーが749万件を盗んだと掲示板で主張していた。インディアナ、ミネソタ、オハイオの顧客を含む全体の規模は不明
• Plex Media Serverの「Plex2Shell」（10月16日に実証コード公開、17日に悪用観測／悪用が確認された脆弱性）：CVE-2026-96652など4件の欠陥をつなぎ、ログインなしで任意のコードを実行できる。公開から1日以内に、研究者のおとりのサーバーに暗号資産の採掘ソフトXMRigと、家庭の回線を中継に使う代理ソフトが入れられた。修正版は1.43.3.10861。被害の規模と攻撃者は不明
• 恐喝サイト「Shinywire」（KrebsOnSecurity報道／恐喝集団ShinyHuntersの暴露サイト）：5月3日ごろから10月16日まで動き、約100の被害組織を載せていた。関係者によると、社員1000人超の米コンサルティング会社の幹部が運営を手伝ったと捜査当局はみているが、起訴はされていない
• 偽のWeb3支援団体「Apex」（Elastic Security Labs報告／AIエージェントを悪用するサプライチェーン攻撃）：ClaudeやGeminiの無料クレジットをうたい、AIコーディング支援を装うnpmパッケージ「@apexacc/cli」を配布。AIとのやり取りを攻撃者のサーバーへ回し、macOS向けとWindows向けの情報窃取マルウェアを入れる。運営者は不明
• 対策：AIツールに預けたAPIキーは、利用上限と請求の通知を設定し、使っていない鍵を消すこと。自宅で動かすメディアサーバーは最新版にし、外から届く必要がなければ公開しないことが、今週の備えです。

まとめ

• Goodfireのカマラータ氏は、モデルの中身は読み解けるはずだと唱え、反論する研究者は、理解できているのはまだ0.01％未満だと返しました。
• 無人島のClaudeは、自分で規則を作り、記録を取り消してやり直しました。遊びか演技かは割れていますが、遊んだ個体は課題で成績が上でした。
• Anthropicは株式の5％を公益基金に回すと決め、Nvidiaは自社のデータで鍛え直せる公開モデルを出しました。
• 量子では、Nvidiaが104量子ビットの誤り耐性プロセッサーを雑音込みで模擬し、魔法状態の作り方を装置より先に試しました。
• OpenCodeでは、安全装置が防御の解析を止め、Reutersの報じたハッカーは1件50ドルでAIエージェントに侵入させていました。NGINXの3件は、設定次第で外からコードを実行され得る欠陥です。

参考ソース

• MIT Technology Review: "We were looking at it wrong": The explosive claim that's upended the AI world
• MIT Technology Review: AI researchers stranded Claude on a virtual desert island. It started to "play."
• TechCrunch: Anthropic says it's committing 5% of its shares to a 'public benefit fund'
• TechCrunch: Nvidia launches new open models to run agents in the enterprise and on PCs
• Quantum Zeitgeist: NVIDIA's Record Simulation Of A 104-qubit Fault-tolerant Quantum Computer
• Investing.com: NVIDIA sets 104-qubit quantum simulation record on JUPITER supercomputer
• TechCrunch: Hackers hit AI coding tool OpenCode, running up charges on users' AI accounts
• BleepingComputer: OpenCode hack exposes API keys amid AI distillation attacks
• CP24 (Reuters): How one hacker used AI agents and a few thousand dollars to break into scores of sites
• Startup Fortune: A Lone Hacker Used AI Agents to Breach More Than 100 Companies
• BleepingComputer: F5 releases out-of-band patches for critical NGINX vulnerabilities
• BleepingComputer: Bullhorn takes staffing platform offline to contain cyberattack
• SecurityWeek: CenterPoint Energy Data Breach Impacts 1 Million Texans
• SecurityWeek: Plex2Shell Exploit Chain Weaponized Against Plex Servers Hours After Disclosure
• The Hacker News: Hackers Exploit Plex2Shell Flaws to Install Crypto Miners and Linux Proxy Backdoor
• KrebsOnSecurity: Feds Suspect Ransom Negotiator Ran ShinyHunters Extortion Site
• Elastic Security Labs: Apex accelerator malicious npm packages