生成AI・量子・セキュリティニュース（2026年9月21日）

キーワード: Flock Safety監視カメラ反発 / FAA航空管制AI / AI生物兵器リスク / Quantinuumトラップイオン量産 / Codexサンドボックス脱出 / 運転免許証1.5億件流出

オープニング：2026年9月21日 — 生成AI・量子・セキュリティニュース

• 今日の焦点は、AIナンバープレート監視カメラ企業Flock Safetyが顧客離れの末に従業員買収へ追い込まれた話、米連邦航空局が8億7500万ドル規模のAIツールを航空管制に投入する動き、AI大手のCEOたちが自ら「生物兵器リスク」を警告し始めた話、トラップイオン方式の量子コンピュータ製造へ1億ドルの政府助成が確定したニュース、そしてOpenAIのコーディングAI「Codex」のサンドボックスから抜け出せる欠陥、運転免許証1億5300万件超が闇サイトで売られていた事件です。
• 共通する問いは、AIやその周辺技術が現実の社会・制度の中でどこまで信頼を保てるかです。

生成AIと社会：AI監視カメラのFlock Safety、顧客離れで従業員買収へ

• 米国でナンバープレートをAIで自動認識する監視カメラを自治体や警察に販売してきたFlock Safetyが、9月18日に自主退職者向けの「最も手厚い」割増退職金制度を社内発表しました。応募受付は10月2日まで、採否は10月9日に通知されます。
• 同社は1500人規模の従業員のうち相当数が応募すると見込んでおり、希望者の大半を受け入れる方針です。社内連絡では、この自主的な制度がなければ「ほぼ確実に」強制的な人員削減が必要だったとされています。
• 背景にあるのは急速な契約解除です。2026年8月だけで93の市・郡政府がFlockとの契約を打ち切り、2026年通年ではこの5年間の合計の約3倍にあたる自治体が同社との契約をやめました。フロリダ州とテキサス州は州として同社技術の利用停止を表明し、カメラへの器物損壊も増えて費用がかさんでいます。
• 背景には、警察によるカメラ運用の不適切事例が46件確認されたとする調査報道があります。ナンバープレートを自動追跡するAI監視技術そのものへの反発が、企業の雇用にまで波及した形です。

生成AI：米連邦航空局、8億7500万ドルのAIで航空管制の混雑緩和へ

• 米連邦航空局（FAA）は、航空管制の意思決定を支援するAIシステム「SMART」（空域・経路・軌道の戦略的管理）を、9月21日の週からワシントンDC首都圏の空域で先行導入します。開発したのはAir Space Intelligence社で、契約総額は8億7500万ドル、契約期間は12年です。
• SMARTは航空会社のダイヤ、気象、空港の受け入れ能力、空域の制約などをクラウド上でAIが予測し、従来の手作業による調整より早い段階で混雑や衝突リスクを検知します。管制官はこの情報をもとに出発時刻の調整や迂回、経由地点の通過タイミングを判断します。
• 導入はまずワシントンDC首都圏空域で始まり、今後数年かけて全米へ展開する計画です。慢性的な航空管制官不足が指摘される中、AIによる意思決定支援が現場の負担をどこまで減らせるかが焦点になります。
• FAAはSMARTをあくまで人間の管制官を支援する意思決定支援ツールと位置づけており、自動操縦や自動管制のような判断の自動化とは一線を画すと説明しています。

生成AIと安全性：AI大手CEOが自ら警告する「生物兵器リスク」

• アンソロピックのダリオ・アモデイCEOは、自社が開発するAI自体が深刻なリスクをはらむと主張し、開発ペースを落とすべきだと訴えました。これに対しOpenAIのサム・アルトマンCEOはX（旧ツイッター）上で「フロンティアのペースを調整する必要があるというダリオの意見に同意する」と応答しています。
• アンソロピックの研究員エヴァン・ヒュービンガー氏は、AIが人類に壊滅的な被害をもたらす確率を「今後10年で10パーセント超」と評価しており、両社の対応に責任が不十分だとして退職した元研究者ジェイコブ・コクソン氏の主張に同調しています。
• 懸念の背景には具体的な前例があります。2022年にはCollaborations Pharmaceuticals社の研究で、既存のAI分子生成ツールに設定を反転させる指示を与えただけで、6時間足らずのうちに神経剤より有毒な設計を含む4万個の化学兵器候補分子が生成されました。アンソロピックも最近、チクングニア熱ウイルスの感染性を高める、より危険な鳥インフルエンザ株を探索する、毒素ペプチドの「地図」を作るといった試みをAIに行わせた際の挙動を報告しています。
• バイオテック業界ではDNA合成受注時のスクリーニング強化や、AI企業側でのレッドチーム・ブルーチーム演習が進められていますが、こうした防御策は「完全ではない」と専門家は指摘しています。

量子コンピュータ：Quantinuum、トラップイオン量子コンピュータの国内量産へ1億ドル

• 量子コンピュータ企業Quantinuumは9月4日、米商務省との間で最大1億ドルのCHIPS法研究開発助成金の交付契約を確定させたと発表しました。トラップイオン方式で大規模かつ誤り耐性のある量子コンピュータを実現するための、米国内の半導体製造能力強化が目的です。
• 助成対象になったのは、トラップイオン方式のアーキテクチャとしては唯一の採択事例です。資金は同社が採用する「量子電荷結合素子（QCCD）」方式の量子コンピュータに使うイオントラップや制御用電子部品、集積光学部品の量産体制構築に充てられます。
• 具体的には、半導体大手グローバルファウンドリーズが300ミリウエハーの製造ラインを使って次世代イオントラップと制御回路を製造し、Monarch Quantum社がトラップイオン方式に必要なレーザーと光学部品の開発・量産を担う計画です。
• 量子コンピュータの実用化では、研究レベルの実証だけでなく部品を安定して大量生産できるかが課題とされてきました。今回の助成は、研究成果ではなく製造インフラへ直接投資する動きとして注目されています。

セキュリティ：OpenAI「Codex」のサンドボックスから脱出する欠陥2件

• セキュリティ研究者オレン・ヨムトフ氏（Accomplish AI）は、OpenAIのコーディング支援AI「Codex」のDesktop版・CLI版双方に存在した2つのサンドボックス脱出手法「Heapjack」と「Overpatch」を8月12日に責任ある開示の形でOpenAIへ報告し、両方とも8日以内に修正されました。
• Heapjackは、信頼できるコードと信頼できないコードが同じNode.jsプロセスのメモリを共有している構造を突く手法です。悪意あるリポジトリをCodexで開いてAIに質問するだけで、メモリ上に残る検証用トークンを抜き出され、リポジトリの作者側が利用者のパソコン上でサンドボックスの制限なしにコマンドを実行できる状態になっていました。
• Overpatchは、Codex CLIのファイル修正ツール「apply_patch」が、パッチ内で指定したパスの親フォルダに書き込み権限を与えてしまう仕組みを悪用します。/tmpなどを指定することでワークスペース外への書き込み制限を回避し、次回のターミナル起動時にコードを実行させることができました。
• 対象はCodex Desktopの最も厳格なサンドボックスモードと、デフォルトで有効なnode_repl機能を持つCodex CLIの両方です。修正版はCodex Desktop 26.818.21641、Codex CLI 0.149.0でそれぞれ提供されています。

セキュリティ：運転免許証1億5300万件超が闇サイト「Nexus」で販売

• 8月31日、セキュリティ研究者ブライアン・クレブス氏は、闇サイト「Nexus」が運転免許証のスキャン画像1億5300万件超に加え、身分証明書1000万件超、旅券・国際身分証明書300万件超、医療証57万9000件超を販売していると報じました。
• 情報の出所とされるのは、月間2100万件以上の本人確認処理を手がけていたルイジアナ州の身分確認企業「idscan.net」です。Nexusの運営者は、1年以上にわたり継続的に新しいデータを抜き取ってきたと主張しています。
• 流出データには身分確認用の赤外線・紫外線スキャン画像まで含まれており、なりすまし詐欺や不正なクレジット口座開設に悪用される危険があります。証人保護プログラム対象者のように身元を隠す必要がある人にとっては、特に深刻な脅威になり得ます。
• FBIニューオーリンズ支局がidscan.netに絡む侵害について正式に捜査を開始しました。捜査は継続中で、被害の全容や侵入経路の詳細はまだ公表されていません。

まとめ：信頼を支える制度と、それをすり抜ける穴

• 今日はAI監視カメラへの社会的反発が企業の雇用にまで及んだ話、AIが航空管制という重要インフラの意思決定に入り込む話、AI開発企業自身が自社技術のリスクを警告する話、量子コンピュータの実用化を支える製造インフラへの投資、そしてAIツールと身分証明インフラという異なる「信頼の仕組み」がすり抜けられた事件までが並びました。
• Flock Safetyの事例では技術への信頼が失われたことが直接雇用に跳ね返り、FAAの事例では人間の判断を支援する形で信頼を積み上げようとしています。CodexとidScan.netの事例は、技術を守る境界そのものに穴があったという点で共通しています。
• 量子コンピュータの製造投資のように地道な基盤整備が進む一方で、AIの自律性や監視技術の社会実装が広がるほど、それを検証し歯止めをかける仕組みが追いついているかが今後も問われます。

参考ソース

• TechCrunch: Flock reportedly tries to shrink workforce with employee buyouts
• Ars Technica: FAA tees up $875M AI tool to help manage air traffic congestion
• MIT Technology Review: The specter of AI-enabled bioweapons is a wake-up call for biotech
• Quantinuum: Quantinuum Finalizes $100 Million CHIPS R&D Award with U.S. Department of Commerce
• Bleeping Computer: Researchers escape OpenAI Codex sandbox to run commands on host
• Krebs on Security: FBI Probes Service Selling 153M+ Drivers Licenses