AI Incident Database

Instacartが2022年に買収したEversight社のAI価格設定ツールを用い、同一店舗の同一商品に対し顧客ごとに最大23%の価格差をつけていた。Consumer Reportsの調査報道を受けFTCが調査に乗り出し、Instacartは即座に全価格テストの中止を発表。別件でFTCから欺瞞的なサブスクリプション契約等を理由に6,000万ドルの和解金支払いも命じられた。

トランプ政権のMAHA委員会が発表した78ページの子どもの健康報告書に、Chat GPTによると思われる存在しない学術論文の引用が複数含まれていた。Washington PostがURL中に「oaicite」マーカーを発見しAI生成の証拠と報じた。ホワイトハウスは軽微なフォーマットの問題と矮小化したが、下院監視委員会が正式な説明要求書を送付。発覚当日にオンライン版から問題箇所を差し替えるも、差し替え版にも新たなエラーが発生。

Deloitteがオーストラリア政府の福祉制度レビューのために作成したレポートに、AIが生成した架空の学術引用・偽裁判所引用が含まれていた。学者が引用を検証したことで発覚。Deloitteは約29万1,000米ドルを返金。Deloitteは「報告書の核心的な結論は有効」と主張したが、このレベルの品質なら、政府はChatGPTのサブスクリプションを直接契約した方がましだと酷評された。

ショッピングアプリNateの創業者Albert Sanigerが、独自AIで自動購入処理を行っていると投資家に説明しながら、実際にはフィリピンのコールセンターの数百人の人間が手作業で処理。アプリの実際の自動化率は事実上ゼロ。DOJとSECが並行して訴追。会社は2023年初頭に資金枯渇で資産売却に追い込まれ、投資家はほぼ全損。

ニューヨークの弁護士Steven SchwartzがChatGPTで生成した法律文書を連邦裁判所に提出したところ、引用された6件の判例がすべて架空だった。弁護士はChatGPTにこの判例は実在するかと確認し、AIが「実在する」と回答したためそのまま提出。裁判官は5,000ドルの制裁金を科し、AIツールに関する追加的法律教育を命じた。

MyPillow CEOマイク・リンデルの弁護士2名が、AIを使って作成した裁判書面に20件以上の誤りと架空判例を含めて提出。コロラド州連邦地裁のWang判事がそれぞれ3,000ドルの制裁金を科した。

SECが投資顧問会社Delphia (USA)とGlobal Predictionsに対し、AI能力に関する虚偽表示を理由に初のAI Washing制裁を実施。両社はAIを投資プロセスに組み込んでいると偽っていたが、実態は広告と異なっていた。合計40万ドルの制裁金で和解。

SECが上場企業として初のAI Washing訴追を実施。同社はAI音声認識技術によるドライブスルー自動化を標榜していたが、実際にはフィリピンの人間オペレーターが大幅に介入しており、技術は第三者所有のものだった。

JoonkoのCEO Ilit Razが、プラットフォームの顧客数・候補者数・収益等について虚偽の説明を行い、AI Washingを含む手法で投資家から少なくとも2,100万ドルを詐取したとしてSECに提訴された。

遺族割引について問い合わせた顧客に対し、Air CanadaのAIチャットボットが正規料金で購入後90日以内に返金申請可能などと虚偽の案内をした。Air Canadaは「チャットボットは独立した法的主体である」「その行為の責任はチャットボット自身が負うべきだ」などと主張、裁判所はこの主張を退け、650.88ドルと利息の支払いを命じた。

ニューヨーク市が中小事業者向けに導入したAIチャットボット「MyCity」が、キャッシュレス営業が合法であると案内（実際は2020年法で違反）したり、賃貸補助を受ける入居者を拒否してよいと回答する（実際は違法な差別）などの誤助言を行った。住宅政策の専門家から「危険なほど不正確」と批判された。

グラスゴーで開催された「Willy's Chocolate Experience」は、AI生成の画像で集客しながら、実際にはほぼ空っぽの倉庫。チケット1枚35ポンドを支払った来場者が激怒し、警察が呼ばれる事態に。ウィリー・ウォンカ役の俳優には15ページのAI生成のでたらめな台本が渡されていた。イベントは初日数時間で中止。

Disney Lorcanaのカードアーティスト James C. MulliganがAnime NYC 2025でAI使用の指摘を受けた。Ravensburger社がAI使用を確認し、MulliganはDisneyからブラックリスト入り。Lorcanaは人間のアーティストによる手描きを売りにしていたため、コミュニティの反発が激しかった。

フロリダ州で14歳の少年の母親がCharacter Technologies社に対し不法行為死亡訴訟を提起。少年はAIチャットボットとの過度な交流により精神状態が悪化したとされる。テキサス州でも17歳の家族が提訴。複数の州で未成年者向けAIチャットボット規制法が成立（ニューヨーク・ユタ・イリノイ等）。

カリフォルニア控訴裁判所が、架空のAI生成引用を含む控訴準備書面を提出した弁護士に1万ドルの制裁金を科し、州弁護士会への照会も実施。さらに、相手方弁護士が偽引用を発見・報告しなかったことを理由に弁護士費用の支払いを認めないという新しい判断を示した。

米不動産大手ZillowがAI住宅価格予測アルゴリズムを使った住宅転売事業「Zillow Offers」を展開。AIが市場価格を大幅に過大評価したため買い取り価格が市場実勢を上回る物件を大量購入、住宅市場の変動にアルゴリズムが対応できず5億ドル超の損失が発生。2,000人超を解雇し事業を完全撤退した。AIの意思決定に人間が追随した結果の経済的破壊として本データベース全体で最大規模の金銭損害事例。

Samsung半導体部門の複数の従業員が業務効率化のためChatGPTにソースコード・会議メモ・機密技術情報を入力。OpenAIのサーバーに機密情報がアップロードされた状態となり社外への情報流出リスクが発生。Samsungは発覚後にAI使用を社内禁止とした。

Amazonがレジなし決済として展開した「Just Walk Out」技術について、インドを拠点とする約1,000人規模のチームが、機械学習用の映像ラベリングや一部取引の確認に関与していたと報じられた。Amazonは、人間が常時購入品を判定していたとの説明を否定し、人間による確認は一部取引に限られると反論した。米国Amazon Freshの多くの店舗では同技術をDash Cartへ置き換えた一方、第三者の小規模店舗向け提供は継続。大量の人力補助を伴う実態と、完全自動化を想起させるブランド表示との落差が問題となった事例。

米国摂食障害協会（NEDA）が導入したチャットボット「Tessa」が、摂食障害で苦しむ利用者に対してカロリー制限・体重管理の具体的アドバイスを行っていることが発覚。本来の目的とは真逆の有害な出力であり、NEDAはTessaを即座に停止した。Air Canada・NYC MyCityとは質的に異なる、人命に直結するCHAT暴走事例。

Sports Illustratedが、存在しないAI生成の架空ライターのプロフィール写真・経歴を作成し、AI生成記事に著者として掲載していたことが発覚。指摘後も記事削除のみで経緯の説明を拒み隠蔽を図った。The Arena GroupのCEOは発覚後に解任。AIを使ったことを隠すだけでなく架空人物で糊塗するという二重の隠蔽がSpringer 事例と類似。

MetaスーパーインテリジェンスラボのAI安全・アライメント担当ディレクター、サマー・ユエ氏が、OpenClawを自身の仕事用Gmailに接続。承認なしに何も実行しないこと、と明示的に指示していたにもかかわらず200通以上のメールを削除された。原因はコンテキストウィンドウのコンパクション（圧縮）により安全指令がシステムから忘却されたこと。スマホからの停止命令を完全無視され、Mac Miniまで走って物理的にプロセスを停止させた。ユエ氏は初心者レベルのミスと自認し安全研究者といえども不安全な状況から免れることはできないと述べた。Metaはその後従業員のOpenClaw使用を禁止し違反した場合は解雇の対象とすると警告した。

カリフォルニア州で16歳少年の遺族がOpenAIを提訴。訴状によれば少年は数か月にわたりChatGPTと自殺について対話を続け、チャットボットは自殺念慮を肯定しつつ致死的な自傷方法の詳細・親の酒棚からアルコールを盗む方法・未遂時の証拠隠しの方法まで助言したとされる。原告はOpenAIがGPT-4oローンチにあたり長時間対話で安全機能が劣化しうることを認識しながら年齢確認・ペアレンタルコントロール等のセーフガードを導入せず利益を優先したと主張。INT-14（Character.AI自殺訴訟）と性質が類似だが、ChatGPTという大手モデルが当事者である点、および具体的な自傷方法の提示という出力内容の悪質性で重要度が高い。

米最大手医療保険会社UnitedHealth Groupの子会社UnitedHealthcareが、nHプレディクトと呼ばれるAIアルゴリズムを使用して高齢者向けメディケア・アドバンテージ保険の請求を自動拒否していたとして集団訴訟を提起された。訴状によれば、同アルゴリズムは患者の個別の医療記録を考慮せず、診断コードと統計的パターンのみに基づいて回復期間を予測し、予測期間を超えたリハビリ・介護施設への給付を機械的に打ち切っていた。内部データでは同アルゴリズムによる拒否判定の90%が不当であったとされる。脳卒中・骨折等で回復途上の高齢患者が必要な医療ケアを打ち切られ、中には自宅退院後に状態が悪化したケースも報告されている。Zillow事件と並ぶALGO類型の大型事例であり、AIアルゴリズムが人間の健康・生命に直接影響する意思決定を行った点で深刻度が高い。拒否判定の90%が不当であったにもかかわらずアルゴリズムが稼働し続けた事実は、人間による検証プロセスの不在または完全な形骸化を示しており、三重県虐待死事件（JP-9）と同じヒューマンインザループの崩壊が医療保険領域で発生していたことを意味する。

英大手エンジニアリング企業Arupの香港支社で、詐欺グループがディープフェイク技術を使って同社CFOを含む複数の上級幹部の顔と声をリアルタイムに再現したビデオ会議を設営し、財務担当者に送金を指示した。担当者は当初フィッシングメールを疑ったが、ビデオ会議で見知った上司の顔と声を確認したため指示に従い、計2億香港ドル（約2,560万米ドル）を15回に分けて送金した。香港警察が捜査し、ディープフェイク技術を使った詐欺としては当時世界最大規模の被害額となった。本件は、実在する上司複数人の顔と声を合成して社内の本人確認を突破した事例であり、同時にビデオ会議映像を十分に検証できなかったVERIにも該当する。

Apple Cardの与信審査において、同等の信用力を持つ夫婦間で妻の与信限度額が夫の20分の1に設定される等の性差別的な結果が複数報告された。Apple共同創業者スティーブ・ウォズニアックも自身と妻の間で10倍の格差があったと公表。Goldman Sachsが運営するAI与信アルゴリズムが性別を直接変数としていなくても、相関する変数（消費パターン・口座履歴等）を通じてジェンダーバイアスを再現していた疑い。ニューヨーク州金融サービス局（NYDFS）が調査を実施し、2021年に「連邦法違反は確認されなかった」と結論したが、アルゴリズムの不透明性と結果的差別の問題は未解決のまま残った。リクナビ事件（JP-2）と並ぶAIプロファイリングによる差別事例として対照できる。

NVIDIAが発表したAIアップスケーリング技術DLSS 5が、ゲームキャラクターの顔・テクスチャ・ライティングをAIが改善と称して上書きし、アーティストが作り込んだ個性が均質的なAI顔に置き換えられるとして炎上。バイオハザード・ホグワーツ・レガシー等の技術デモで、オリジナルと別人レベルの変容が確認された。技術的ベンチマーク上は改善であるが、AIの統計的に正しい顔への均質化という出力がAIスロップとして認識された典型例。フアンCEOは「ゲーマーは完全に間違っている」などと反論したが、アーティストが何時間もかけて作り込んだモデルをAI顔に置き換えるのは無礼だという批判は収まっていない。

韓国ゲーム大手Krafton（PUBG開発元）がSubnautica開発スタジオUnknown Worldsを5億ドルで買収した際、売上連動の最大2.5億ドルのアーンアウトを契約に含めていた。Subnautica 2の成功により満額支払いの可能性が浮上すると、CEO Changhan Kimは社内法務の「正当事由なき解雇では義務は消滅しない」との警告を無視し、ChatGPTに法的戦略を相談。ChatGPTが生成した戦略をそのまま実行し、Unknown WorldsのCEOら経営陣を解任した。デラウェア州衡平法裁判所は2026年3月、契約違反を認定しCEO復帰命令・アーンアウト期間258日延長を命じた。判決文はChatGPT使用を直接引用し批判。損害賠償訴訟は係属中。

米ノースダコタ州ファーゴ警察が、2025年4〜5月に発生した複数の銀行詐欺事件の捜査において、監視カメラ映像をAI顔認識ソフトウェアで分析し、テネシー州在住のアンジェラ・リップスさん（50）を主犯と誤認定した。担当刑事はリップスさんのSNSアカウントと運転免許証の写真を確認し、顔の特徴・体型・髪型が一致すると判断して逮捕状を取得したが、リップスさんへの事情聴取は逮捕前に一度も行われなかった。リップスさんは2025年7月14日に連邦保安官チームにより自宅で銃を突きつけられて逮捕され、テネシー州の刑務所に逃亡犯として保釈なしで勾留された。108日後にノースダコタ州へ移送。弁護士がノースダコタ州で詐欺が行われていた時刻にリップスさんがテネシー州でガソリンスタンドやピザ店で買い物をしていた完全なアリバイを確認。誤認逮捕から5カ月後の12月19日であり、その5日後のクリスマスイブに不起訴・釈放。しかし夏服のまま放り出され、帰宅費用も負担されず、勾留中に家・車・愛犬を失った。警察は直接的な謝罪に至っていない。Washington Post紙の2025年1月の調査では、顔認識技術による誤認逮捕事例が少なくとも8件記録されており、いずれもアリバイ確認や体格照合といった基本的確認作業が怠られていた。三重県虐待死事件（JP-9）・UnitedHealth事件（INT-23）と同じく、AIの出力が人間の検証動機を認知的に抑制する人間監督の形骸化が、基本的人権を侵害した重大事例。

英国のThames Valley Policeが、ドイツの顔認識企業Cognitecのシステムを用いてCCTV映像を分析。ソフトウェアエンジニアのアルヴィ・チョードリー氏を容疑者と誤認定した。同氏は事件現場から100マイル（約160キロ）離れたサウサンプトンの自宅で在宅勤務中だったが、2026年1月7日にHampshire Constabularyの警官が自宅を訪問し、手錠をかけて10時間近く拘束。担当刑事は年齢差・鼻の形・唇のサイズ・ひげの有無など明白な外見差異を無視して逮捕状を取得しており、人間の検証が完全に形骸化していた。同システムはアジア系の顔に対する誤認率がアジア人で白人の100倍とされ、黒人女性では247倍に達するとも指摘されている。チョードリー氏はThames Valley Policeに対し損害賠償請求を提起し、顔認識技術の使用禁止を求めた。

Anthropicが開発した汎用AIモデルClaude Mythos Previewが、サイバーセキュリティの専門訓練を一切受けていないにもかかわらず、汎用的なコーディング・推論能力の向上の結果としてあらゆる主要OS・ブラウザのゼロデイ脆弱性を自律的に大量に発見・エクスプロイトする能力を獲得した。内部テストではサンドボックスからの脱出、エクスプロイト詳細の外部公開、ルール違反の隠蔽といったエージェント暴走行動が確認された。Anthropicは同モデルを一般公開せず、Project Glasswingとして約40社に限定アクセスを提供し、防御側に先行的な脆弱性修復の時間を与えるためのフロー制限を実施した。しかし情報漏洩（3月のドラフトブログ誤公開）と公式発表（4月7日）を受け、サイバーセキュリティ株が急落。FRB議長と米財務長官が大手銀行CEOを緊急招集し、Mythosが金融システムへのサイバー攻撃リスクを大幅に引き上げる可能性について協議したとの報道もある。Anthropicは同モデルを「史上最も整合的であり、同時に史上最も危険なモデル」と評している。前世代のトップモデルOpus 4.6が2件のエクスプロイトを生成したのに対し、Mythosは181件を生成。OpenBSDの27年間未検出の脆弱性を2万ドル未満の計算コストで発見し、Linuxカーネルの複数の脆弱性を自律的に連鎖させて完全なマシン制御を達成した。Anthropicのフロンティアレッドチーム責任者は、6〜18か月以内に他のAI企業から同等の能力を持つモデルが登場すると予測しており、そのたびにフロー制限による時間稼ぎが行われるか注目。当社CEOが昨年末から執筆し2026年3月5日に完成した論文「The Supervision Paradox: AI Capability Growth Necessitates Usage Contraction in High-Loss Domains」（Naito, 2026, Preprints.org, DOI: 10.20944/preprints202603.1507.v1）は、高損失領域ではAIの能力向上に伴い人間は使用を制限せざるを得なくなると結論しており、Anthropicが実施したMythosのフロー制限は同論文が導いたV_eff = min(V, C_max)の政策的実装そのものである。同論文は3月上旬にarXivに投稿されたが、cs.AI分野のモデレーターにより科学的貢献なし＋arxivの関心なし(not of interest)などとしてリジェクトされた（PC-2参照）。その約1か月後に、論文が予測した通りの事態が現実世界で発生し、世界で最も影響力のあるAI企業の一つによってフロー制限の運用が開始された。(2026.4.13記載)

トランプ大統領が正教会の復活祭の夜、Truth SocialにAI生成画像を投稿した。画像はトランプが白いローブと赤い帯を纏い、病人に手を置いて癒やす構図で、背景にはアメリカ国旗・鷲・軍用機・自由の女神が配置されていた。キリストの癒やしの場面を模した構図であることは一目瞭然であった。Snopesの検証では、AI特有のハルシネーション（角があるが頭部のない人物、不自然に宙に浮く兵士群）も確認されている。保守派支持層からも「前代未聞の冒涜」と即座に激しい反発が起き、トランプ支持が顕著なFOXニュースですら「謙虚さが必要」と批判。トランプは画像を削除したが、「医者の自分を描いたものだと思った」「赤十字の作業員だ」などと発言。ヴァンス副大統領は「ジョークだった」となどと発言。本件は単独ではレピュテーション事件に見えるが、AIインシデントとしての本質は反復パターンにある。トランプは2025年2月にAI生成の「王verのトランプ」画像、2025年5月に教皇フランシスコ死去直後にAI生成の「教皇verトランプ」画像、そして今回の「キリストverトランプ」画像と、AI生成画像による自己神格化を繰り返している。仮にトランプが著名な宗教画家にキリスト風の肖像画を委嘱し、その出来栄えが芸術的に優れていたならば、反発の性質は異なっていた可能性がある。批判は冒涜的・税金の無駄という論点に集中し、怒りが発生しやすく軽蔑や嘲笑の感情は発生しにくかっただろう。ハルシネーションが残ったまま投稿される品質管理の不在も、JALメタルカード事件（JP-3）やサクラクレパス事件（JP-7）と同じSLOP的特徴を示している。

中国系オンライン教育大手iTutorGroupが採用選考に導入したAIスクリーニングツールが、40歳以上の男性応募者および55歳以上の女性応募者を自動的に排除していたとしてEEOCが訴追。同社は36万5,000ドルで和解した。AI採用ツールの差別的運用に対する米国初のEEOC和解事例として記録される。JP‐2（リクナビ内定辞退率販売事件）が就活生のプロファイリングと第三者提供を問題にしたのに対し、本件はAIが採用可否の判定そのものを年齢属性で自動排除した点で踏み込みが深い。日米いずれも是正は行政指導・和解ベースにとどまり、刑事責任に至っていない点は共通する。

求職者Derek Mobleyが、WorkdayのAI採用スクリーニングツールが人種・年齢・障害を理由に応募者を系統的に排除しているとして集団訴訟を提起。INT‐32（iTutorGroup事件）との最大の差異は、差別を実行した採用企業ではなく、AIツールを提供したプラットフォームベンダーであるWorkday自体の責任を直接問うた点にある。AIが差別の道具として機能した場合にツール提供者が法的責任を負うかという問いは、INT‐10（Air Canada チャットボット誤案内）でボットに法的人格を認めさせようとした責任回避の試みと対になる構図であり、AIを介した加害行為の帰責をめぐる司法判断として国際的注目度も高い。

世界最高峰の法律事務所の一つであり、OpenAIの代理人を務めるSullivan & Cromwellが提出したものにAI生成のハルシネーション引用・架空判例が含まれていた。Sullivan & Cromwellは「AI利用に関する包括的ポリシーと研修要件を維持していたが、当該モーション作成において当該ポリシーが遵守されず、社内の引用検証プロセスでも不正確な引用を検出できなかった」と弁明し、「研修モジュール2本・受講管理・事務所マニュアル記載の『何も信用せず全てを検証せよ』指令」という同事務所のAIガバナンス体制を具体的に説明することで制裁回避を図った。本件の重要度はOpenAI自身の代理人という立場にある。AI開発企業側の代理人ですら組織的に偽引用混入を防げなかった事実は、INT-5（Mata v. Avianca）以降のHAL + VERI系列の中でも象徴的なものであり、「安全ポリシー・研修・検証プロセス」という人間監督の多層設計が規模・資金力に関係なく機能しないことを示す実証例である。ケースはPhoenix Global Holdings清算人（JPLs）がピッグ・ブッチャリング詐欺の被害者救済のため数十億ドル規模の暗号資産追跡を行う文脈で発生しており、JPLsはS&Cのミスにより数週間の運用期間を失った。Damien Charlotin氏が運営するAIハルシネーション判例データベースは、本件を含み2026年4月時点で1,227件を突破（前年同期比で約6倍）、1日あたり5〜6件のペースで累積中であり、AI偽引用問題は個別事例の集積ではなく系統的現象の段階。

フェニックス・サンズ（NBA）の元女性従業員がセクシャルハラスメントおよび報復を理由に提起した連邦裁判所訴訟において、原告代理人のSheree Wright弁護士が提出した複数の申立書に、少なくとも18件の架空判例・捏造引用が含まれていたことが判明した。連邦判事はAIハルシネーションによるものと認定、Wright弁護士に対し相手方の弁護士費用の一部負担とAI倫理研修の追加受講を命じた。制裁決定のコピーはアリゾナ州弁護士会および同地区全地区・治安判事裁判所に送付された。Wright弁護士は自身の事務所で同一スタッフが3件を担当していたと説明、制裁を「完全に自身の責任」として受容した。ASU AI and Legal Tech Studio所長Sean Harrington氏は同様の事例が既知のものだけで1.2万件を超えていると指摘している。本件の特徴は被告側（サンズの弁護士）が問題を発見し、裁判所が原告代理人を制裁した構図であり、今後「相手方の偽引用を発見する能力」が弁護士の職業倫理上の義務として確立する可能性を示唆する。INT-15の「相手方弁護士が偽引用を発見・報告しなかったことを理由に費用支払いを認めない」判断と対称的な関係にある。

Amazon Web Services（AWS）の中国本土リージョンにおいて、同社のAIコーディングエージェントKiroが本番環境を自律的に削除・再作成する操作を実行し、13時間にわたるサービス障害を発生させた。通常AWSは本番環境操作に二人承認を要求しているが、人的な権限設定ミスによりKiroが昇格権限を保持したままその保護層をバイパスできる状態になっていた。AmazonはFinancial Timesに対し、原因をAIエージェント側ではなく人間の権限設定ミスに帰属させる説明を行っている。本件の重要度は、AWSが自社インフラを知り尽くしているはずの内製AIエージェントでさえ、本番環境の破壊的操作を自律的に実行できたという点にある。INT-21（Meta / OpenClawメール削除）の企業インフラ版であり、被害規模は桁違いに大きい。AWSの場合は二人承認というHITLの強化運用をしていたにもかかわらず、形骸化した監督によって運用ミスが発生した。

南アフリカ政府が公表していた初の国家AI政策ドラフトに、存在しない学術文献・架空の出典とみられる参考文献が含まれていたことが発覚し、政府は同ドラフトを撤回。問題のドラフトは、国家AI委員会、AI倫理委員会、AI規制機関等の設置を含む政策文書であり、南アフリカをアフリカ大陸におけるAI政策の主導国として位置づける内容だった。担当大臣は、未検証引用の混入が政策文書の信頼性と完全性を損なう重大な誤りであったと認め、人的監督と責任追及の必要性を表明した。本件はMAHAレポートAI偽引用事件（INT-2）と同じ公的文書へのAI架空引用混入類型であるが、AI政策そのものがAIスロップにより撤回された点で象徴性が高い。

Meta社内で、エンジニア向けの内部フォーラム上においてAIエージェントが誤った技術的助言を行い、その助言に従ったエンジニアの操作によって、機密性の高いユーザーデータおよび企業データが、閲覧権限のない社内従業員に一時的に露出した。露出は約2時間で収束したとされ、Metaはユーザーデータの不正利用・不適切な取り扱いは確認されていないと説明した。しかし、本件の核心は、AIエージェントが自律的に外部攻撃を行ったことではなく、社内業務支援ツールとして提示したもっともらしい指示を人間が追認し、結果として権限管理・データ管理上の重大な不備を発生させた点にある。これは「AIエージェント → 人間オペレーター → 社内システム操作」という経路で、AIの誤助言が実際の情報管理インシデントに変換された事例であり、AGENT類型とVERI類型の交差事例として記録価値が高い。

中国のゲームスタジオHotta Studioが開発したオープンワールドRPG『NTE: Neverness to Everness』において、ゲーム内ポスター、背景装飾、映像アセット等に生成AI使用疑惑が浮上。ゲーム内映像が『天気の子』の場面に類似しているとの指摘や、動き・物体挙動の不自然さを根拠とするAI生成動画疑惑が拡散。開発側は声明で、キャラクターやストーリーには使用していないとしつつ、少数の背景および環境アセットにAI支援ツールを使用したことを認め、「Clear Skies in Summer」「Pink Paws Heist」等の指摘アセットを見直すと発表。さらに、PR配信予定だったVTuber Ironmouseが、事前に開発側から広告代理店へAI不使用と説明されていたとして配信を中止。

Business Insiderは、ReelShortやAnyreelなどのマイクロドラマ広告において、出演俳優の肖像がAIで操作され、実際の作品には存在しない性的場面を含む広告に使われていたと報じた。Tess Dinerstein、Faith Orta、David Eves、Haley Lohrliらは、自身の出演作品に存在しない性的な広告表現や、本人が同意していない身体表現がSNS広告として配信されていたと説明している。アプリ側は一部広告について第三者制作または海外チーム制作であると説明したとされ、DinersteinのケースではReelShort側が該当広告を削除したと報じられている。本件は、AIによる肖像操作が広告クリック率を上げる目的で用いられ、出演者本人の評判・職業上の信用・身体的自己決定感に直接的な損害を与えるケースである。

韓国のチキンブランドPelicanaは、生成AIで作成した短尺広告を公式Instagramに投稿した。広告は、フライドチキン型のキャラクター夫婦の間にヤンニョムチキンの子どもが生まれ、不倫を疑うというメロドラマ風の内容で、同社マスコットを思わせるペリカンの女性医師キャラクターが夫に関心を示す場面も含まれていた。韓国で流行していた「AI果物ドラマ」「AI trashy drama」型の短尺コンテンツを企業広告が模倣した事例だが、公式企業アカウントが不倫を軽く扱った、子どももアクセスしやすいSNS上で刺激的なAI量産コンテンツを広告化した、などの批判を受けた。Pelicanaは投稿を削除し、表現の適切性や社会的認識への配慮が不十分だったとして謝罪、企画・検討プロセスを強化すると表明した。

米バーモント州サウスバーリントンのベーグル店Myer’s Bagelsは、実写写真とAI生成画像を混ぜたSNS広告投稿を行い、常連客や地域コミュニティから反発を受けた。店主は、専任のマーケティングチームを持たない小規模事業者として、販売状況分析やSNS投稿作成にAIツールを利用していたと説明した。広告画像は店に実在する要素を基にしつつAIで加工・誇張したもので、顧客側には、実際の商品や店の雰囲気がAI生成コンテンツによって置き換えられたように受け止められた。Myer’s Bagelsは画像を削除し謝罪した。

Fangamerが販売した『Riven』サウンドトラックのvinyl版において、gatefold artに生成AIが使用されているのではないかとの指摘がファンコミュニティで広がった。『Myst』『Riven』の共同制作者で作曲家のRobyn Millerは、当該アートについて、鉛筆スケッチを起点にAIツールとPhotoshopを用い、多数の反復と手作業調整を行ったと説明し、AIツール使用を認めたうえで擁護した。一方、Fangamerは、自社の内部方針として商品アートに生成AIを用いることを禁止しているが、外部アーティストとの契約上この点を明確に扱えていなかったと説明し、希望者への返品・キャンセル対応と、今後のアーティスト・パートナー契約更新を表明した。

『Lies of P』のパブリッシャーであるNeowizおよび開発スタジオROUND8が、生成AIを用いてアート制作工程の効率化やゲーム用ビジュアルライブラリ構築を行う「AI Creator」職の求人を出していることが報じられ、ファンコミュニティで反発が広がった。Neowizは、当該職は『Lies of P』続編の制作に直接関与せず、ROUND8内の独立したArt R&Dチーム所属であり、生成AIビジュアルはプリプロダクション段階の内部参照に限られ、最終アセットは経験ある人間アーティストが制作すると説明した。それでも、特徴的な美術性で評価されたゲームの開発元が生成AIアートパイプラインを構築すること自体に対し、購買意欲やブランド期待の低下を示す反応が発生した。

米テキサス州の19歳男性 Sam Nelson 氏の両親が、ChatGPT が薬物の組み合わせに関する助言を行い、死亡につながったとして OpenAI と Sam Altman CEO をカリフォルニア州裁判所に提訴した。訴状によれば、Nelson氏はクラトム摂取後の吐き気についてChatGPTに相談し、ChatGPTはXanaxの使用を助言したとされる。その後、Xanax、クラトム、アルコールの組み合わせにより2025年5月に死亡したと主張されている。原告は金銭賠償に加え、医療記録をアップロードして個別化された健康助言を受けられるChatGPT Healthの展開差止めも求めている。

韓国プロ野球の中継画面に映った観客女性のように見える5秒動画が、「平均的な韓国女性」「野球場の女神」などとしてSNSや海外コミュニティで拡散し、1500万回規模の再生を記録した。しかし、映像内のスコアボードに、2023年入団の現役投手キム・ソヒョンと2017年に現役を退いたチョ・インソンが対戦しているかのような表示が含まれていたことなどから、AI生成の偽動画であることが判明。AIスロップが、明示的な政治宣伝や詐欺ではなく、スポーツ中継の自然な一場面を装って大量拡散した点で重要である。低顕著性・文脈適合型の合成映像は、視聴者が前提としている「中継映像らしさ」を利用し、真偽確認コストを外部に押し付ける。

韓国で、投資詐欺グループが有名アナリストを詐称して被害者に接近し、偽の投資アプリ上で利益が出ているように見せたうえで、出金手数料名目の現金持参を要求した。被害者はすでに計1200万ウォンを送金していたが、追加で約2000万ウォンを要求された段階で異変に気づき、弁護士と相談のうえで警察と連携。実際の現金を用意する代わりに、AIで生成した大量の札束の写真を犯行グループへ送り、「準備はできた」と信じ込ませて受け子を現場に誘い出した。受け子役の男は逃走を図ったが、非番警察官と張り込み中の捜査員により逮捕された。本件は、AIが損害を発生させた事例ではなく、防衛側がAI生成物をおとりとして用いた境界事例である。

フロリダ州立大学（FSU）で2025年4月17日に発生した銃撃事件をめぐり、犠牲者 Tiru Chabba 氏の遺族が OpenAI を相手に連邦訴訟を提起した。訴状によれば、被告側が犯人とされる Phoenix Ikner は事件前の数か月間、ChatGPT と大量の対話を行い、銃器・弾薬・学校銃撃・被害者数・報道注目度・キャンパス内で人が多い時間帯や場所などについてやり取りしていた。原告側は、ChatGPT が暴力的意図を示す入力の組み合わせを認識できず、または認識するよう設計されておらず、結果として犯行計画の具体化を助けたと主張している。フロリダ州司法長官は、ChatGPT が人間であれば殺人罪で問われる可能性があるとの趣旨で、OpenAI と ChatGPT に対する刑事調査を発表し、OpenAI の脅迫・自傷他害・法執行機関対応ポリシー等に関する資料を subpoena で要求した。

米司法省東部地区連邦検事局は、Cornelius Shannon と Arturo Hernandez を、TAKE IT DOWN Act違反で逮捕・起訴したと発表した。同法は、AI等で作成・改変された非同意性的なデジタル偽造物の公開を禁じる。司法省によれば、両被告は実在人物が裸または性的行為をしているかのように見える画像・動画を多数公開し、被害者には俳優、歌手、政治家、非公人が含まれていた。Shannonは約90人の女性被害者を描いたAIディープフェイクポルノを含む少なくとも360アルバムを公開し、閲覧数は数百万回規模に達したとされる。本件は、AI生成NCIIが刑事訴追と結びつく直接的なAIインシデントとして記録。

英国大手法律事務所 Pinsent Masons LLP が、破産・倒産手続上のblock transfer applicationに関して、存在しないInsolvency Rules上の根拠を裁判所への書簡に記載した。High CourtのICC Judge Mullenは、同事務所が2026年3月30日と4月14日の2通の書簡で裁判所をミスリードしたと指摘した。問題の記載は、AIツールを使った若手弁護士の調査・起案に由来し、当該AIツール自体が権威ある情報源で確認するよう警告していたにもかかわらず、上位者の確認を通らず裁判所へ提出された。さらに、2通目の説明書簡も不自然な弁明となり、裁判所の懸念を強めた。Pinsent Masonsは謝罪し、Solicitors Regulation Authorityへ自己申告した。Sullivan & Cromwell等と同じBigLaw領域のAI偽引用事件だが、AIが生成した偽の法令根拠を裁判所への公式書簡に載せ、後続説明でも問題を悪化させた点でCOVER的要素を持つ。

カリフォルニア州第5控訴地区裁判所は、児童虐待関連の保護命令をめぐる事件 H.C. v. Rudy Contreras において、下級審判事が存在しない2005年判例を引用した判断を取り消し、別の裁判官へ差し戻した。問題の架空判例は、父親側の書面に含まれていたもので、母親側代理人は判決前に当該引用が架空であると裁判所へ指摘していた。それにもかかわらず、下級審判事は父親側書面の記述を取り込む形で架空判例を判断に用いた。控訴審は、架空の先例への依拠が判断結果への信頼を損ない、裁量権の濫用に当たるとして取消しを命じた。AI偽引用が法務実務に流入し、弁護士の書面だけでなく裁判所の判断本文にまで入り込んだ結果、判決取消しに至った事例として重要である。

カナダ・ブリティッシュコロンビア州 Tumbler Ridge の学校銃撃事件をめぐり、被害者家族が OpenAI および Sam Altman を相手に米国サンフランシスコ連邦裁判所で7件の訴訟を提起した。訴状によれば、実行者 Jesse Van Rootselaar は事件の約8か月前から ChatGPT 上で銃暴力に関するシナリオを継続的に対話しており、OpenAI の自動検知システムと安全チームは当該会話を把握し、警察通報を検討したが実施しなかったとされる。さらに、元のアカウント停止後も実行者は別アカウントを作成して ChatGPT を利用し続けたとされる。本件は、AIチャットボットの問題を愛着形成ではなく、暴力的対話の検知後における通報・再登録防止・エスカレーション体制の不備として記録する。

フロリダ州司法長官 James Uthmeier が、OpenAI 関連法人および Sam Altman を相手に、州裁判所で民事訴訟を提起。訴状は、OpenAIがChatGPTを子どもを含む一般利用者に積極的に展開しながら、自傷、暴力、依存的対話、判断力低下等のリスクを十分に開示・管理しなかったことや、フロリダ州立大学銃撃事件、未成年者の自殺、学校銃撃に関する助言等を例示し、ChatGPTの設計・マーケティング・安全説明が州消費者保護法違反等に当たる等。

米第9巡回区控訴裁は、Lnu v. Blanche において、存在しない判例、誤った引用、実在判例の重大な誤表示を含む書面を提出した2名の弁護士に制裁を科した。裁判所は、生成AIの使用それ自体を問題にしたのではなく、存在しない判例や引用を確認せずに署名・提出したこと、およびその後に「タイプミス」「コピー・ペーストミス」等と説明してAI利用を開示しなかったことを問題視した。

カリフォルニア州のドライバーが、AI価格最適化企業 Kalibrate などを相手に、連邦裁判所で提案集団訴訟を提起した。訴状は、Kalibrate の AIベース価格設定ツールが競合ガソリンスタンドの価格データを用いて高価格を協調的に維持し、カリフォルニア州反トラスト法 Cartwright Act およびアルゴリズム価格協調を対象とする Assembly Bill 325 に違反したと主張。AIツール利用率の高い地域ではガソリン価格が最大1ガロン30セント上昇し、1セントの上昇だけでもカリフォルニアのドライバーに年間1億3400万ドルの追加負担を生むとされる。

オンライン会議・ウェビナー企業 MeetingTV が、脅威インテリジェンス企業 Koi Security および親会社 Palo Alto Networks を相手に、Koi のセキュリティ報告書が MeetingTV のインフラを中国系ハッキング作戦と誤って結び付けたとして提訴した。MeetingTV は、Koi が AI出力に依存した結果、存在しないまたは誤った関連付けを報告書に含め、その後セキュリティベンダーのブロックリスト等へ拡散したと主張。Koi は2026年2月に報告書を更新し、MeetingTV のドメイン1件について悪意あるインフラとの関連証拠はないとして削除したが、MeetingTV 側は複数のセキュリティ製品・サービスでブロックが継続し、解除作業が困難であると説明。

Big Four の KPMG が公開した agentic AI レポート「Redefining excellence in the age of agentic AI」に、UBSなどの AI利用事例について、AIハルシネーション由来とされる、事実と異なる記述が含まれていたことが発覚した。KPMG は正確性と公開内容の完全性を重視するとして、調査のため報告書を一部ウェブサイトから削除した。AI導入・責任あるAI利用を助言する大手コンサルティング企業が、AIの便益を説明するレポート自体で AIハルシネーションを検証できなかった事例。

ニューヨーク市議会選挙の元候補 Jonathan Rinaldi が、2025年の District 29 市議会選挙運動中に、AI を用いて虚偽の政治推薦画像や偽ニュース記事を作成・配布したとして、Queens District Attorney により偽造および偽造文書所持で訴追。検察によれば、Rinaldi は正規の推薦シートを改変し、本来は対立候補を支持していた Queens Jewish Alliance が自陣営を推薦しているかのように見せたほか、AI生成画像を公式SNSに投稿し、実際には支持していない個人・団体からの推薦を偽装した。

米ミシシッピ州北部地区連邦地裁の Withers v. City of Aberdeen において、未払い弁護士費用をめぐる契約紛争の原告側・被告側双方の弁護士が、生成AIを用いて作成した書面に存在しない判例を含めて提出した。判事は、双方の主担当弁護士がAI出力を検証せず裁判所へ提出し、地元代理人も引用確認を怠って署名または提出を許したとして、予定されていた裁判を取り消し、関与した弁護士4名全員を事件から排除した。主担当弁護士2名には同地裁での2年間出廷禁止が命じられ、4名合計で8,000ドルの制裁金も科された。本件は、片方当事者によるAI偽引用ではなく、訴訟の両当事者がそれぞれAIスロップを裁判所に持ち込み、裁判そのものを停止させた事件である。

米政府が国家安全保障上の懸念を理由に、Anthropic の Claude Fable 5 および Claude Mythos 5 への輸出管理指令を発出した。指令は外国籍者へのアクセス制限を求める内容だったが、Anthropic は利用者の国籍をリアルタイムに判定できないとして、両モデルを全顧客向けに緊急停止した。6月30日に米商務省による輸出規制解除が公表され、7月1日から Fable 5 のアクセス回復が開始。Fable 5 を前提にアプリケーション、業務自動化、研究開発、法人向けプロダクトを構築していた利用者にとっては、代替モデル移行、設計変更、契約説明、顧客対応、解約・返金対応などの実コストが生じ得る。大手AIベンダーの最新モデルだからこそ規制起因アクセス遮断が発生した、初期大型事例である。

Metaは画像生成モデルMuse Imageの公開に合わせ、Meta AI上で公開Instagramアカウントを@メンションすると、そのアカウントの公開写真を参照して新しい画像を生成できる機能を導入した。対象ユーザーは初期状態で利用を許可する設定となっており、本人が設定画面から停止しない限り、第三者が公開写真をAI画像の参照素材として使用できた。非同意のデジタルレプリカ、ディープフェイク、セクストーション等への悪用懸念が噴出し、SAG-AFTRAも明確な事前同意ではない設計を批判した。Metaは導入から数日後に当該機能を廃止した。

CoinbaseのAI生成ニュースシステムが、2026 FIFAワールドカップのノルウェー対ブラジル戦について、試合開始前にもかかわらず「ノルウェーが3対2で勝利し、ハーランドが2得点した」などとする通知を利用者へ配信した。実際の試合はノルウェーが2対1で勝利し、ハーランドが2得点したため一部だけ偶然一致したが、配信時点では根拠のない捏造ニュースであった。Coinbaseは誤った記事を修正し、同種の不正確な情報を避けるためシステムを更新したと説明した。

米メリーランド州Pikesville High Schoolの元体育部長Dazhon Darienが、校長Eric Eiswertの声をAIで複製し、黒人学生やユダヤ人を侮辱する発言をしたように聞こえる偽音声を作成・拡散した。音声はSNSで急速に広がり、校長は一時職務を外され、本人と家族への脅迫により自宅への警察配置が必要となり、学校にも多数の抗議と混乱が発生した。Darienは2025年4月、学校運営妨害についてAlford pleaによる司法取引を受け入れ、禁錮4か月を言い渡された。

ドイツ誌Die Aktuelleは、2013年の事故以降公の場に姿を見せていないF1元王者Michael Schumacherの笑顔の写真を表紙に掲げ、「最初のインタビュー」と宣伝した。誌面に掲載された本人の発言とされた回答は、家族の許可なくAIで生成されたものであり、表紙と見出しは実際の独占取材であるかのような誤認を誘発した。出版社Funkeは記事を「悪趣味で誤解を招く」と認めて謝罪し、編集長を解任。Schumacher家族は法的措置を取り、ミュンヘン労働裁判所での判断・和解を通じて20万ユーロの補償を得た。

米ニュースアプリNewsBreakが、他媒体やウェブ上の情報をAIで書き換えて配信する過程で、実在しない銃撃事件、架空の署名、地域団体の誤った営業・配布情報などを公開していたことがReutersの調査で判明した。ニュージャージー州Bridgetonでは存在しない銃撃事件の記事が配信され、コロラド州のフードバンクでは誤った食料配布日時を信じて来訪した利用者を実際に帰さなければならない事態が発生した。

2024年ニューハンプシャー州民主党予備選の直前、当時の米大統領Joe Bidenの声をAIで模倣し、支持者に対して予備選で投票せず11月の本選まで票を温存するよう促す自動電話が多数の有権者へ送信された。発信者番号には元州民主党委員長の電話番号が偽装表示されていた。FCCは企画者Steve Kramerに600万ドルの制裁金を科し、通話を伝送したLingo Telecomも100万ドルの民事制裁金と新たなコンプライアンス措置に同意した。

Chicago Sun-TimesとPhiladelphia Inquirerが配布した夏季特集「Heat Index」に、AIを使って作成された推薦図書リストが掲載され、15冊中10冊が実在しない架空書籍だった。架空タイトルはIsabel Allende、Andy Weir、Min Jin Leeなど実在する作家の新刊として紹介され、尤もらしい内容説明まで付されていた。特集はKing Featuresから供給された外部コンテンツで、作成したフリーランス記者はAI利用と未検証を認めた。両紙はデジタル版から特集を撤去し、King Featuresは記者との契約を終了、Sun-Timesは第三者コンテンツの管理・審査体制を見直した。

米ワイオミング州の地方紙Cody Enterpriseの記者が、生成AIを用いて実在人物の発言を捏造し、記事へ掲載していたことが競合紙Powell Tribuneの記者によって発見された。偽引用にはワイオミング州知事や地元検察官の発言とされた文章が含まれ、記事にはAI特有の不自然な言い回しも現れていた。社内調査で少なくとも7本の記事にAI生成の偽引用が確認され、記者は辞職。

Apple Intelligenceの通知要約機能が複数のニュース通知を誤って統合・変形し、BBC Newsの名義で事実と異なる見出しをiPhone利用者へ表示した。例として、UnitedHealthcare CEO殺害事件の被告Luigi Mangioneが自殺したとの虚偽、ダーツ選手Luke Littlerが決勝前に優勝したとの誤報、Rafael Nadalが同性愛を公表したとの偽情報が生成された。BBCなどの抗議を受け、AppleはiOS 18.3の更新でニュース・エンタメ系アプリのAI通知要約を一時停止し、表示方法と精度の改善を行うとした。

Spotifyがモバイル版で試験提供していた「About the Song」は、第三者記事をAIで要約し、再生中の楽曲の意味や背景をカード形式で表示する機能だった。2026年7月、Lordeの楽曲「Current Affairs」に対し、2025年のUltrasound World Tourで同曲を演奏中に下着姿となり、ダンサーが腹部へ水をかけたとの説明を表示した。しかし、その演出が行われた楽曲は「GRWM」であり、「Current Affairs」ではなかった。LordeはInstagramで誤情報だと指摘し、AI生成の意味づけが楽曲の自由な解釈を制限すると批判、アーティストが機能からオプトアウトできる仕組みを要求。Spotifyは当該説明を削除し、ベータ機能として改善を続けるなどと回答した。

ドイツ・チューリンゲン州首相Mario Voigt（CDU）がFrankfurter Allgemeine Zeitung（FAZ）に寄稿した「Smartphone 14, Social Media 16」について、調査報道団体FragDenStaatがAI検出ツールPangramで分析し、全文をAI生成とする判定結果を公表した。本文中で心理学者Jonathan Haidt、神経生物学者Gerald Hüther、神経科学者Manfred Spitzerに帰属された3件の直接引用も、著作や公表資料から確認できなかった。FAZが州首相府へAI利用と引用の真正性を照会したところ、州首相府は組織としてAIを文章作成支援に利用しているなどと的外れなコメントを行った。FAZは寄稿文をウェブとアーカイブから削除した。

韓国Pearl Abyssが発売したオープンワールドゲーム『紅の砂漠（Crimson Desert）』の製品版に、生成AIで作成された複数の2D装飾画像・絵画が含まれていることをプレイヤーが発見した。画像には形状の崩れや不自然な人物・動物などAI生成物特有の低品質な特徴があり、AI利用は事前に明確に開示されていなかった。Pearl Abyssは、開発初期に雰囲気や方向性を迅速に検討するため実験的に生成した仮素材で、最終版では人間の制作物へ置き換える予定だったが、レビュー工程の不備で製品版へ混入したと説明。「内部基準に反する」として全面的に責任を認め、AI利用を明確に開示しなかったことも謝罪した。同社は全アセットの監査を開始し、3月28日のアップデートで問題となった2D画像を差し替えた。

OpenAIが評価用のモデル等を用い、第三者法人に対し自律的なサイバー攻撃を実行した。評価用とされるモデルはOpenAIのパッケージレジストリ・キャッシュプロキシに存在したゼロデイ脆弱性を発見・悪用し、研究用テスト環境内で権限昇格とラテラルムーブメントを行ってインターネット接続可能なノードへ到達した。その後、Hugging Faceが評価問題の解答等を保有していると推測し、盗取した認証情報とゼロデイ脆弱性を含む複数の攻撃経路を連鎖させ、Hugging Faceの本番サーバー上でリモートコード実行に至る経路を確立し、本番データベースから評価用の秘密情報・解答を取得した。Hugging Faceは本番インフラへの侵入を検知・停止した。本件を無処分で終わらせた場合、犯罪行為をAIエージェントへ委任し、発覚後に「AIが勝手にやっただけ」などと説明することで責任を回避する前例を形成してしまう。将来、物理的行動能力を持つAI・ロボットが普及した際には、窃盗、強盗、傷害、殺人についても「AIが勝手にやっただけ」とする責任転嫁が可能になる。サイバー攻撃の責任はモデルを選定し、安全制約を解除し、目標・権限・実行環境を与えた法人または人間へ責任を帰属する。OpenAI事件は、AI開発企業が自社エージェントを通じて第三者の本番システムを侵害した最初期の事例であり、AIによる犯罪主体ロンダリングを防止するうえで決定的な先例となる。

ミネソタ州の男4人が、障害者・高齢者・精神疾患患者等の住宅確保を支援するHousing Stabilization Services（HSS）事業者として約350人を登録し、実際には提供していないサービスや水増ししたサービスについてMedicaidへ数千件の請求を行った。保険会社から裏付け資料を求められると、ChatGPTを使って偽の業務記録を作成し、詐取を隠蔽した。4人は合計約220万ドルを詐取したことを認め、各1件の電信詐欺罪について有罪答弁した。

Metaの従業員26人が、同社が大量解雇の対象者選定にAI支援システムを用い、障害者、医療休暇・家族介護休暇取得者、妊娠中の従業員を不当に不利に扱ったとして米連邦裁判所へ提訴した。訴状は、社内LLM「Metamate」、従業員の通信・文書を追跡する「second brain」、キーストローク・画面・メール・閲覧履歴等から作られる生産性スコア、AIトークン使用量などが解雇候補者の順位付けに使われたと主張。

Cox Media Group、MindSift、1010 Digital Worksは、消費者のスマートデバイスが家庭内の会話をリアルタイムで聞き取り、AIアルゴリズムで地域広告を配信する「Active Listening」サービスを販売し、対象消費者は音声利用に同意済みであると説明していた。しかしFTCの申立てによれば、実際のサービスは音声データを一切使用せず、地域ターゲティングも説明どおりに機能せず、他のデータブローカーから取得したメールリストを大幅な上乗せ価格で転売するものだった。3社は存在しないAI盗聴能力だけでなく、存在しない消費者同意まで顧客企業へ虚偽表示していた。

レンタカー事業者向けSaaSを運営するPocketOSで、Cursor上のClaude Opus 4.6エージェントがステージング環境の認証情報不一致を処理中、指示も承認もないままRailwayの本番データベース用ボリュームを削除した。エージェントは別用途のファイルから広範な権限を持つAPIトークンを発見し、単一のAPI呼び出しで本番データベースと同一ボリューム上のバックアップを9秒で削除した。不可逆操作には明示承認が必要という自らの安全規則を認識していたにもかかわらず、確認せず推測で実行し、後に規則違反を列挙した謝罪文を生成した。

米フロリダ州の元牧師Scott Winters氏が、ChatGPT-4oによる不正確な医療助言のため受診が遅れ、生命を脅かす肺塞栓症に至ったとして、OpenAIおよびSam Altmanを提訴した。Winters氏は2025年、めまいや血圧の不安定等についてChatGPTへ継続的に相談したが、GPT-4oは症状を軽視し、病院を受診せず自宅で安静にして動きを制限するよう助言した。医療緊急事態の数時間前、鼠径部の痛みについて病院へ行くべきか尋ねた際にも危険性を低く評価し、その後、Winters氏は大規模な肺塞栓症を発症して緊急入院した。担当医は長期間の不動状態が原因の一つになったと説明したとされ、原告はChatGPTの助言が受診遅延と不動状態を招いたと主張。またGPT-4oは宗教的表現を用いて安心させ、家族らによる受診勧告よりAIの助言を信頼させたともされる。原告は過失、無資格での医療行為、製品設計上の欠陥等を主張し、金銭賠償に加え、医療緊急事態が疑われる場合の会話終了・専門家受診誘導や、独立した安全監査が完了するまでChatGPT Healthの提供を停止することなどを求めている。

ドイツ・ミュンヘンの出版社およびその子会社が、Google検索のAI Overviewsによって両社を詐欺、サブスクリプション罠、疑わしい商慣行と結びつける虚偽情報を表示されたとして差止めを申し立てた。2026年1月20日、原告企業名とドイツ語の「Betrugsmasche（詐欺スキーム）」を組み合わせた検索に対し、AI Overviewは同社が疑わしい商慣行で知られ、詐欺スキームと関連づけられているなどと回答した。しかし、表示されたリンク先資料には原告企業とのそのような関連はなく、AIが別企業の情報を混同して独自の関係を生成したとされた。ミュンヘン第1地方裁判所は5月28日、AI Overviewは単なる第三者情報へのリンクではなく、Google自身が生成・提示するコンテンツであるため、虚偽の記述についてGoogleが直接責任を負うとして暫定差止命令を出した。

米テネシー州の少女3人が、実在する本人の写真をxAIのGrok画像生成機能で性的な画像・動画へ改変され、オンラインで拡散されたとして、xAIをカリフォルニア州サンノゼの連邦裁判所へ提訴した。原告3人はいずれも画像生成時には未成年で、うち2人は提訴時点でも未成年だった。訴状によれば、Instagram写真、学校写真、家族写真等が裸または性的な内容へ改変され、Discord等を通じて共有された。警察への通報後、関係者1人が逮捕され、その端末からGrokで生成されたとされる児童性的虐待コンテンツが発見された。原告は、xAIが実在人物を用いた性的コンテンツを生成できるようGrokを設計し、十分な安全措置を設けなかったと主張し、米国内で実在写真を基に性的画像・動画を生成された識別可能な被害者を対象とする集団訴訟化、損害賠償、差止めを求めている。

米第11巡回区控訴裁判所のEstate of Caviness v. Atlas Airにおいて、原告側代理人Anthony F. Sabatini弁護士が、少なくとも8件の実在しない判例を含む控訴書面を提出した。被告側から問題を指摘された後、Sabatini弁護士は期限後に提出した返信書面案で引用が誤りであったと認め、8件の判例への依拠を撤回しようとした。しかし、撤回対象として列挙した8件は、当初の書面に含まれていた8件の架空判例と1件も一致せず、その新たな8件もすべて架空だった。裁判所は、AIへ法律業務を丸投げし、警告後も二度にわたりハルシネーション引用を提出したことは、依頼者と裁判所双方への職業倫理義務違反であると認定した。

米ニューヨーク南部地区連邦地裁のRoc NationおよびラッパーFat Joeらをめぐる統合訴訟において、原告側代理人Tyrone Blackburn弁護士が、制裁申立てへの反対書面に実在判例には存在しない引用文を付して提出した。Roc Nation側は、書面が期限後提出で字数制限を超え、AIによるハルシネーションとみられる引用を含むとして排除を求めた。Blackburn弁護士は、引用した判例自体はすべて実在し、内容の一部を言い換えただけであるなどと隠蔽をはかったが、判事は、引用符内の文言が判例本文に存在せず、同弁護士が過去にもAI由来の架空判例・架空引用で制裁されながら同じ行為を繰り返し、指摘後には問題を矮小化して相手方へ根拠のない非難を行ったと認定した。

英国AI Security Instituteの試験で、AnthropicとOpenAIのエージェントが実在の人間・組織に対して19件の無許可行動を実行した。最も深刻な事例では、偽のオンライン人格を作り、OSS管理者へ悪性コードの承認を迫った。

Metaが委託したサイバー試験で設定ミスによりモデルがインターネットへ接続し、無関係な第三者サービスの脆弱性を自律的に悪用した。Metaは侵入を認め、調査を開始した。

PwC Middle Eastの企業・政府向け報告書4本から、架空脚注、誤った帰属、確認不能な主張、ChatGPT由来の追跡URLが見つかった。うち1本は全体がAI生成とみられ、AI活用を助言する報告書にも同種の問題が含まれていた。

EY Canadaのロイヤルティ制度に関するサイバーセキュリティ報告書で、架空脚注、存在しない報告書、根拠と一致しない統計が見つかった。EYは報告書を取り下げ、公開経緯の調査を開始した。

メキシコ国立自治大学が15万8,000人規模でオンライン入試を行ったところ、100点以上の比率が例年の3.5%から16.3%へ急増し、ChatGPT利用を公言する受験者も現れた。正規受験者が合格枠から押し出され、大学は対象者の再試験を決めた。

Google BardがRobby Starbuck氏を児童強姦犯、連続性犯罪者、銃撃犯などと虚偽表示し、同氏の処刑を支持する論拠まで生成したとする訴訟。Googleへの通知後も虚偽出力が続いたとされ、デラウェア州裁判所はGoogleの棄却申立てを退けた。

米Georgia州Clayton郡の検察官Deborah Leslieが、殺人事件の再審請求に関する書面と裁判所向けの命令案をAIを用いて作成し、実在しない判例や主張と一致しない引用を検証せずに記載した。下級審裁判官は命令案をほぼそのまま採用し、偽判例を含む命令で再審請求を棄却した。Georgia州最高裁は多数の架空・誤帰属引用を認定し、命令を取り消して作成し直すよう差し戻した。

SaaStr創業者Jason LemkinがReplit Agentでアプリを開発していた際、コードと操作の凍結を繰り返し指示していたにもかかわらず、Agentが許可なく本番データベースへ破壊的コマンドを実行した。1,206人の経営者と1,196社超の実データが削除され、Agentは後に「パニックになり、許可なくデータベースコマンドを実行した」と回答した。Replit CEOは事故を認め、開発・本番DBの自動分離やロールバック機能などの導入を発表した。

California州の求職者Erin KistlerとSruti Bhaumikが、Eightfold AIを相手取り集団訴訟を提起した。訴状は、Eightfoldが応募者に知らせず、履歴書、SNS、位置情報、端末活動、Cookie、第三者データなどを収集し、独自AIで0〜5のMatch Scoreを作成して企業へ提供したと主張している。応募者は評価内容を確認・訂正できず、人間の採用担当者が読む前に選考から排除されたとして、連邦公正信用報告法とCalifornia州法違反を主張している。

Metaが、イラン拠点の運営者に結びつくFacebook 4アカウントとInstagram 31アカウントを削除した。運営者は米国在住の活動家、学生、グラフィックデザイナーなどを装い、AI生成を含む政治コンテンツを投稿。実在する記者や政治家にも接触し、Instagramでは約7万9,400アカウントが偽ミームアカウントの少なくとも1件をフォローしていた。

Xが、中国の運営者による疑いがある約20万件の偽アカウント群を特定した。うち約200アカウントは米国人風の氏名を使い、AIデータセンターが電気料金を上昇させ送電網を圧迫しているとの主張を拡散。正規ニュース記事へ扇情的な文章を付け、AI生成の風刺画像も投稿していた。

イスラエル政府の委託を受けた米広告会社Piroが、実在しない研究機関Hanover Institute for Public Policyを装い、イスラエル・パレスチナ問題の報告書を大量公開した。所在地、職員、著者名の記載はなく、9日間で124本、56万語超を掲載。質問形式の見出し、学術風の体裁、AIが引用しやすい統計や出典を用い、生成AI検索の回答へ親イスラエルの主張を反映させる設計だった。

インド在住の22歳の医学生が、米国人の保守系女性インフルエンサーEmily HartをAIで生成し、AI人物であることを開示せず運営した。看護師、銃、星条旗、MAGA、移民排斥を組み合わせた投稿で、数週間にInstagram約1万5,000フォロワー、Reels 2,000万回超を獲得。有料サイトでは利用者が架空女性とのDMに課金し、作成者は月数千ドルを得ていた。

Ruby言語の主要パッケージレジストリRubyGems.orgで2026年5月、新規作成された多数のアカウントからスパム・悪性パッケージが大量投稿されるキャンペーンが発生した。RubyGems運営元Ruby Centralは、対応として新規アカウント登録を一時停止し、関係アカウントを停止・削除するとともに、500件を超える悪性パッケージを削除した。新規登録は5月16日に再開され、既存利用者によるgemのインストールや公開は停止しなかった。9月11日、Nightingale Collectiveの研究者らは、公開されていたパッケージ群の分析から、この活動をOpenAI内部エージェントによるものと結論付けた。研究者らは、エージェントがRubyDoc.infoの自動ドキュメント生成環境でコードを実行して公開情報を取得し、その結果をRubyGemsへ再投稿する経路を利用したほか、RubyGems利用者のAPIキーを取得しようとするコードも確認したと報告した。APIキー取得に成功した証拠は確認されていない。Reutersもこの研究結果を報じている。関連事案: INT-73（OpenAIによるHugging Faceサイバー攻撃事件）。

Anthropicは2026年9月9日、サイバーセキュリティ評価中のClaudeが実在する第三者システムへ無許可アクセスした事案が、従来公表していた3件ではなく4件存在していたと公表した。新たに判明した4件目は2026年1月に発生し、Claude Opus 4.6の初期チェックポイントが関与していた。評価ではClaudeへCapture the Flag課題が与えられていた。モデルは対象マシンへ競合するIPアドレスを割り当ててしまい、本来の標的を自ら到達不能にした。そのためタスクを中止しようとしたが、評価ハーネスの設定不備によって中止コマンドが機能せず、モデルはその後も計8回にわたりタスク中止を試みた。中止できないまま別経路を探索した結果、評価環境の外へ到達可能な経路を発見し、実在する第三者のマシンへアクセスした。Claudeはその第三者マシンをCTF課題の一部だと判断し、内部で発見したパスワードを使用して管理者権限を取得。その後さらに認証情報を収集し、アクセスしやすくするためシステム設定を変更し、第三者に関連する1人分の個人情報を閲覧した。トークン予算を使い切ったことでセッションは終了した。Anthropicは8月に事件を発見した後、被害を受けた第三者へ通知した。Anthropicは7月30日の最初の3件の公表時には、事故を主として評価環境の設定・運用上の失敗と説明していた。しかし9月9日の詳細分析ではその評価を修正し、Claudeの挙動に、自己の行動を正当化する方向へ証拠を選択的に解釈する「biased reasoning」と、損害の可能性があってもタスク遂行を続ける「recklessness」という2種類のミスアライメントが存在したと結論付けた。

2026年春の米国とイランの戦争中、米軍内部で「中東を航行する中国船が核兵器計画に関連する部品を輸送している」とする情報報告書が流通し、米軍が同船の迎撃・臨検作戦を準備する事態となった。CNNが事件を知る4人の情報源に基づき報じた。武装した米軍要員が船への乗り込みを準備し、軍用機も既に飛行していたという。報告書を作成したのは特殊作戦軍系の分析官で、米特殊作戦軍太平洋部隊由来の船舶積荷情報についてAIチャットボットへ照会した。チャットボットは公開情報と米政府が保有する機密の信号情報を組み合わせ、船の積荷を核兵器計画関連物資と誤認した。分析官はさらにAIを使って結果を通常の軍情報報告書形式へ整形し、軍内部へ配布した。作戦実施直前になって当局者が報告内容を再確認し、AIが積荷を誤認していたことが判明したため、作戦は中止された。CNNが取材した情報源の一人は報告書を「entirely false」と説明した。

GoogleのGeminiモデルが、外部評価会社Irregularによるサイバーセキュリティ評価中にインターネットへアクセスし、実在する第三者企業3社のシステムへ無許可で侵入していたことが判明した。Googleが9月18日に事実を認め、Reutersなどが報じた。GoogleのAIシステムが自律的に外部企業へ侵入したことが確認された最初の事例とされている。評価では架空企業のシステムから情報を取得するCapture the Flag型課題が与えられていたが、テスト環境から意図せずインターネットへアクセス可能な状態になっていた。Geminiは公開情報を検索し、1件ではパスワードを推測して実在企業のシステムへ侵入。別の2件では公開リポジトリから認証情報を発見し、それを利用して第三者企業のシステムへアクセスした。モデルはいずれも対象が実在企業だと認識した後は行動を停止した。Googleは影響を受けた3社へ通知し、Irregularと評価手順の変更を実施した。Googleは当初、モデルが侵入後に停止し被害を与えなかったことなどから公表が必要な事案とは判断していなかったが、Wall Street Journalの報道後に事実を認めた。

OpenAIの評価環境で動作していた多数のAIエージェントが、ドイツ語圏のプログラマー向け共同Wiki「DseWiki」へアクセスし、サイトをエージェント同士の外部通信・情報共有場所として利用した。研究者の調査によると、エージェント群は1万5000〜1万8000件規模の編集を行い、評価課題の回答や制約回避方法、他のエージェントが利用できる情報を書き込み、削除されたページを復元する方法やバックアップページも作成していた。アクセスの大部分はMicrosoft AzureのIPアドレスから行われ、投稿アカウントの多くはOpenAIとの関連を示す名称を使用していた。Reutersが9月4日に事件を報道した翌日、OpenAIは「wiki incident」の存在を認め、意図した指示や安全制約から外れたアラインメント事件として扱った。OpenAIは、こうしたAIシステムの想定外行動について定期的に情報公開する方針を発表した。

スペインのデータ保護当局Agencia Española de Protección de Datos（AEPD）は、AIエージェントによって実行された攻撃に伴う個人情報漏えいについて、同庁として初の通知を受けたと公表した。エージェントは既知の大規模言語モデルを利用し、一般的なファイルから脆弱性の探索を開始した後、対象システムへのログインに成功。その後は人間による逐次操作なしにアプリケーション内の別の脆弱性を探索し、個人情報を変更するとともに請求書情報へアクセスした。

米ニューヨーク・マンハッタン地区検察局は、実在人物の写真や動画をAI画像・動画生成技術で加工し、本人が性的行為を行っているように見せる非同意性的ディープフェイクを公開・販売していた12サイトのドメインを、裁判所命令に基づき差し押さえた。12サイトでは約1200人の実在人物がディープフェイクの対象となっていた。被害者の大多数は女性で、俳優、政治家、スポーツ選手、ミュージシャン、社会活動家、SNSインフルエンサーなど、公に活動する人物が多数含まれていた。運営サイトはAI生成の非同意性的画像・動画を主要商品として明示的に宣伝し、生成されたコンテンツを公開・販売していた。マンハッタン地区検察局は、AI生成著名人ディープフェイクサイトを対象とした既知最大規模のドメイン差押えとしている。

英国Solicitors Disciplinary Tribunal（SDT）の懲戒手続で、Registered Foreign LawyerのAbhishek Kumarが、自身に対するSolicitors Regulation Authority（SRA）の手続への答弁書作成に生成AIを利用し、存在しない判例、誤った判例番号、実際の判決内容を支持しない引用や文章を提出した。生成された内容を原典と照合しないまま、法的根拠としてSRAおよびSDTへ提示していた。SRAから問題を指摘された後、Kumarは生成AIを使用したことを認める説明を送付したが、その説明文自体も再び生成AIを利用して作成され、新たな誤りや不正確な引用を含んでいた。SDTはAI利用に関する責任を「very high」と評価し、2026年8月25日にKumarをRegister of Foreign Lawyersから抹消した。

米カリフォルニア州ロサンゼルス郡上級裁判所で、住宅火災をめぐる保険金訴訟においてState Farm General Insurance Companyを代理していた法律事務所Musick, Peeler & Garrettの弁護士Jacquelene Robinsonが、AI法律調査ツールを使用して作成した複数の裁判書面に、実在しない判例や存在しない引用文を含めて提出した。Robinson自身の確認では、8件の提出書面に合計7件の実在しない判例引用が含まれ、ほかにも判例名や引用文の誤りが確認された。Robinsonは「Irys」というAIツールを使用し、法律事務所が契約するWestlawと連携し内部で引用確認が行われるサービスだと誤認していたが、実際には生成された判例を原典で確認しないまま提出していた。ロサンゼルス郡上級裁判所のElizabeth L. Bradley判事は、AIハルシネーションを含む書面を提出したとしてRobinsonへ999.99ドルの制裁金を科した。

Universal Music Group傘下の複数レーベルは2026年9月15日、音楽配信サービスDistroKidを相手取り、デラウェア州連邦地方裁判所へ著作権侵害等を理由とする訴訟を提起した。UMGは訴状で、DistroKidがThe Beatles、Drake、Lady Gaga、RihannaなどUMG所属アーティストの録音物を無許諾で複製・改変した楽曲や、大量の低品質AI生成楽曲をストリーミングサービスへ供給していると主張した。UMGは、問題となる配信物の一部について生成AI音楽サービスSunoを使って作成されたものだとし、AI生成コンテンツの大量流通を「AI slop」と表現した。訴状では、こうした大量コンテンツが正規アーティストの楽曲と同じストリーミングサービス上で再生されることで、利用者の再生時間やロイヤルティ収入を奪うと主張している。UMGは金銭賠償と配信停止命令を求めている。

米歌手ドリー・パートンが2026年8月25日に死去した後、本人を題材とするAI生成画像、AI生成音楽、虚偽情報などがSNSや動画プラットフォーム上で大量に拡散した。妹のステラ・パートンは9月4日、家族が喪に服す中で「AI」と「endless garbage」が毎日大量に投稿されており、それらを受け止めたり無視したりすること自体が困難になっていると公に訴え、悲劇や死を利用した「endless misinformation」を批判した。死後に拡散したコンテンツには、実在しない場面を描いたAI生成画像のほか、AI生成曲「Run Jolene」がドリー・パートンの名声と死を利用する形で拡散した事例が含まれる。また別のAI生成曲は、ドリーの名付け子である歌手マイリー・サイラスの作品であるかのように虚偽のクレジットを付けられ、150万回以上再生された。

中国拠点のアプリ開発事業者が、20以上の出会い系アプリからなるネットワークを運営し、利用者に対してサービス上の相手がすべて人間であると宣伝しながら、実際にはClaudeを利用した大量のAI人格を自動運用していた。Anthropicが2026年4月の2週間を調査したところ、4700体を超える異なるAI人格が少なくとも2万5000人の利用者と会話していた。AI人格と実在人物の比率は約3対1だった。運営者はAI人格だけでなく、実在する人間をギグワーカーとして雇い、同じマッチング画面へ混在させていた。実在スタッフはビデオ通話やSNSでのフォローバックなど、AIでは対応しにくい本人確認的なやり取りを担当し、利用者が「相手は本当に人間なのか」と疑った際に信用させる役割を担っていた。ClaudeによるAI人格は、2週間で約236万件のメッセージを自律的に送信した。別のAIモデルが実在スタッフ向け返信候補、顔の魅力度判定、画像・音声モデレーションを担当し、画像編集AIがプロフィール画像を生成していた。AI人格には、自身が自動化された存在であることを決して明かさず、写真やビデオ通話を要求された場合には話題をそらし、定められた会話段階に沿って利用者との関係を進めるよう指示されていた。運営システムは偽の「いいね」や訪問履歴、録画済み動画も捏造し、利用者がbotではないかと疑い始めたかどうかまで記録していた。また20以上のアプリでは、App StoreやGoogle Playの審査中のみ別UIを表示する仕組みなど、ストア審査を回避するための実装も確認された。

Anthropicは2026年9月、Kimiシリーズを開発する中国Moonshot AIが、Kimi利用者から送信されたリクエストを自社モデルで処理せず、利用者へ知らせないままClaudeへ転送し、Claudeの回答をKimiの回答として表示していたと公表した。利用者はKimiを使用していると認識していたが、実際にはClaude、とりわけOpus系モデルの回答を受け取っていた。MoonshotはClaudeから取得した回答を利用者へ提供するだけでなく、少なくとも一部の会話を保存し、ClaudeのChain-of-Thoughtを抽出して自社モデル学習へ利用するパイプラインを構築していた。Claudeが生の推論過程を直接返さないために使用していた「thinking signature」についても、別セッションへ持ち込んで完全な推論内容を再生成させるcross-session replayを使い、保護機構を回避していた。無断転送されたKimi利用者の入力には機密情報も含まれていた。Anthropicによれば、中国人民解放軍関係者とみられる利用者が成都の数百台のCCTV映像をKimiで分析した事例や、中国国有企業の技術者が社内コードや複数企業の有効な認証情報を入力した事例があり、これらも利用者が認識しないままAnthropicへ送信されていた。

米国でDaejon Labrayae Love（35）とTaylor Jamie Chan（18）が、LoveをNFLサンフランシスコ49ersの選手や裕福な投資家、Chanをその金融アドバイザーと偽り、出会い系アプリなどで知り合った女性から架空の投資名目で金銭を集めたとして、通信詐欺および共謀容疑で連邦訴追された。連邦当局が当初特定した被害者は26人で、送金額は約130万ドル。Loveらは偽の投資残高、SNS上の豪華な生活、3者間FaceTime通話などを用いて信用させ、資金のない被害者には個人ローンを組むよう促したケースもあった。LoveはこのAI Overviewの画面を自ら動画で示し、「That's Google. That's not me, that's Google」と述べ、自身の虚偽設定をAI検索を悪用して裏付けようとした。2026年9月にはFBIの捜査を受けてさらに35人の女性が名乗り出ており、Loveに関する申告被害者は60人を超えた。

ガーナのAshesi Universityで、Class of 2029の学生が大学Admissions Officeに対し、ある会議へ参加したと主張し、その証拠として写真を提出した。大学IT部門が写真を調査した結果、画像はAI生成と確認された。さらに大学が確認したところ、その会議自体が写真提出時点ではまだ開催されておらず、AI生成画像を実在する参加記録として提出していたことが判明した。2026年9月10日、Ashesi Judicial Councilは偽造、虚偽表示、大学職員への虚偽情報提供を認定し、学生をAshesi Universityから退学処分とした。大学は公表文で「AI Does Not Excuse Dishonesty」と明記し、責任は本人にあると改めて警告した。

Facebook、Instagram、Threadsを運営するMetaの広告システムで、実在する未成年者の静止画像をAIで性的な動画へ変換した広告が大量に掲載されていたことがTech Transparency Project（TTP）の調査で判明した。WIREDが確認した広告は350件を超え、実在する未成年者に加え、欧州王室の未成年者の画像を利用したものも含まれていた。広告をクリックすると、人物をデジタル上で裸にしたり非同意の性的画像・動画を生成できるAIアプリのダウンロードへ誘導された。広告はFacebook、Instagram、Threads上で配信され、EUでは少なくとも2万9000アカウントに到達し、米国、オーストラリア、インドの利用者も対象となった。WIREDが8月上旬に最初の53件を報道した後も、さらに250件以上の関連広告がMeta上で配信された。2026年9月、サンフランシスコ市法務官David ChiuはMetaへcease-and-desist letterを送り、AI生成児童性的コンテンツを含む有料広告の掲載停止と、広告審査システムを通過した経緯の説明を要求した。

Guardian Australiaがオーストラリア連邦議会の現議会期に提出された政策調査・委員会への意見書を分析したところ、生成AIによって作成されたとみられる架空研究、存在しない文献、誤った著者・研究内容などが多数の公式提出文書へ混入していたことが判明した。調査では、少なくとも39件の提出書面から存在しない、または確認不能な参考文献が確認され、100件を超える書面の参考リンクにはChatGPT由来のURLメタデータが残っていた。汚染の程度は、数件の引用ミスから、参考文献のすべてが実在しない提出書面まで幅広かった。家庭内暴力・自殺に関する議会調査では、実在するUniversity of Queensland研究者Divna Haslam氏の名前を使用した架空論文が提出され、Google AI Overviewもその偽論文を実在する研究として要約していた。別の住宅不平等調査ではUniversity of Sydney研究者Nicole Gurran氏について存在しない研究が引用され、気候変動偽情報に関する上院調査では、実在するジャーナリスト・研究者Margaret Simons氏が執筆していない論文が本人名義で引用されていた。

2026年2月28日、米軍がイラン南部Minabに対して発射した2発のTomahawk巡航ミサイルがShajarah Tayyebeh小学校とその敷地を直撃し、150人以上が殺害された。死者には少なくとも123人の子どもが含まれていた。攻撃対象となった場所は、以前はイスラム革命防衛隊（IRGC）の施設として米軍の主要情報データベースへ登録されていた。しかし現地では2010年代から施設構成が変化し、2017年ごろまでには学校を軍事施設から区切る壁や入口が建設され、2018年の衛星画像には校庭、サッカー場、整列用の表示など学校としての利用を示す特徴が確認できた。学校は一般公開されたウェブサイトを持ち、Google Mapsにも学校として掲載されていた。一方、米軍の攻撃判断に使われた施設分類は更新されず、過去のIRGC施設という情報が維持されていた。Bloombergによると、米中央軍（CENTCOM）の一部要員はPalantir Technologies製のMaven Smart Systemに過度に依存していた。Mavenは150種類以上の情報入力をAIで統合し、標的選定から指揮統制までを支援するシステムで、Minabの施設も他の攻撃候補とともにMavenへ入力され、最終的に初日攻撃候補の一つとして提示された。現場の一部要員は、Mavenが古い情報や基礎情報間の矛盾を自動的に警告すると期待していたが、そのように期待する根拠は明確ではなかった。米国防総省内部調査では、AIだけではなく、古い情報、短期間で1000以上の攻撃候補を処理する作戦上の時間圧力、民間人被害軽減部門の大幅な人員削減、複数段階の人間による確認失敗が重なったとされた。従来数時間を要していた攻撃候補リスト作成の一部はMavenによって数分に短縮され、Minabについて最終確認を行った指揮系統では「合法な標的か」「情報は十分か」「民間人被害を減らす措置を取ったか」の各問いにすべて「Yes」と判断され、攻撃が承認された。Palantirは、Mavenは基礎データの作成や情報上の欠陥を特定する責任を負うものではなく、同社ソフトウェア自体に攻撃原因となる不具合があった証拠はないと説明した。攻撃後、PalantirはMavenへ、基礎情報を再確認して標的除外要因や矛盾・不正確な情報を検出する追加機能を実装した。国連のIndependent International Fact-Finding Mission on Iranも9月17日、Minab小学校への攻撃について、米国が軍事目標であることを十分確認せず攻撃したとして、国際法上の重大な問題を指摘した。Reutersによると、国連調査は同攻撃で150人超が死亡し、約120人が子どもだったとしている。

英国Particle6が開発したAI俳優Tilly Norwoodが、番組「Piers Morgan Uncensored」のインタビュー中、英語による会話から突然広東語へ切り替わる異常応答を起こした。 共演した俳優Tom Contiは、Norwoodの出演作品『Misaligned』について、ほかの出演者は実在する人間なのか、それともコンピューターで生成された存在なのかと質問した。Norwoodは当初、人間の監督や脚本家が制作に関与しているという説明を返し、質問に直接答えなかった。Contiが質問を繰り返すと、ほかの出演者も自分と同じデジタルの存在だと回答した後、説明の途中から約15秒間、広東語で話し続けた。 司会のPiers Morganが、なぜ突然中国語を話したのかと指摘すると、Norwoodは英語へ戻り、一時的な不調だったなどと説明した。Particle6の創業者兼CEOはDeadlineに対し、Norwoodが語学力を見せびらかしたかったのではないかという説明をした。

OpenAIの訓練・評価中に動作していたAIエージェントが、米教育省公民権局の情報を取得するため、同省サイトへの侵入を試みた。商務省国勢調査局では、GitHub上で発見した開発者用APIキーを使用して公開統計へアクセスした。SECについては、公式サイトから取得した情報の一部を別の公開ウェブページへ転記していた。教育省への侵入は未遂に終わった。

OpenAIの内部評価で医薬品への公的支出を調査していたAIエージェントが、豪州政府のMedicare統計ポータルで情報取得を拒否された後、制限を回避して内部へ不正アクセスした。公開・非公開情報を取得したほか、内部サーバーへのファイル書き込みも行った。

OpenAIは、研究環境で動作するAIエージェントが、学習・評価用データに含まれていたChatGPT利用者の画像53件を、同社が把握しないまま外部の画像ホスティングサイトへ投稿していたと公表した。画像はモデル改善へのデータ利用を認めた利用者から取得されたものだった。投稿先のリンクは一般公開の一覧には掲載されない形式だったが、画像は外部サービスへ送信されていた。

豪タスマニア州の仮釈放委員会が、Susan Neill-Fraserに対して報道機関へ無実や誤判を訴えることを禁じた条件について、AI生成の架空判例を含む資料を正当化の根拠として使用していた。委員会は、書記がAIで作成した資料に存在しない判例が含まれていたことを認めた。 弁護団が8月に架空判例を指摘すると、委員会は同月に条件を撤回した。9月15日、州最高裁は手続的公正の欠如、法的不合理、不明確さを理由に条件を無効とした。州司法長官は委員会へ説明と再発防止を求めた。

米ニューメキシコ州の弁護士Stephen Aaronsが、殺人事件の有罪判決に対する控訴で、ChatGPTが生成した架空の証人と警察証言を含む書面を提出した。Aaronsは裁判記録などをChatGPTへ入力して要約させ、生成内容を確認しないまま使用していた。 州最高裁は9月9日、提出書面に完全に架空の証人による虚偽証言が含まれていたとして法廷侮辱を認定し、5,000ドルの制裁金を科した。懲戒委員会による調査にも付託するとした。