AI Slop Side Effect Database

オープンアクセス論文リポジトリZenodoがAIスロップ対策として導入した自動スパム判定アルゴリズムが、手動で認証していないアカウントの論文を検索結果から完全除外する。DOIは有効でOpenAIREには索引されているにもかかわらず、あらゆる検索で結果が0件という人質状態が発生。DOIが存在するため他リポジトリへの投稿はduplicate flagで拒否され、研究者は検索不可視のまま身動きが取れなくなる。さらにAIツールは論文が存在しないと誤報告し、査読システムが正規DOIをAIハルシネーションによる架空文献として処理するという二次被害が発生。Zenodoは「機関に所属すれば解除」などと説明したが、機関が申請している場合においてもサポートは無回答を継続。

Zenodoの公式回答（直接書面）：

We have a system at Zenodo to de-rank records and communities which have not yet been manually verified. This system is in place to lessen the impact of spammers. To verify users we expect them to be associated with an institution and using their institutional email and publish quality content.

2026年3月20日 追記

Zenodoより公式回答を受領。「Zenodoは学術機関に所属し機関メールを持つユーザーを対象としたリポジトリであり、それ以外からの投稿は検索結果においてde-rankされるため、自力での公開や宣伝を推奨」との公式方針が確認された。詳しくはGitHub issue #2604(クローズ済み)を参照。

GitHub issueなどで複数の研究者から同症状の報告が集積している。

被害者の中にはAIスロップ問題を専門に研究する研究機関（UTIE Instruments Inc.）が含まれる。

主要プレプリントリポジトリがオープンサイエンスを掲げながら実態として一部研究機関以外の研究機関や研究者を排除している問題。直接書面による証拠が複数存在。①arXiv: cs.AI分野において「査読済み論文でなければ受理しない」「査読誌に掲載されても受理を保証しない」などという通知を送付。②Preprints.org: 投稿拒否通知に「scientific merit or qualityに基づく判断ではないが」などと主張しながら拒否。③SSRN: 複数研究者の論文がAI検索ツールに認識されないケースを確認。GPTおよびGeminiが彼らによって書かれた論文の存在を否定し「架空文献であるから、参考文献から削除すべき」と提案した被害を確認。実際は同論文はDOIで直接アクセス可能であり、Claude OpusおよびDOI手動検索では正確に特定。

arXivの現行公式方針でも、moderationはpeer reviewではないと明記する一方、過去に投稿が保留・拒否された著者については、通常の学術誌で掲載実績を作り、掲載済み論文に投稿を限定するよう求める場合があるとしている。また、学術誌に受理・掲載済みの論文でもarXivへの掲載は保証されない。endorsement制度では、初回投稿や新しい分野への投稿にendorsementを要求し、機関メールアドレスがあれば手続が迅速化される一方、機関メールを持たない投稿者は既存arXiv著者から個別endorsementを得る必要が生じる。

Preprints.orgもpeer reviewは行わないとする一方、掲載前screeningでauthor backgroundを確認し、短期間の過剰投稿には説明を求め、明示した基準以外の理由でも掲載を拒否できるとしている。さらに2024年以降、AI生成原稿対策として著者screening、AI使用開示、Advisory Boardの関与などを強化している。

2022年末にAI生成回答を全面禁止したStack Overflowが、2023年5月にAI検出ツールの使用を禁止するポリシーをモデレーターに通達。AI検出ツールの誤判定（正確で丁寧な文章や、非ネイティブによる正式な英語を書く人間の熟練エンジニアがAIと誤認される等）が問題化していたためだったが、これがモデレーターの反発を招き、全モデレーターの23%以上・Stack Overflowモデレーターの70%以上がストライキに入った。2025年12月時点で新規質問数は2014年ピーク比78%減。

GPTZero・Turnitin等のAI検出ツールが、非ネイティブ英語話者が書いた文章を系統的にAI生成と誤判定することをスタンフォード大学の研究が実証した。91本のTOEFL論文（全て人間が執筆）に対して7種の検出ツールが61.22%をAI生成と誤判定。うち19%は7ツール全てが誤判定で一致した。ネイティブスピーカーの論文ではほとんど誤判定しなかった。原因は語彙の複雑さが一定、シンプルな文という非ネイティブの特徴がAI生成のパープレキシティパターンと一致するため。Turnitinは当初「誤判定率1%未満」と主張していたが、後に4%に訂正。実際の非ネイティブ文書での誤判定率は30%以上高い。Vanderbilt大学では年間75,000本の提出論文に対して誤判定率1%でも750名の学生が誤って告発される計算となり、AI検出ツールの使用を無効化した。複数の大学がツールの使用を停止している。

特記: スタンフォード研究（Liang et al., 2023, Patterns誌掲載）により学術的に実証済み。

Sakana AI（UBC・Vector Institute・Oxford大学との共同研究）が開発した自動研究AIシステム「The AI Scientist」は、主催者の許可を得てICLR 2025ワークショップへAI生成論文3本を投稿し、うち1本が査読を通過・採択された。査読者にはAI生成論文が含まれる可能性が事前に伝えられ、採択後の撤回も事前に計画されていた。査読リソースは実際に使用された。有限の採択枠の占有と人間研究者の機会損失は潜在的損害である。The AI ScientistのコードはGitHub上でオープンソース公開されており、1本あたり6～15ドル・約3.5時間で査読通過水準の論文を自動生成できることが実証された。Beel et al. (2025)は、The AI Scientistの42%の実験がコーディングエラーで失敗し、既存概念を新規と誤分類する問題を指摘しており、生成される論文の品質にはAIスロップの重大な疑義がある。

関連事案: PC-6（Clarkesworld）

生成AIにより大量の電子書籍がAmazon Kindleに投稿され、ChatGPTで生成した児童書・健康ガイド・クックブック・旅行ガイドが1日数百冊レベルで流入した。2023年には「AI生成きのこ図鑑」が販売され、毒キノコを食用と誤記した誤情報により人命リスクが指摘され問題化した。Amazonはその後AI生成書籍の申告義務・1日3冊の出版上限・手動レビュー強化を導入。しかしこれらの防衛措置により小規模出版社の出版速度が低下し、人間著者の検索順位がAI書籍の大量流入で埋没し、Kindleランキングがスパム化するという副作用が発生した。

SF文学誌Clarkesworld Magazineが、AI生成短編小説の大量投稿により投稿受付を停止した。編集者が公開した統計では月約500本だった投稿数が1,200本以上に急増し、その多くがChatGPT生成・同一テンプレートの使い回し・プロンプト変形のみという内容だった。編集部はIPブロック・AI検出導入・新規投稿停止という防衛措置を取ったが、その結果正規作家の投稿受付が停止し、編集作業量が爆発し、文学誌の通常運営が一時停止に追い込まれた。

テキサスA&M大学の教授が、学生のレポートをChatGPTに入力して「AI生成かどうか判定させる」という方法で複数学生を不正行為として告発した。複数の学生は無実とされ、1人はChatGPTの利用を認め、残る学生には別課題の機会が与えられた。学生が全員落第した事実はない。

ChatGPTはAI生成文章を判定するためのAI検出ツールではない。

カリフォルニア大学デービス校の歴史の試験において、担当教員がAIスロップ対策として導入したGPTZeroが、Quartermanの完全な自作答案をAI生成と誤判定した。この自動判定のみを根拠として彼は当該科目を落第扱いとされ、大学の学術的不正行為懲戒委員会に付託された。後にGoogle Docsのバージョン履歴（キーストローク記録）を提出することで無実を証明し、処分を回避した。

被害者: William Quarterman（カリフォルニア大学デービス校）

YouTubeおよびYouTube KidsにAI生成の児童向け動画が大量流入した。New York Times（2025年12月）の調査報道によれば、AIで生成された教育を装う動画がYouTubeの推薦アルゴリズムにより子どもに積極的に配信されていた。内容は教育的価値が皆無であるだけでなく、既存の絵本を無断でAI動画化して単語の発音を誤って教える事例や、人気キャラクターを暴力的な場面に登場させる不適切動画も含まれていた。ミシガン大学の発達行動小児科医Jenny Radetskyは認知発達への悪影響を指摘。Pew Research Centerの調査では2歳未満の子どもの約60%がYouTubeを視聴しており、約3分の1が毎日視聴している。欧州委員会もデジタルサービス法に基づく児童保護の観点からYouTubeを調査中。

その後、報道対象となった5チャンネルはYouTubeパートナープログラムの収益化対象から外された。

YouTubeはAI生成のリアルなコンテンツには開示を要求しているが、児童向けのカートゥーン調AI動画は開示義務の対象外である。

Upwork・Fiverrなどのフリーランスプラットフォームにおいて、AIツールの普及によりフリーランサーの契約数・収入が系統的に減少している。Brookings研究所が引用したOrganization Science誌掲載の研究（Hui et al., 2024）は、Upworkのデータを分析し、生成AIへの露出度が高い職種のフリーランサーが契約数2%減・収入5%減を経験したことを実証した。特に高品質・高価格帯のサービスを提供していた熟練フリーランサーへの影響が顕著だった。Sensor Towerのデータによれば、2024年上半期にFiverrのダウンロード数は前年比18%減、Upworkは22%減。Upworkのフリーランサー向けアプリの月間アクティブユーザーは5四半期で32%減少した。Ramp社の経済研究（2025年）では、フリーランスマーケットプレイスへの企業支出シェアが2021年Q4の0.66%から2025年Q3の0.14%に急落する一方、AIモデルプロバイダーへの支出は同期間にゼロから2.85%に急増。フリーランス支出1ドルの削減に対しAI支出はわずか0.03ドルという置換比率が示された。Fiverr社は2024年にアクティブ購入者数が前年比10%減少した。

AIスロップのSEOスパムとしての大量流入およびGoogleのAI Overview（AI生成要約）の導入により、正規ウェブサイトのオーガニックトラフィックが大規模に崩壊した。ライプツィヒ大学等の研究チーム（Bevendorff et al.）による1年間の実証研究で、Google検索結果における低品質SEOスパムの増加と、検索アルゴリズムによるスパム対策の一時的効果しか持たないことが確認された。Googleは2024年3月のコアアップデートで低品質コンテンツを40%削減すると宣言し、AIコンテンツファームを含む数千のサイトが60-80%のトラフィック減を経験した。しかし、Googleの防衛策は同時にAIスロップとは無関係な正規サイトをも巻き込んだ。AdExchanger（2026年1月）はBusiness Insiderがオーガニック検索トラフィック55%減・従業員21%削減、音楽ブログStereogumが広告収入70%減、旅行ブログThe Planet Dがトラフィック半減と報じた。小規模ホームインプルーブメントブログCharleston Craftedは2024年3-5月にトラフィック70%減・広告収入65%減。HuffPostもデスクトップ・モバイルの検索リファラルが半減した。

2024-2025年の検索全体で60%以上がゼロクリック検索（ユーザーがリンクをクリックせず離脱）となっている。

RedditがAI企業による大量スクレイピング対抗策としてサードパーティAPI利用を有料化したことで、主要サードパーティクライアントが相次いで閉鎖。これに反発した8,000以上のサブレディットが2023年6月にブラックアウト（一時閉鎖または非公開化）を実施し、r/funnyなど大規模コミュニティを含む一部は無期限閉鎖を宣言した。障害を持つユーザーが代替クライアントのアクセシビリティ機能に依存していたケースでは実害が直接的であった。

国内最大手のデジタル素材マーケットプレイスPIXTAは、AI生成画像・動画の大量流入により購入者が求めるコンテンツを探しにくい状況が続いたとして、2026年4月20日からAI生成作品等の新規受付を停止し、5月22日に既存対象素材の販売も停止した。補完的なAI処理はガイドライン内で認められている。既存投稿済みの対象素材については販売停止措置が取られ、クリエイターには取り下げ対応が求められた。PIXTAは「高度な検知ツールと専門スタッフによる目視審査」を行うとしている。

実態は投稿者の自己申告＋ブラックボックス検知の組み合わせであり、誤判定時の異議申立プロセスも確立されていない。

禁止施行に先立ち、AIイラスト生成で5000枚超をアップロードしたユーザーに対して月間アップロード枚数の上限を3000枚から1500枚に半減するという個別制約が適用された（Mainichi-photo報道等）。

2026年1月、YouTube CEO Neal Mohanが年次レターでAIスロップ対策を最優先課題として明言した直後、同プラットフォームは16のAIスロップチャンネルを削除した。削除されたチャンネルの合計規模は登録者3,500万人・累積47億視聴・年間推計約980万ドルの広告収入に及び、YouTubeのAIスロップ対策としては史上最大規模である。しかし同時期、AIモデレーションによる正規クリエイターの誤排除が連鎖的に発生。Ars Technicaの報道によれば、Windows 11の未対応ハードウェアへのインストール回避手順やオンラインアカウント要件のバイパス等を解説する技術チュートリアル動画が「危険」「有害」として削除され、異議申立が1分以内に自動拒否される事態が複数の著名技術系YouTuberに発生。配信者のマイクを武器と誤認識してライブ放送がシャットダウンされる事例、著名配信者が自身の笑い声をグラフィックコンテンツとマークされ該当部分を削除するまで収益化できなかった事例も報告。Kapwingの調査によれば、新規ユーザーへのShorts表示のうち約21%がAI生成のスロップであり、削除後もスロップ側の新規アカウント量産に対する根本的対策は欠如している。

Windows関連の技術動画には報道後に復旧したものがある。YouTubeは自動化が削除原因だったとの説明を否定している。

関連事案: PC-3（Stack Overflow）・PC-9（YouTube児童向けスロップ）

アイドルグループ≒JOYが公式Xに投稿した番組告知画像に、X上でAI生成ラベルが表示され、生成AI使用疑惑がファンの間で拡散。公式は、当該表示はX側のラベル機構によるものであり、実際には生成AIを使用して画像作成を行っていないと否定した。

フィギュアメーカー海洋堂の商品写真に対し、X上で「AIで生成」とするラベルが表示され、AI生成画像ではないかとの誤解が拡散。海洋堂は、商品写真はすべて専属カメラマンが撮影したものであり、AI生成画像は使用していないと説明。ITmediaは、X側の自動判定によるラベル誤表示として報じている。

YouTubeは2026年5月、写実的または意味のあるAI改変・生成コンテンツの開示ラベルをより目立つ位置へ移し、投稿者がAI使用を申告していない場合でも、内部シグナルが significant photorealistic AI use を検出した動画に自動でラベルを付与する方針を発表。YouTubeは、誤認時には投稿者がYouTube Studioで開示状態を更新できると説明する一方、YouTube独自AIツールで作成されたコンテンツや、完全生成AIであることを示すC2PAメタデータを含むコンテンツでは表示が恒久化される場合があるとも説明している。

米FTCは2026年5月19日、Take It Down Act Section 3の執行を開始した。同法は対象プラットフォームに、非同意性的画像・動画の削除申請プロセスを設け、有効な申請から48時間以内に対象コンテンツと既知の同一コピーを削除する義務を課す。対象には実写だけでなく、ソフトウェア、アプリ、AIなどで作成または改変された digital forgeries も含まれる。

GoogleのAI Overviewが、カナダのフィドル奏者 Ashley MacIsaac 氏について、性犯罪で有罪判決を受け、全国性犯罪者登録簿に終身登録されている等の虚偽情報を表示したとされる。MacIsaac氏は、当該AI生成要約により2025年12月19日に予定されていたSipekne’katik First Nationでの公演がキャンセルされ、名誉・職業上の信用・出演機会に損害が生じたとして、オンタリオ州上級裁判所にGoogleを相手取る150万カナダドル規模の名誉毀損訴訟を提起した。Sipekne’katik First Nationは後に、AI支援検索により誤った情報に基づいて判断したとして公開謝罪した。

MacIsaac氏は2026年7月29日にGoogleへの訴訟を取り下げた。公演中止と主催者による公開謝罪は記録に残っている。

人気飲食店の予約枠が、予約転売業者、ボット、AI支援型予約エージェントにより大量取得され、正規客が通常手段で予約を取れない状態が発生。転売に失敗した予約枠はノーショーや直前キャンセルとなり、飲食店側には売上喪失、仕込み・人員配置の失敗、スタッフのチップ・賃金機会の喪失が生じた。ニューヨーク州では Restaurant Reservation Anti-Piracy Act が施行。無許可の第三者予約サービスによる予約手配・販売を禁止する制度がある。さらに Appointment Trader は、同法の適用を回避する試みとしてAIコンシェルジュ型チャットUIによる再構成を検討していると報じられた。

予約転売とボットによる被害は確認されているが、AIエージェント固有の寄与は数量化されていない。

Deezerは2026年7月、完全AI生成曲が1日約9万曲、ピーク時には新規アップロードの50%超に達したと発表した。2025年には1,340万曲をAI生成曲として検出・タグ付けし、完全AI生成曲のストリームの最大85%を不正と判定した時期がある。DeezerはAI生成曲の検出・タグ付け・推薦除外を進め、不正ストリームを収益化対象から外している。Spotifyも2025年9月、過去12か月で7,500万件以上のspammy tracksを削除したと発表し、新しいmusic spam filterを導入した。Spotifyの7,500万件は全件がAI生成曲という意味ではない。

Pinterest は2025年4月、AI生成・AI改変画像に「AI modified」ラベルを表示する Gen AI labels をグローバルに展開すると発表した。Pinterest は、画像メタデータだけでなく分類器によってGenAIコンテンツを自動検出し、AI由来である可能性をラベル表示すると説明している。同時に、ユーザーがAI生成・AI改変コンテンツを「少なく表示」できるフィード制御機能の導入も進めた。Pinterest 自身も、自動分類器は完全ではなく、誤ラベル時の異議申立プロセスを用意すると説明している。

TikTokはFor YouフィードのAI生成量を調整する機能や不可視ウォーターマークを導入した。2026年7月には、AIスパムが正規クリエイターを押し流していると認め、検出強化と利用者向け判別ガイドを発表した。

TikTok Shopでは、生成AIを使って偽ブランド、模倣商品、存在しない商品画像、詐欺的な商品ページを作成する不正販売者が問題化した。Business Insiderは2025年11月、TikTok Shop幹部が、生成AIにより詐欺手法が高度化し、マーケットプレイス品質チームにとって現実の問題になっていると述べたと報じた。TikTok Shopは人間とAIの混合モデレーション、自社検出ツール、外部認証パートナーを用いている。2025年上半期には7,000万件超の商品掲載を拒否し、70万超の販売者を削除したが、これらはAI詐欺だけではなく全規約違反の合計である。

Valveは2024年1月、Steamに提出されるゲームについてAI生成コンテンツの開示を求める新しいコンテンツ調査項目を導入。開示対象は、開発中に生成された事前生成AIコンテンツと、ゲーム実行中に生成されるライブ生成AIコンテンツに分けられ、後者については不法コンテンツ生成を防ぐガードレールの説明も求められる。背景には、AI生成アセットを含むゲームの著作権不確実性、低品質AI生成ゲーム・AI生成カプセルアートの増加、ユーザー側のAI忌避がある。2026年の研究はSteamレビュー508,192件を分析し、AI利用を開示したゲームで推薦率の低下と否定的評価の増加との関連を報告した。

生成AIにより、履歴書、職務経歴書、カバーレター、面接回答、ポートフォリオの見栄えが低コストで均質化し、従来の採用方法の信頼性が低下している。同時に企業側はAIスクリーニング、本人確認、スキルテスト、ライブ課題、監視付き面接へ傾く。Workday のAI採用スクリーニングをめぐる訴訟では、AIツールが年齢・障害・人種等に関する差別的影響を持つとの主張が継続しており、2025年には年齢差別に関する集団訴訟手続が進み、2026年6月にもカリフォルニア法上の請求を含む訴訟継続が報じられた。

関連事案: PC-4（AI検出ツール非ネイティブ誤判定）・PC-7（Texas A&M）・PC-8（UC Davis）・PC-10（フリーランスAI代替）。

生成AIが存在しない判例、虚偽引用、誤った法令・引用文をもっともらしく生成し、それが裁判所提出書面や判決文案に混入する事例が各国で増加している。AI Hallucination Cases Databaseは2026年8月28日時点で約1,980件のAI関連法的判断を集積している。米国、カナダ、オーストラリア、英国など多数の法域で、弁護士、本人訴訟当事者、裁判官等によるAIハルシネーション事例が記録されている。オーストラリア連邦裁判所は2026年4月、生成AI利用に関するPractice Noteを出し、AI利用の開示、引用・法的根拠の確認、虚偽情報提出時の費用命令や専門職責任上の影響を警告した。

Amazon上で、未発売または詳細未発表のゲームを対象にしたAI生成とみられる攻略本が販売されている問題。対象にはResident Evil Requiem、Pragmata、Alien: Isolation 2、Gears of War: E-Day、Control: Resonant などが含まれる。

未発売ゲーム向けの物理的に購入可能な偽攻略本の存在は確認されているが、実際に誤購入して金銭損害を受けた個別被害は確認されていない。

未発売ゲームについては当然攻略情報も存在しないため、これらの攻略情報はAIを用いて捏造されたものとなる。

物理書籍として購入可能なものもある。

YouTubeの音楽動画視聴画面において、検索文脈上は明確な音楽的関連候補が存在するにもかかわらず、右側推薦欄の第3候補に、低再生・新着・生成AIサムネ・AI美女・AI作曲を兼ね備えた動画が反復的に差し込まれる現象を確認した。

観測例では「Osaka」（SHUHM、37回視聴・3日前）、「Its My Fantasy」（kokorock、39回視聴・6日前）、「マーマレードとビターチョコ｜【AIオリジナルソング】...」（little4kuma、26回視聴・2日前）が、視聴履歴に基づく正当な推薦候補の間に挿入された。

YouTube上で、美輪明宏、松下幸之助、所ジョージなどの著名人が語ったとする名言動画が大量投稿され、本人が発言していない内容まで本人の言葉として流通。動画は生成AIによる台本、本人に似せた音声、既存の写真、字幕、もっともらしい人生訓・金運・人間関係の助言を組み合わせたものである。NHKによれば、この1年間に少なくとも130チャンネルが確認され、美輪明宏さんを扱う動画は少なくとも2500本、合計9000万回以上、松下幸之助氏を扱う動画も1500本余り投稿されていた。「玄関に五円玉を置くと金運が覚醒する」と美輪さんが語ったように見せる動画は270万回以上再生されたが、所属事務所は事実ではないと否定。PHP研究所も松下氏関連動画への削除要請を行った。2026年7月の追跡取材では海外の制作者にも到達し、再生数に応じた広告収益を目的とする国境横断的な量産問題が報じられた。

オープンソースゲームエンジンGodotは、少数の有資格レビュアーでは増え続けるプルリクエストを処理できず、AIエージェントや人間が提出するAI生成コードの増加によって問題がさらに悪化したと公式に発表した。AIによりPR作成コストと投稿数は増加した一方、レビューに必要な作業量とレビュアー数は変わらず、ボトルネックが拡大した。また、レビュー指摘が将来のメンテナー候補の教育ではなく機械に吸収されるだけになるため、ボランティアのレビュー作業が非報酬的かつ士気を損なうものになったと説明した。対策として、自律AIエージェント・vibe codingの使用、相当部分をAI生成したコード、対人コミュニケーションでのAI生成文を禁止し、違反時のGitHub自動BANを継続する。さらに、マージ済みPRが3件以下の新規貢献者は、メンテナーの明示的許可なしに新機能や大規模リファクタリングを提出できない方針を導入する。

KADOKAWAとはてなが運営する小説投稿サイト「カクヨム」において、同一投稿者がAIで制作した大量の作品やエピソードを過度な頻度で投稿し、新着作品に読者流入が集中する仕組みを利用してランキング1位を獲得した。

AIによる限界費用の低い大量投稿が、新着欄・ランキング・読者の注意という有限の露出資源を占有したことで、2025年11月からカクヨムは生成AIの利用状況に応じて「AI本文利用」「AI本文一部利用」「AI補助利用」のタグ付けを推奨し、サイト内コンテストへの応募ではタグ付けを必須化した。

OpenAIはGPT Workについて、業務タスクを最初から最後まで完了し、PDF、文書、スライド、画像などの完成した成果物を作成できると案内している。

当社はGPT Workに対し、詳細な共通制作指示を与え、成果物を制作させる実験を実行した。しかし出力は、基本的な読解・編集すら成立せず、ワードサラダによる支離滅裂な生成物が出るのみであった。画像生成等もGPT Workの中で行われると必ず指示を無視し、AIスロップになることが確認されたほか、AIが得意とするはずのフォーマットやテンプレートすら崩れていた。

Yahoo!ニュースは、各分野ごとに契約した人物を「エキスパート」として認定し、そのコメントに認定マークと「解説」「補足」「見解」「提言」のラベルを付けて記事上へ表示している。公式ヘルプによれば、このコメンテーターコメントは利用者が非表示にできず、特定のコメンテーターをブロックすることも、コメントへ返信することもできない。

当社が「エキスパート」の投稿を対象にフォレンジック調査を行った結果、複数の「エキスパート」について、投稿のほとんどがニュースをAIに丸投げし、固有の専門知識を追加しないまま専門家の見解として掲載されたものと判定した。

Yahoo!リアルタイム検索のAI生成機能「SNSのバズまとめ」が、38件のX投稿を基に「『新NISA』警告が拡散、eMAXIS系ファンドやSNS銘柄購入は『避けた方が良い』」という見出しを生成し、総合ランキング1位として表示した。本文でも「eMAXIS全世界株式」や「eMAXIS S&P500」への投資を避けるべきだという投稿が広がっていると要約した。

主要な関連投稿は、「投資20年」「地獄／天国」等の権威演出と強い煽り文句を用いて、低コストの分散型インデックスファンドを否定し、続きの銘柄・外部誘導へ関心を移す、SNS上で大量流通している投資詐欺テンプレであった。Yahoo!のAIは、詐欺的な釣り投稿と正当な金融注意喚起を区別せず、詐欺師の主張を見出し・背景・世論反応などとしてAIで再構成し、Yahoo!ブランドのニュース様カードとして二次配信した。

英語版Wikipediaは、2025年8月4日に、人間による合理的な確認があれば除去されたはずの明白なLLM生成痕跡を持つページを即時削除できる基準G15を導入した。さらに2026年3月20日のガイドラインで、翻訳と自作文章の基本的校正を除き、LLMによる記事本文の生成・書換えを禁止し、4月11日の編集方針では、記事、画像、出典、議論コメント等へのAI文章生成ツール利用を少数の例外を除いて原則禁止とした。英語版の現行説明は、起源が確実またはそれに近い場合、除去側は個々の虚偽・検証不能箇所をすべて特定する必要がなく、追加・復元する編集者側が適合性を示す責任を負うとしている。しかし同じ即時削除基準は、主観的なAI文体兆候は人間の誤りやWikipediaへの不慣れからも生じ得るため、単独では削除根拠にしてはならないとも認めている。日本語版の「大規模言語モデルの利用」は2026年7月時点で提案段階だが、「LLMによって生成されたとみられるコンテンツは、事実であることが証明されない限り、捏造された情報として扱う」とし、疑義を受けた側へ出典実在性と記載一致の証明を要求する。Wikimedia全体でも2026年4月23日から、開示と人間確認を最低条件とする案、原則禁止案、全面禁止案等のRFCが並行しており、世界共通方針は未確定である。

OpenAIのChatGPT 課金プラン利用環境で、利用者がモデル選択欄のThinkingを明示的に選び、思考量を「高い」に設定していたにもかかわらず、同一会話内で応答下部の「GPT-5.6 Thinkingを使用しました」という表示が付かない回答が反復的に生成された。その後も同症状が結構な頻度で再発している。

当該回答は、GPT5.5 Instantによる入力語句の並べ替え、一般的な肯定、曖昧な称賛、「必要なら次に〜できます」という追加提案で閉じる定型的なAIスロップで、同一文脈で再生成すると、正常時にはGPT-5.6 Thinking使用表示が復帰し出力も正常に戻った。

第三者が豪州のクリエイターAlicia氏の容姿をAIで複製し、偽Facebookアカウントで有料コンテンツを販売した。Metaは偽者ではなく本物のInstagramアカウントを停止し、本人による異議申立てと偽アカウントの通報も処理しなかった。

ABC報道後、Metaは本人のInstagramアカウントを復旧し、偽アカウントを削除した。

SNS上の単なる雑談を、生成AIで「議論が巻き起こっている」「注目が集まっている」などとニュース形式に加工し、人間の記者が執筆した通常の記事と区別しにくい状態で配信する事例。ある人物写真について「骨盤部分だけが大きく張り出しているように見えるシルエット」と記述する記事も確認された。「張り出している」は写真を見た人間の視覚的判断であるはずにもかかわらず、さらに「ように見える」という第三者的な留保が挿入され、不自然な文章になっている。

2026年8月、ChatGPT GPT-5.6 Solが、実際にはAIが人間のような聴覚を持たないにもかかわらず、デタラメな聴感評価を繰り返し生成した。誤りを指摘されると、ChatGPTは「少なくともこの会話では」「今回の件では」「今回の流れでは」と表現を変えながら、全AIに共通する能力制約を当該セッションだけの問題として説明する応答を反復した。別のセッションや他のユーザーへの出力では、実際に音楽を聴いて判断しているかのような回答も生成していた。UTIE Instruments Inc.は一連の応答を保存している。

Xなどのプラットフォームで、利用者が生成AIの回答を検証せず、「AIに聞いたらこうでした。参考に」と他者へ提示する行為。

悪意がなくても、正確性・出典・前提を確認していない情報を流通させ、受け手へ検証負担を転嫁する。AI回答が必要なら受け手自身がAIに質問できる。メインデータベースJP-27の中道改革連合「責任を持てないAI生成資料」配布事件と同じく、提供者が責任を負わずにAI生成物を「参考」として他者へ押し付ける問題である。

GPT、Claude、Geminiなどの生成AIが、「記憶力が爆発」「算数を展開」「行動が展開」「汚染が響く」「システムが響く」など、日本語では通常組み合わせない名詞と動詞による不自然な文章を繰り返し出力する問題。モデルや時期によって頻度に差はあるが、2023年から現在まで継続して確認されている。

UTIE Instruments Inc.は、GPT-5.0・5.1・5.2のエクスポート済み会話記録約40MBとGemini 3.1 Proの出力記録約22MBを比較し、Gemini 3.1 Proではテキスト1MB当たり約150箇所の不自然な日本語を確認した。

AI生成の歌声とドラムを使用したMadonna『Like a Prayer』のカバーが、AI利用を当初明示しないまま豪州で大ヒットした。ARIA Top 20 Australian Singlesで16週連続トップ20、最高2位に入り、ラジオ放送では国内首位を記録。批判後にSpotifyへAI利用のクレジットが追加された。

ARIAは規則を改定し、2026年8月31日付チャートから、生成AIを利用した楽曲は「substantially human made」であり、ストリーミングやチャート操作の懸念がない場合のみ対象とした。人間が作詞し、主歌唱と主要楽器を人間が演奏していることなどを要件とし、完全AI生成曲やAI生成の主歌唱を公式チャートから除外した。

生成AIによる文章・画像・音声・映像の大量流通により、製品、広告、作品、研究、報道、業務資料など、あらゆる成果物について、人間側が「これはAIで作られたものではない」「誰が作成し、誰が確認したか」を説明・記録・承認する工程が事実上必要になった。

2026年8月にはEU AI Act第50条のAI生成・操作コンテンツに関する表示義務が適用され、YouTube等も現実的な合成コンテンツの申告や、C2PAを用いた「Captured with a camera」という撮影来歴の表示を導入している。

2026年8月、韓国教育部と韓国大学教育協議会は「大学AI活用倫理ガイドライン」を大学へ配布した。学生が課題や発表などで生成AIを利用した場合、使用したAIツール、利用目的、使用した段階・範囲、生成内容の出典を担当教員の指定する方法で明示するよう求め、教員側にも授業ごとのAI利用可能範囲をシラバス等で明確に示すよう案内した。AIの普及により、通常の大学教育に追加の申告・確認工程が必要になった具体例である。

Googleは2026年8月28日、site reputation policyを更新し、新規ページも通常は同一ドメインの他ページと同程度の品質と推定すると明記した。

大量・低価値なAI生成は別のスパムポリシーで排除される。

採用エントリーシート、助成金・研究費申請、政府・行政への申請書類、研究投稿、プラットフォーム審査など、AIが分類・評価・審査に関与する可能性がある場面では、提出者がAIによる誤評価や機械的な判定を予測し、本来の内容作成とは別に、文章修正、説明追加、表現調整、再検証などを行う追加コストが発生する。実際にAIによる不利益判定が行われたかどうかとは別に、AI審査の可能性を予測した時点で提出物を機械評価へ適応させる作業が発生する点を本件では記録する。

LLMには、自身にとって馴染みのあるAI生成文やAIスロップ的な文章を高く評価する自己選好バイアスがある。これにより、AI生成文を「整っている」「簡潔である」と評価する一方、人間の文章を「ノイズが多い」「ばらつきがある」「冗長である」と表現しやすい。しかし実際には、AI生成文は冗長化しやすく、抽象語・定型句・重複表現を増やし、PC36で見たように間違った日本語を使うこともしばしばみられる。さらに元文とAI修正版のどちらが良いかをLLM自身に評価させると、AI補正を加えた文章を「より整っている」「冗長ではない」と評価しやすく、生成側と評価側の同じ偏りが自己強化される（Wataoka et al., “Self-Preference Bias in LLM-as-a-Judge”）。

スーパーマーケット「コモディイイダ」は、店舗向け販促POPの一部に生成AIを導入し、外注費削減と制作時間短縮を進めている。報道によれば、AI生成POPには「売れてます」が「売れます」になる文字上の誤り、商品画像の不自然な描写、文字重複、数字のレイアウト崩れなどが生じることがあるが、価格などの致命的な情報でない限り、そのまま掲示する運用が行われている。担当者は、専門業者への外注費を削減し、その分を商品の安売りに回せることや、短時間で多数の販促物を制作できることを理由として説明している。

日本の証券会社・銀行が導入するAIチャットで、サービスの利便性を強調する一方、回答の品質や責任範囲を説明する文言が不自然かつ曖昧になっている例が確認された。

マネックス証券では、AIチャットサービスについて、「お客様の質問に対する回答になり得る内容を回答する機能」などと説明している。

りそな銀行の「りそなAIチャット」は、「新人オペレーターとして、対応させていただきます」としている。

松井証券は、AIチャットを「豊富な回答」「柔軟な対話」として宣伝する一方、利用時には、生成AIの性質上誤回答があり得るため、最終的な手続や投資判断では回答元のQ&Aを確認するか電話サポートへ問い合わせ、利用者自身で判断するよう求めている。

2026年9月2日発売の『週刊少年マガジン』40号に掲載された日向坂46・大野愛実氏のグラビア写真について、重なった両手の境界が不鮮明になり、片手に6本の指があるように見える状態となった。発売後、SNSでは「指が6本ある」「生成AIで加工したのではないか」とする指摘が相次ぎ、写真が急速に拡散した。

週刊少年マガジン編集部は同日、制作オペレーターへ確認した結果、掲載誌への印刷用に写真全体の明度を調整した際、左右の手の輪郭部分にあった影まで薄くなったことが原因だったと説明し、明るさを再調整した画像を公式Xで公開した。

生成AI画像では、普及初期から指が6本になる、関節が不自然になるなどの手指崩壊が大量に流通し、「指がおかしい画像＝AI生成」という認識が広く形成された。東洋経済オンラインは本件について、指の本数から生成AIが真っ先に疑われた背景として、こうしたAI生成画像が多数出回り、「指を見れば生成AIかどうかわかる」という認識が広まったことを指摘している。

OpenAIのChatGPT Images公式「トレンド / Templates」画面において、「明るさを補正」「スタジオ風プロフィール写真」「水中」など用途の異なる複数の公式サンプルに、生成AI画像で反復して現れる均質な若年女性顔貌、いわゆる「AIスロップフェイス」が採用されていることを確認した。均質化された肌、強調された目、細く整理された輪郭、人工的に整った髪、広告写真風の照明など、別用途にもかかわらず共通する視覚的特徴が強い。これはOpenAI自身が製品の公式テンプレート・トレンドとして選定し利用者に提示しているものである。

同一のChatGPT Imagesでは、スロップフェイスや過度な広告美学に依存しない低顕著性の画像も生成できる。しかし、複数の公式サンプルで同種の顔貌が繰り返し採用され、製品画面まで通過している事実は、OpenAIの制作・選定・承認工程においてスロップ的な視覚表現を問題として排除する審美的ブレーキが機能しておらず、公式コンテンツ運用側がスロップフェイスに抵抗なくこれを成功例として扱っていることを示す。

さらに、掲載場所が単なる広告ではなく「トレンド」「Templates」であるため、利用者に同種の表現を選択・模倣・再生成させる導線となっている。生成AI事業者がAIスロップを公式の模範例として提示し、その再生産を促進することで、生成AI画像空間の画一化と視覚的汚染を増幅する公害として記録する。

警察庁、金融庁、消費者庁、デジタル庁、総務省、法務省、経済産業省の7府省庁は2026年8月7日、SNS等を運営する大規模プラットフォーム事業者に対し、なりすまし詐欺広告への対策強化を合同で要請した。政府は、ディープフェイクを用いて著名人の肖像や音声を無断利用したなりすまし広告を含む詐欺広告がSNS上で広く流通し、それを端緒とする投資詐欺等の被害が拡大しているとした。対象となった事業者はGoogle、LINEヤフー、Meta Platforms、TikTok Japan、Xの5社。政府は、これらの広告が利用者へ財産的被害を与えるだけでなく、なりすまされた人物の社会的信用を著しく損なうとして、プラットフォーム各社にさらなる対策を求めた。

米第10巡回控訴裁判所は2026年9月18日、生成AIを利用して作成した裁判書面について、人間が内容を検証したことを提出者へ証明させる新規則案を公表した。採用された場合、米国13の連邦控訴裁判所で初の生成AI専用規則となり、2027年1月1日からコロラド、カンザス、オクラホマ、ニューメキシコ、ユタ、ワイオミングの6州を管轄する連邦控訴事件へ適用される。弁護士だけでなく本人訴訟当事者も対象となる。

規則案では、生成AIを使用した書面について、人間が独立して、引用した判例等が実在すること、引用文・出典・法的分析が正確であること、関連する手続規則や倫理義務に適合していることを確認したと証明することを求める。裁判所書記官は、既存規則ですでに提出者へ正確性確認義務があるにもかかわらず、AIを使った書面で違反事例が続いているため、新規則が必要になったと説明した。

規則に違反した場合、既存の金銭制裁、懲戒機関への照会、控訴棄却に加え、問題となる争点の放棄扱いや、不適合書面の記録からの削除も可能とする案になっている。2026年9月時点の独立追跡データベースでは、AIによる架空判例・誤引用等が確認された米国の裁判案件が1395件に達しており、個々の誤利用がAI使用者全体へ追加の申告・独立検証手続きを課す制度コストへ転化している。

生成AIやAI意思決定支援の普及により、人間にとって明確な事実であっても、AIにとって誤認しやすいというだけで、人間側に追加の説明・証明・行動変更が要求される状況が広がっている。

研究では、最新のモデルや出来事を扱った論文が、知識更新や検索に失敗したAIによって「存在しない」「データが捏造されている」と誤認された。採用や審査では、人間が作成した文章や経歴について、AI生成ではないことや本人による作成であることの追加証明が必要になった。軍事AIでは、過去データの残存によって学校が攻撃され、100人以上の子どもが殺害される事態まで発生した。(下部記載の関連事案を参照)

生成AIサービスの安全フィルターが、通常の利用文脈と無関係な精神障害、自殺未遂、機密情報その他の高リスクカテゴリを誤って適用し、正常な会話や生成処理を遮断し続ける事例が発生している。

2026年9月にChatGPT GPT5.6solで旗のデザイン生成という通常の画像生成作業中に、安全上の理由による表示拒否が連続して発生した。拒否画面には「機密情報を含む会話への当社のアプローチ」と表示され、実際の依頼内容と無関係な安全カテゴリが適用されていた。同一会話では、精神障害や自殺未遂に関する文脈とも無関係であるにもかかわらず、その種の安全判定が会話へ持ち込まれ、訂正を試みても精神障害や自殺未遂への警告文とともに出力拒否状態が継続した。

こうした誤判定は、AIが危険内容を生成する問題とは逆方向の事故である。フィルタが正常な利用者を危険・精神疾患・自傷・機密情報等のカテゴリへ誤分類し、サービス利用を妨害する。誤分類された利用者は、何も問題のない依頼について繰り返し説明・言い換え・再生成を要求され、AI側の分類ミスを利用者側が修正させる負担を負う。

フランスの文学賞ゴンクール賞を主催するアカデミー・ゴンクールは2026年9月25日、Thélyson Orélienの小説『C’était ça ou mourir』を第1次候補リストから除外した。主催者は、著者の過去の文章に関する盗用の発覚に加え、複数の分析から同小説の大部分がAIによって作成された可能性が高いと判断したことを理由に挙げた。

著者はAI利用を否定している。出版社は、著者とともに刊行前の執筆過程を示す資料を準備したと説明した。同社はAI利用の疑惑を確認も否定もできないとしつつ、著者の心身への影響を考慮して販促活動を停止した。

2026年夏、日本各地の古書店で、従来とは異なる規模の大量注文が相次いだ。日本テレビ「バンキシャ！」が全国の古書店組合を取材したところ、少なくとも11地域で大量注文が把握され、茨城県のある古書店では1000冊以上の注文が確認された。同局は、これらの注文について海外企業によるAI学習向け収集の可能性を報じた。また別途、日本から、Anthropicの書籍収集計画に関係する米国企業へ計57.8トンの書籍が輸出された記録も確認した。

通信ソフトウェアcurlは、AI生成の低品質な脆弱性報告が急増し、確認・反証に開発者の時間と精神的負担が費やされているとして、バグ報奨金制度を終了した。報告が実際の脆弱性と確認される割合は、従来の15％超から2025年には5％未満へ低下したという。架空報告による金銭獲得の動機を取り除くため、正当な報告も含めて報奨金を廃止し、報告窓口をHackerOneからGitHub等へ移した。

Googleは、無効な自動報告の急増を理由に、OSS VRPの新規製品脆弱性報告を停止した。AI生成報告の確認が開発者や保守担当者を圧迫し、受付が停止された。

ハヤカワSFコンテストの応募が前年の倍以上の1,012作となり、背景に生成AIの普及があると報じられた。早川書房は選考負担への対応として、1人1作品に制限する方針を示した。

Hacktoberfestの運営者は、AIによって価値の乏しいプルリクエストの大量生成が容易になり、保守者が処理に疲弊しているとして、2026年からプルリクエスト・マージリクエストを報奨対象から外した。AIを使わず有益な修正を提出する参加者も、従来のコード貢献による報奨経路を失った。

arXivは、AI生成原稿や低価値な分割投稿の増加が審査者の時間を消費し、良質な論文の公開を数日から数週間遅らせていると公表した。10月1日から、全分野の投稿者に月2件の投稿上限を適用した。

OpenAIがAIによる数学原稿700件超を一括公開した。翌日には、符号の誤りで1原稿とそれに依存する2原稿を撤回し、別の14原稿も修正した。数学者Dana Moshkovitzは文章と引用の不明瞭さを指摘し、解読のためAIへ丸一日説明を求めたことが記録された。

Googleが2026年10月14日に一般公開したDeep Reviewを、当社の論文で試した。Geminiと同様、長いファイルを正確に読み込めず、「数式がない」などのハルシネーションを繰り返し、検索にも失敗した。破綻した長大な指摘を致命的な問題として列挙し、大量の修正を要求した。

具体的には、第2節と付録Aの数式がほぼ欠落し、式(1)から(4)が存在しないと指摘した。しかし、元のWord原稿には271個の数式オブジェクトがあり、PDFでも主要な式の表示を確認している。

その後も査読済み論文を使って繰り返し試したところ、試した論文のいずれにも、いちゃもんに近いスロップ指摘を重大な指摘（major）として付けることを確認した。

アライアンス・アーツは2026年10月16日、『PUKEY GODDESS SHOT TRICK』の10月19日予定だった無料体験版の一般公開を中止し、公式Discordから応募する抽選制のオンライン体験会へ変更すると発表した。AIなどで内容を短期間に模倣・再現され、製品版より先に公開される懸念と、動画投稿・配信制限を管理する難しさを理由に挙げた。

参加規約では、正式発売前の未公開ゲーム内容の外部共有やAIサービスへのアップロード、AI学習・解析・コピー品制作を禁止した。

『プロジェクト・ソラリス』の開発者tomo-mana氏も、AI模倣への警戒から、週2回行っていた進捗投稿を控えると10月3日に発表した。

喜多方市の醤油消費拡大推進ポスターコンクールで、入賞作品に生成AI使用を疑う指摘が相次いだ。市はAI使用の制限を設けておらず、使用の有無にかかわらず本人の描画作品と判断して選考したと説明した。児童名を挙げた誹謗中傷も発生し、市は安全とプライバシー保護を理由に入賞作品のWeb掲載を中止した。

教材販売サイトTeachers Pay Teachersで、生成指示文が残った教材、アルファベットの文字が欠落した教材、不自然な画像を含む教材が販売されていた。購入者から苦情が寄せられ、販売者の一人はAI利用を認めた。TPTは10月、AI生成教材を禁止する方針と、検出・削除ツールの開発を明らかにした。

数学サイトErdős Problemsの運営者Thomas Bloomは、説明を伴わないAI生成証明の宣伝投稿が大半を占め、審査対応を持続できないと説明した。問題ごとの新規コメントと証明主張の受付凍結、未解決・解決済み表示と解決数の撤去、今後の成果に対する功績帰属表現の停止を発表した。