生成AIを使った犯罪で、逮捕される事例が日本でも続いています。警察庁は、生成AIで不正プログラムを作った事件、フィッシングサイトを作った事件、会員情報を漏えいさせた事件などを、毎年の報告書で公表しています。この記事では、警察庁の報告書で確認できる事例と、生成AIを使う人が気をつけたい法的なリスク、国のルールの今の状況をまとめました。以前の記事は2025年4月時点の報道をもとにしていたため、公的な資料で確認し直しています。2026年10月1日時点で押さえたいのは次の点です。
- 警察庁の報告書には、生成AIを悪用した不正プログラムの作成、フィッシングサイトの作成、アプリへの攻撃で逮捕された事例が載っている
- 逮捕の理由は、不正指令電磁的記録作成罪、不正アクセス禁止法違反、偽計業務妨害罪など、以前からある法律
- 生成AIなどで児童の画像を性的に加工した事案は、2025年に警察が114件を取り扱った。行為者は同級生など身近な人が多い
- 日本のAI法は2025年9月1日に全面施行された。AIの研究開発と活用を進めるための法律で、利用者への新しい罰則を定めたものではない
- 「AIが作ったから自分の責任ではない」は通らない。使った人が責任を負う
警察庁が公表した生成AIの悪用事例
| 逮捕の時期 | 事例 | 逮捕の理由 | 出典 |
|---|---|---|---|
| 2024年5月 | 無職の男（25歳）が2023年3月、生成AIを利用して、ファイルのデータを上書きして壊す機能を持つ不正プログラムを作成（警視庁） | 不正指令電磁的記録作成罪 | 令和6年の報告書 |
| 2025年1〜2月 | SNSで結びついた中高生3人（14〜16歳）が、他人のIDとパスワードで通信会社のサーバーに不正アクセスし、eSIMを不正に取得。生成AIを悪用した事実も判明（警視庁） | 不正アクセス禁止法違反、電子計算機使用詐欺罪など | 令和7年上半期の報告書 |
| 2025年6月 | 男らが、大手ECサイトを装ったフィッシングサイトを公開。サイトを作る際に生成AIを悪用して改修（大阪） | 不正アクセス禁止法違反 | 令和7年の報告書 |
| 2025年12月 | 高校生（17歳）が2025年1月、生成AIを悪用して、複合カフェのアプリのサーバーに約724万件の不正な指令を送り、会員情報を漏えいさせ、アプリの機能の一部を止めた（警視庁） | 不正アクセス禁止法違反、偽計業務妨害罪 | 令和7年の報告書 |
警察庁は、生成AIを悪用した本人確認書類やわいせつ画像の作成の事例も確認されていると説明しています。このうち、2025年4月に、生成AIで作ったわいせつな画像のポスターをネットオークションで販売した疑いで、警視庁が男女4人を逮捕したという事件は、当時の報道で伝えられました。警察庁の報告書には、この事件の詳しい内容は書かれていません。
共通していること
- 新しい法律で逮捕されたわけではない 不正プログラムの作成、不正アクセス、わいせつ物の頒布など、以前からある法律が使われている
- 専門知識がなくても実行できてしまう 警察庁は、AIを悪用することで、専門知識のない人でも、サイバー攻撃に使える情報に近づきやすくなると指摘している
- 若い人の事件が目立つ 2025年上半期に不正アクセス禁止法違反で検挙された119人のうち、49人（約41％）が14歳から19歳だった
児童の画像を性的に加工する事案
警察庁は、生成AIのサイトや画像加工のアプリで、実在する児童の画像を性的に加工して悪用する事案について、2025年の取り扱いの状況を公表しています。
| 項目 | 件数 |
|---|---|
| 2025年に警察が取り扱った事案 | 114件 |
| うち、生成AIが使われたと認められる事案 | 24件 |
| 被害児童が中学生の事案 | 66件 |
| 被害児童が高校生の事案 | 32件 |
| 被害児童が小学生の事案 | 6件 |
| 行為者が同級生・同じ学校の事案 | 65件 |
警察は、事案の内容に応じて、刑法（名誉毀損罪、わいせつ物頒布罪など）での検挙や、指導、警告を行っていると説明しています。友人の写真を「ふざけて」加工することも、犯罪になりえます。
生成AIを使う人が気をつけたい法的なリスク
| 行為 | 関わる法律やルール |
|---|---|
| ウイルスなどの不正なプログラムを作る | 刑法（不正指令電磁的記録に関する罪） |
| 他人のIDやパスワードでログインする、フィッシングサイトを作る | 不正アクセス禁止法 |
| わいせつな画像を作って配る、売る | 刑法（わいせつ物頒布等の罪） |
| 実在の人の顔を使った偽の画像や動画を作って広める | 刑法（名誉毀損罪など）、肖像権、パブリシティ権 |
| 既存の作品に似た画像や文章を作って公開する、売る | 著作権法 |
| 偽の情報で店や会社の仕事を妨げる | 刑法（偽計業務妨害罪など） |
| 仕事の秘密や個人情報をAIに入力する | 個人情報保護法、勤め先のルール、契約 |
罰則の内容は、法律の条文で確認してください。
著作権
文化庁は2024年3月15日、「AIと著作権に関する考え方について」を取りまとめました。AIで作ったものでも、既存の作品に似ていて、その作品をもとにしていると認められる場合は、著作権の侵害になりえます。くわしくはAIによるジブリ風イラスト生成はNGなのか？とAIでディズニー風アニメを作って収益化できる？で解説しています。
個人情報
個人情報保護委員会は2023年6月2日、生成AIサービスの利用について注意喚起を出しました。入力した個人情報が機械学習に使われ、正確または不正確な内容で出力されるリスクがあるとしています。設定の見直しはChatGPTのセキュリティ設定で解説しています。
国のルールの今の状況
| 時期 | 内容 |
|---|---|
| 2024年3月15日 | 文化庁が「AIと著作権に関する考え方について」を取りまとめ |
| 2025年5月 | AI法（人工知能関連技術の研究開発及び活用の推進に関する法律）が成立 |
| 2025年6月4日 | AI法が公布、一部施行 |
| 2025年9月1日 | AI法が全面施行（AI戦略本部の設置など） |
| 2025年12月19日 | AIの研究開発と活用の適正性を確保するための指針（AI指針）を決定 |
| 2025年12月23日 | 人工知能基本計画を閣議決定 |
| 2026年7月14日 | 人工知能基本計画を改めて閣議決定 |
内閣府は、AI法について、AIのイノベーションを進めながらリスクに対応するための法律だと説明しています。この法律ができたことで、生成AIの利用者に新しい罰則ができたわけではありません。悪用したときは、上の表のように、以前からある法律で責任を問われます。
海外のルールを含む2025年8月時点の整理は生成AIのルールの記録に残しています。
自分と家族を守るためにできること
- AIに頼んではいけないことを知る 不正なプログラム、他人になりすます文章、実在の人の偽の画像は作らない
- 子どもと話す 友人の写真を加工することが犯罪になりえること、SNSで誘われた「簡単にもうかる話」に乗らないことを伝える
- 被害にあったら相談する 画像を加工された、脅されたなどの場合は、警察の相談窓口に相談する
- 作ったものを公開する前に確認する 既存の作品や実在の人に似ていないか、事実と違う内容がないか
- SNSのルールを守る YouTubeは、本物のように見えるAI生成の映像に、AIの使用の開示を求めている
YouTubeのルールはAI動画はYouTubeで収益化できる？にまとめています。
よくある質問
生成AIを使うこと自体は違法ですか
違法ではありません。問題になるのは、不正なプログラムを作る、他人の権利を侵害する、わいせつな画像を配るなど、AIを使って行った行為です。
AIが作ったものなら、責任はAIの会社にありますか
使った人が責任を負います。警察庁が公表した事例でも、逮捕されたのは、生成AIを使って犯罪を行った本人です。
未成年でも逮捕されますか
されます。警察庁の報告書には、14歳から17歳の少年が逮捕された事例が載っています。
AI法で、生成AIの利用は規制されましたか
AI法は、AIの研究開発と活用を進めるための法律です。内閣府の概要には、利用者への罰則は書かれていません。悪用した場合は、刑法などの法律が適用されます。
AIで作った画像を売ってもよいですか
内容によります。わいせつな画像の販売、既存の作品に似た画像の販売、実在の人の顔を使った画像の販売は、法律に触れるおそれがあります。販売するサービスの規約も確認してください。
まとめ
- 警察庁は、生成AIを悪用した不正プログラムの作成、フィッシングサイトの作成、アプリへの攻撃などの逮捕事例を公表している
- 逮捕の理由は、以前からある法律。AIを使ったかどうかではなく、行為が問われる
- 児童の画像を性的に加工する事案は、2025年に114件。行為者は身近な人が多い
- AI法は2025年9月1日に全面施行。利用者への新しい罰則を定めたものではない
出典は警察庁 令和7年におけるサイバー空間をめぐる脅威の情勢等について、警察庁 令和7年上半期におけるサイバー空間をめぐる脅威の情勢等について、警察庁 令和6年におけるサイバー空間をめぐる脅威の情勢等について、内閣府 AI法、内閣府 人工知能基本計画、内閣府 AI指針、文化庁 AIと著作権について、個人情報保護委員会 生成AIサービスの利用に関する注意喚起等についてです。
