海外では、規制の網が急速に広がっている。2024年5月に成立したEUの「Artificial Intelligence Act」は、AIシステムをリスクの度合いに応じて四分類し、ディープフェイク技術を「限定的リスク」に位置づけている。これにより、AI生成・改変コンテンツには明示的な表示義務が課される。違反すれば最大1,500万ユーロという高額な罰金が待っている。
米国でも動きは速い。2025年5月、アメリカ合衆国では本人の同意を得ないままインターネット上に投稿された性的な画像や動画を明確に連邦犯罪とし、SNS等のプラットフォーム運営事業者に対して48時間以内の削除義務を課す「Take It Down Act」が成立した。このスピード感と具体性は、日本の現状と対照的だ。
一方、日本は。2025年6月に成立した日本のAI新法は基本法的性格にとどまり、罰則規定を持たない。現時点で日本にはディープフェイクを直接規制する法律は存在せず、名誉毀損罪や著作権法といった既存法での対応に依存しているのが実情だ。その結果、日本では、ディープフェイクによる人格権・名誉権・プライバシーの侵害が急増しているにもかかわらず、それが実在しないものであることを理由に刑法・民法上の違法性が否定されたり、SNS事業者が自主的に削除に応じなかったりするケースも多く、制度の限界が露呈している状況が続く。
