国際的な児童の性的虐待画像(CSAM)に対する取組と日本の現状

～生成AIが排出する児童ポルノ対策。民主主義を守りながら対策は可能か？～

• 開催日時：11月5日火曜日17:05-18:05
• パネリスト：
  • 武田 勝彦［市民社会］（チャイルド・ファンド・ジャパン）
  • 上沼 紫乃［学術］（弁護士）
  • 立石 聡明［ビジネス］(JAIPA)

 

「テクノロジー」と「制度」

急速に成長普及する生成AI。人類に対する影響は、正負合わせて計り知れない。著作権など容易に想像でき、また既に大きな社会問題となっているものも多いが、「児童ポルノ」についても大きな問題となりつつある。日本において「児童ポルノ」が犯罪となるのは実被害者が存在する場合のみであるが、果たして生成AIの時代にそれで済まされるのだろうか。また、この「児童ポルノ」という言葉そのものを使っている国は、日本を含めてすでに少数となりつつあり、「児童の性的虐待画像」(≒CSAM)という単語を使うのが世界的には主流である。
通信事業者においては、日本の民主主義を守るために、最小限の「通信の秘密」の侵害で済むよう、児童の性的虐待画像のブロッキングを運用しているが、まずはそのことが国民に知れ渡ってはいないこと。当然海外においても、この日本の取組着いては殆ど知られておらず、時として「日本は何もしていないではないか」と言われる始末である。
このセッションでは、生成AIによつて製造されるCSAMへの規制の在り方と、これらを取り締まったりブロッキングする取組についてを関係者で検討し国民にも知ってもらい考える一助としたい。