生成AIの誤判断とデジタル社会の生命線と企業・国家リスク

～人工知能が、データを検閲している。日本のクラウド利用のリスクを議論する～

開催日時：11月5日火曜日16:00-17:00
モデレーター：中澤祐樹［市民社会］(GIG)
パネリスト：
- 長瀬貴司［学術］（弁護士）
- 望月バドル［学術］京都情報大学院大学
- 伊良部雅洋［インターネットの技術コミュニティ］
- 立石聡明［ビジネス］(JAIPA)

「テクノロジー」「生活・環境」

「身近になったクラウドサービスと生成AIと問題」

2022年より、人工知能たる生成AIが急に注目されてきました。社会インフラにも生成AIが、至る所に活用される様になりました。モデレーターである中澤が、2024年8月22日の台湾APrIGF台北のセッション「Combat farud using AI」（メッセージやオンライン詐欺と戦うAI技術）のスライドの写真をスマートフォンで撮影し、国外事業者のクラウドに同期しました。クラウド事業者の生成AIの誤判断により、クラウドのアカウントが停止されました。

「テクノロジー」「生活・環境」「制度」

「生成AIの検閲と通信の秘密が守られていない」

国外クラウド事業者では、現地の法律が適用されており、日本国における通信の秘密が守られていない。通信の秘密は、電気通信事業法第４条（秘密の保護）で、明確に保護されており、通信の秘密だけではなく、その存在たるデータも同様に扱われている。通信の秘密が日本国外の事業者、クラウド事業者、データセンターにおいて適用されていない重大な問題に関して議論する。

「政治・経済・国際関係」

「国家機密や企業の機密情報の漏洩の可能性」

通信の秘密が破られており、生成AIにより、日本国内のデータの検閲が行われている。大企業であれば、研究情報、国家であれば、国家の最大機密情報の潜水艦設計図や情報、外交文書などが国外のクラウドデータに保存されている場合、丸見えである。欧米のクラウドであれば、情報を売られる懸念は少ないが、外交上、我が国が不利な交渉になってしまう恐れがある。政府系クラウド、上場企業のクラウド基盤は、政府が認定したクラウド事業者、ないしは国産ベンダーの物を使うなど防御策を議論、検討する。