【動画公開】AI統計特例で何が変わるのか 個人情報AI学習の法律構成と課題を整理

サマリー

本記事のポイント

  • AI統計特例が創設される前から、個人情報を用いたAI学習は一定の法律構成の下で適法に実施可能であった。
  • 本当の論点は「AI統計特例がなければAI学習できないか」ではなく、「どの法律構成で実施するのか」「そのハードルは何か」である。
  • 本記事で例とする家計分析AIと重症化予防AIでも、利用可能な法律構成が異なる。
  • AI統計特例の評価には、既存制度の課題を解消できるのかという観点が不可欠である。
  • AIによる個人情報リスクを適切に抑制できるのかという点も不可欠である。

AI統計特例については、Part1(基礎的な考え方)、Part2(報道よりも簡単ではないと思われる)、Part3(氏名住所付き病歴とハッシュ)、Part4(公開された要配慮個人情報の取得)、Part5(突合統計・名寄せ)をすでに公開済のため、合わせて参照されたい。

担当者がまず確認すべき事項

  • AI学習に利用するデータは統計情報か個人情報か
  • 匿名加工情報で目的を達成できるか
  • 同意取得以外の法律構成が利用可能か
  • AIサービスの個人情報リスクをどう管理するか
  • 利用したい法律構成のハードルと運用コストは何か

動画解説

本記事に記載しきれていない部分も動画には含まれています。動画の方が、内容が豊富で、かつ熱量や細かなニュアンスまでお伝え可能なため、ぜひ動画でご視聴ください。1.5倍速視聴もおすすめです。

00:00 AI統計特例は「大穴」なのか
00:53 本当の論点は何か
02:20 AI統計特例がなくてもできるAI学習
02:50 家計分析AIを例に検討
03:46 統計情報と個人情報の違い
04:18 なぜ個人情報を使いたがるのか
06:42 法改正前から使える法的構成
07:28 重症化予防AIと医療データ
08:09 公衆衛生例外と次世代医療基盤法
08:54 本人同意・拒否権の整理
09:46 AI統計特例で初めて可能になったわけではない
10:21 各法的構成の課題
12:42 AI統計特例の検討ポイント
13:04 AIによる個人情報漏えいリスク
15:25 統計利活用と改正評価
15:52 第三者監督が薄い?世論の反応は?
17:55 企業が検討すべき実務対応
19:04 今後の制度設計への提言

AI統計特例で個人情報AI学習は初めて可能になったのか

AI統計特例を巡っては、「個人情報のAI学習を初めて可能にした」「個人情報保護法に大きな穴が開いた」といった評価がみられる。しかし、個人情報保護法におけるAI学習は、AI統計特例の創設以前から一定の法律構成の下で実施可能であった。

重要なのは、AI統計特例の有無ではなく、どの法律構成によってAI学習を行うのか、その法律構成にはどのようなハードルがあり、個人へのリスクをどのように抑制するのかである。

本記事では、家計分析AIと重症化予防AIを例に、AI統計特例以前から存在した法律構成とその課題、そしてAI統計特例の位置付けについて整理する。

AI統計特例がなければAI学習できなかったのか

結論から言えば、AI統計特例が創設される前から個人情報を用いたAI学習は一定の場合に適法であった。

AI統計特例に関する報道では、個人情報保護法がAI開発の障害となっており、新制度によって初めてAI学習が可能になるかのような説明も見られなくない。しかし、実務上は以前から複数の法律構成が存在していた。

問題は「AI学習ができるか否か」ではない。

問題は次の点である。

  • どの法律構成でAI学習を行うのか
  • それぞれの法律構成の要件は何か
  • どこに実務上のハードルがあるのか
  • 個人へのリスクを十分に抑制できるのか

なぜ誤解が生じるのか

現場では、

  • 個人情報保護法が壁になっている
  • AI学習ができない
  • 個人情報の取扱いが課題である

という声がよく聞かれる。

しかし、この背景には法制度の複雑性・理解不足もある。AI学習が可能な法律構成自体は存在するにもかかわらず、その要件や限界が十分理解されていないため、「できない」という認識につながっている面もある。

コンプライアンスを重視する企業ほど動きにくい問題

コンプライアンスをあまり気にしない事業者ほど先に進み、コンプライアンスを慎重に検討する企業ほど立ち止まりやすいという現象も見受けられる。

本来はコンプライアンスを重視することが正しい。

しかし、法的評価が複雑であるため、慎重な企業ほど事業化を見送り、リスクを軽視する事業者ほど先行するという二極化が生じているようにも感じる。

例①家計分析AI

わかりやすさの観点から、家計分析AI(収入や支出の状況を分析し、節約や資産形成に関するアドバイスを行うAI)を想定して検討する。

想定される学習データ

学習データとしては以下が考えられる。

  • 総務省の家計調査
  • クレジットカード利用統計
  • 家計簿アプリのデータ
  • FPが保有するデータ
  • アンケートデータ

統計情報とは何か

統計情報とは、特定の個人との対応関係が排斥された情報である。

個人情報保護法上、統計情報は個人情報とは別概念であり、個人情報保護法の適用対象外である。

そのため、学習データが統計情報だけで構成されている場合には、個人情報保護法上の問題は生じない。

なぜ個人情報を使いたいというニーズがあるのか

一般的には「統計情報で十分ではないか」という意見もある。

しかし、現場では統計情報のみでは実現しにくい分析ニーズが存在すると聞く。

例えば、

  • 特定の家計パターンの分析
  • 貯蓄額の多い世帯の傾向分析
  • 特定の支出傾向を持つ世帯の分析
  • 家族構成変化に伴う家計変化の分析

などである。

継続的な変化分析のニーズ

例えば、

  • 30代共働き世帯
  • 子ども1人の世帯
  • 子ども2人の世帯

と変化していく過程を継続的に分析したい場合がある。

また、

  • 収入変化
  • 勤務形態変化
  • 時代変化

によって同一世帯がどのように変化するかを追跡したいニーズもある。

こうした分析では、統計情報だけでは十分な精度を確保できないという指摘がある。

氏名を削除すればよいわけではない

実務では、

「氏名を削除すれば個人情報ではなくなるのではないか」

という疑問もある。

しかし、氏名を削除しただけでは、多くの場合なお個人情報として扱われる。

  • 提供元基準説
  • 匿名加工情報に関する法的考え方

などから、単純な氏名削除だけでは問題は解決しない。

AI統計特例以前から存在した法律構成

結論として、AI統計特例以前から複数の法律構成が存在していた。

利用可能な法律構成

次のとおりである。

  • 統計情報
  • 本人同意
  • 学術研究例外
  • 共同利用
  • 匿名加工情報
  • 仮名加工情報
  • AI統計特例

AI統計特例は選択肢の一つではあるが、唯一の手段ではない。

例②重症化予防AIでは何が異なるのか

別の例でも検討する。

重症化予防AIでは、家計分析AIよりも利用できる法律構成が増える可能性がある。

重症化予防AIとは

重症化する前の兆候を分析し、対象者に保健指導等を行うためのAIと仮定する。

想定される学習データ

学習データとしては、

  • カルテ情報
  • 健診情報
  • 検査情報
  • 画像情報
  • PHRデータ

などが想定される。

公衆衛生例外

公衆衛生例外は、

公衆衛生の向上に特に必要であり、本人同意を得ることが困難なとき

に利用可能な例外規定である。

家計分析AIでは通常利用できないが、重症化予防AIでは適用される可能性がある(ただ、安易な適用は非常に大きなリスクを伴うものであり、重々慎重に検討する必要がある)。

次世代医療基盤法

次世代医療基盤法は医療分野における研究開発を対象とする制度である。

そのため家計分析AIでは利用できないが、重症化予防AIでは利用できる可能性がある。

本人同意や拒否権はどの程度認められているのか

AI統計特例では本人同意や拒否権が問題視されている。

しかし発表者は、他の法律構成でも必ずしも本人同意や拒否権が認められているわけではない。

同意が必要となる構成

主として、

  • 本人同意構成
  • 学術研究構成の一部

である。

拒否権が認められる構成

主として、

  • 学術研究構成の一部
  • 次世代医療基盤法

である。

実務上の意味

AI統計特例だけを取り上げて

  • 同意がない
  • 拒否権がない

と評価するのではなく、既存制度との比較が必要である。

各法律構成にはどのような課題があるのか

結論として、既存の法律構成にはそれぞれ固有のハードルが存在する。

課題一覧

法律構成主な課題
本人同意データ減少
学術研究例外学術研究に該当するか
商用利用に一定のハードル
公衆衛生例外同意困難要件の判断→相当理由
共同利用元々の利用目的によって困難に
仮名だと目的達成できない場合も
匿名加工情報適法な匿名加工ができるか困難
公的機関だとさらに困難
次世代医療基盤法コストが高い?仮名のみ認定要
委託突合不可(Q7-43等)
一部可(Q7-39等)、脱法委託要警戒

AI統計特例
委員会規則次第

本人同意構成の課題

  • データ量が減る

という点が課題として指摘されている。

学術研究例外の課題

  • 商用利用に一定のハードルがある
  • 学術研究に該当しない場合がある

という問題がある。

公衆衛生例外の課題

最大の論点は、

本人同意取得が困難であるか

という要件の判断である。

匿名加工情報の課題

匿名加工情報については、

  • 法定基準が厳しい
  • 本当に匿名加工情報といえるか疑義が生じる
  • 行政機関では制度上のハードルが高い

という問題がある。

委託スキームの課題

委託では複数委託元のデータを自由に統合できない。

実務上「脱法的な委託構成」が問題になる場面も多いので、違法委託、脱法委託に十分警戒する必要がある。

AI統計特例の評価で本当に重要な論点

AI統計特例の評価は、「AI学習ができるようになったか」ではなく、既存制度の課題を解消できるかという観点から行うべきである。

これまで見てきたように、AI統計特例がなくても現行法上は複数の法律構成によってAI学習が可能であった。そのため、「AI統計特例によって初めてAI学習が可能になった」という理解は適切ではない。

むしろ検討すべきなのは、既存制度に存在していたハードルをAI統計特例がどの程度解消できるのかという点である。

AI統計特例は既存制度の課題を解決するのか

本人同意、公衆衛生例外、学術研究例外、共同利用、匿名加工情報、仮名加工情報などには、それぞれ異なる制約や運用上の負担がある。

例えば、

  • 同意取得コストが大きい
  • データ量が不足する
  • 商用利用との関係整理が必要である
  • 要件判断が難しい
  • 匿名加工情報の加工基準が厳しい
  • やりたい分析と制度設計が整合しない

といった問題である。

AI統計特例が創設された意義を評価するのであれば、これら既存制度の課題を現実的に解消できるのかを検証する必要がある。

制度が増えただけで既存の課題が解決されないのであれば、事業者にとっては単に課題のある選択肢が増えただけであり、本質的な問題解決にはならない。

AIによる個人情報リスクをどう考えるべきか

AI統計特例の議論においては、データ利活用だけでなく個人へのリスクに対して、慎重な検討が必要である。

学術研究構成でも問題となる論点

例えば学術研究例外を利用してAIを学習させた場合を考える。

AIの学習段階では個人情報を利用していたとしても、完成したAIサービスを提供する段階では、通常は個人情報そのものを第三者に提供するわけではない。

また、AIから直接個人情報を取り出せないことを前提として、

「AIサービスの提供自体は個人情報の提供ではない」

という整理が行われる場合もあった。

AIへの攻撃と個人情報漏えいリスク

しかし現在では、AIに対する攻撃手法は高度化している。

  • AIから個人情報を抽出する攻撃
  • AIに個人情報を暴露させる攻撃

といったリスクが考えられる。

昔のAIは比較的単機能であり、

  • 入力が限定される
  • 出力が固定的である

という特徴があった。

しかし近年のAIは、

  • 自由な入力が可能
  • 出力内容も柔軟

という特徴を持つ場合もある。

その結果、悪意ある利用者がさまざまな入力を行い、AIから想定外の情報を引き出そうとする可能性もある。

実務上の重要な視点

AIサービスを公開した後に、学習データ由来の個人情報が漏えいした場合の影響は極めて大きい。

そのため、

  • AI学習が法的に可能か
  • データ利活用ができるか

だけでなく、

  • 個人情報漏えいリスクを抑制できるか
  • 技術的安全管理措置が十分か
  • サービス公開後も安全性を維持できるか

という視点も不可欠である。

実務上のポイント

  • AIサービス公開後の情報漏えいリスク評価を実施する
  • 学習データの管理体制を整備する
  • AI特有の攻撃手法に関する最新知見を継続的に収集する
  • 法務部門と技術部門が共同でリスク評価を行う
  • 学習時だけでなく運用時の安全管理措置を検討する

個人情報保護法の複雑さと実務上の課題

個人情報保護法は非常に専門性が高く、実務判断が難しい法律である。

一方で、その複雑さに比べると、十分に専門家へ相談せず事業を進めているケースも少なくない印象を受ける。

個人情報保護法は単純な法律ではない

実務上は、

  • 利用目的
  • 第三者提供
  • 共同利用
  • 仮名加工情報
  • 匿名加工情報
  • 公衆衛生例外
  • 学術研究例外
  • 次世代医療基盤法

など、多数の制度を横断的に理解する必要がある。

さらに、同じ事業目的であっても採用する法律構成によって必要な対応が大きく変わる。

例えば、

  • 本人同意構成を採用する場合
  • 共同利用構成を採用する場合
  • 匿名加工情報構成を採用する場合
  • 公衆衛生例外構成を採用する場合
  • 学術研究例外構成を採用する場合

では、求められる対応が全く異なる。

そのため、事業スキームの設計段階から法的検討を行う必要がある。

第三者監督と制度運用の問題

過去には、

  • 個人情報保護委員会が存在しなかった時代
  • 主務大臣による監督が中心であった時代

も存在した。

現在では個人情報保護委員会による監督や課徴金制度などが整備されているものの、制度全体としてみると、第三者による監督機能を前提として設計されている制度とは必ずしも言えない面がある。

二極化の問題

その結果、

  • コンプライアンスを重視する企業は慎重になる
  • リスクを軽視する企業は積極的に進める

という二極化が生じやすい。

この状況を改善するためには、

  • 制度の簡素化
  • 要件の明確化
  • 外部から見て適法性が分かる仕組み

が重要ではないか(現状、具体案はまだ思いついていないので、今後も検討していき、良い具体案が思いついたら適宜公表していきたい)。

AI学習を進める事業者が検討すべきこと

AI学習については、AI統計特例の有無だけを検討しても十分ではない。

まず、自社が実現しようとしている事業内容を整理した上で、利用可能な法律構成を比較検討する必要がある。

検討すべき事項

  • 利用データの内容
  • 利用目的
  • 学習対象データの取得元
  • 必要なデータ量
  • 同意取得の可否
  • 商用利用の予定
  • 安全管理措置
  • 利用者への説明方法
  • 法律構成
  • 超えるべきハードル、超えられそうか
  • リスク

法律構成ごとに検討すべき事項は異なる

同じAI開発であっても、

  • 本人同意構成
  • 学術研究構成
  • 共同利用構成
  • 公衆衛生例外構成
  • 匿名加工情報構成
  • 仮名加工情報構成
  • AI統計特例構成

では必要となる検討事項が異なる。

そのため、「どの法律構成を採用するのか」を先に整理することが重要である。

Q&A

Q1 AI統計特例がなければ個人情報を用いたAI学習はできなかったのか

できなかったわけではない。本人同意、学術研究例外、公衆衛生例外、共同利用、匿名加工情報、仮名加工情報など、複数の法律構成が従来から存在していた。

Q2 統計情報を利用する場合も個人情報保護法の適用を受けるのか

統計情報は個人情報とは別概念であり、個人情報保護法の適用対象外であると整理されている。

Q3 氏名を削除すれば個人情報ではなくなるのか

必ずしもそうではない。氏名削除だけでは個人情報該当性が失われない場合が多い。

Q4 重症化予防AIでは家計分析AIと異なる法律構成を利用できるのか

重症化予防AIでは、公衆衛生例外や次世代医療基盤法など、医療分野特有の制度を利用できる可能性がある。

Q5 AI統計特例の本当の論点は何か

AI学習を可能にすることそのものではなく、既存制度のハードルを解消できるのか、また個人へのリスクを適切に抑制できるのかという点である。

Q6 AIによる個人情報漏えいリスクは存在するのか

AIから個人情報を抽出したり暴露させたりする攻撃が存在するとのことであり、AI特有のリスク管理が重要である。

動画解説

本記事の動画↓

Part5↓

AI Part1↓AI統計特例の基本的な解説

AI Part2 AI開発が簡単になるわけではないかも?!要注意点↓

AI Part3↓ 氏名住所付き病歴が取得されるのか。ハッシュ等

AI Part4↓ 公開された要配慮個人情報の取得(スクレイピングやSNS分析等)

まとめ

AI統計特例によって初めて個人情報を利用したAI学習が可能になったわけではない。

従来から複数の法律構成が存在し、AI学習は一定の条件の下で実施可能であった。

したがって、実務担当者が検討すべきなのは「AI統計特例があるかないか」ではない。

むしろ、

  • どの法律構成を採用するのか
  • その法律構成のハードルは何か
  • AIによる個人情報リスクをどのように管理するのか
  • 既存制度の課題をAI統計特例が解消できるのか

を具体的に検討することである。

事業目的に応じて最適な法律構成を選択し、社会的信頼とコンプライアンスを確保しながらAI利活用を進めることが、今後ますます重要になると考えられる。

関連資料集

社内情報共有・紹介について

個人情報保護法、プライバシーガバナンスに関する理解の促進を目的として情報発信を行っています。
本記事および動画が参考になりましたら、同様の課題や関心を持つ方へご共有いただけますと幸いです。

YouTube動画、水町雅子ブログおよび水町雅子Webサイトは、著作権法の範囲内での、社内研修・勉強会・研究活動・社内情報共有(社内チャット・社内ポータル)・SNS等での紹介を歓迎しています(出典表示をお願いします)。なお、著作権を放棄するものでも、引用の範囲を超える利用を許諾するものでもありません。

執筆者プロフィール

弁護士 水町雅子(第二東京弁護士会、宮内・水町IT法律事務所所属)

現在、法人様向けのご相談のみお受けしております。
個人の方からのご相談には対応しておりませんので、ご了承ください。

SE(ITシステム開発)、コンサルティング等をシンクタンクにて行った後、弁護士登録。内閣官房・特定個人情報保護委員会にてマイナンバーの制度設計、ガイドライン作成、PIA制度化等を行う。
個人情報・ITに関して、首相官邸パーソナルデータに関する検討会参考人、内閣府「マイナンバーの利活用拡大のための検討タスクフォース」委員、こども家庭庁「こどもデータ連携の取組に関する検討会」委員、厚生労働省ITシステム等技術審査委員、東京都東京デジタルサービス会議構成員、東京都足立区情報公開・個人情報保護審議会委員、つくば市プライバシー影響評価制度検討懇話会委員、総務省・経産省・AMED実証事業等の支援等、実績豊富。
マイナンバー、個人情報、AI、医療情報、IT法務、企業法務、行政法務等に対応。書籍・論文執筆・講演のほか、日本経済新聞、朝日新聞、読売新聞、雑誌、TV等メディアコメント多数。

詳細な略歴はこちら。