このページで学ぶこと
AI開発で守るべき法律・倫理の原則（Privacy by Design等）と、個人情報保護法の体系（個人情報の定義・匿名加工情報・仮名加工情報・GDPR等）をまとめています。
AI開発における設計思想
AIを作るとき、法律や倫理ってどう考えればいいの？
AIは開発の「後から」法律や倫理を考えるのでは遅いです。設計段階からプライバシー・セキュリティ・人間の価値観を組み込む考え方が重要です。代表的な3つの設計思想を紹介します。
| 設計思想 | 意味 | 核心 |
|---|
| Privacy by Design |
システムの設計段階からプライバシー保護を組み込む考え方 |
「後付け」ではなく「最初から」プライバシーを設計に反映 |
| セキュリティ・バイ・デザイン |
システムの設計段階からセキュリティ対策を組み込む考え方 |
脆弱性を「後から塞ぐ」のではなく「最初から作らない」 |
| バリューセンシティブデザイン |
人間の価値観（公平性・自律性・信頼等）を設計段階から反映する考え方 |
技術だけでなく人間の多様な価値観を設計に組み込む |
3つの「バイデザイン」の共通点
すべて「設計段階から○○を組み込む」という点が共通しています。後付けではなく、最初から考慮することで、問題発生を未然に防ぐというアプローチです。
ELSI（倫理的・法的・社会的課題）
ELSIって何？
Ethical, Legal and Social Issuesの略で、新しい科学技術（AI・ゲノム・ロボット等）がもたらす倫理的・法的・社会的な課題のことです。技術開発と同時にこれらの課題を考え、社会に受け入れられる形で技術を実装することが求められます。
個人情報保護法
個人情報保護法って何を定めている法律なの？
個人情報の適切な取り扱いルールを定めた法律です。AIは大量のデータを扱うため、個人情報保護法の理解は必須です。まず「個人情報」の定義を正確に押さえましょう。G検定では用語の階層関係がよく問われます。
個人情報の定義と階層
| 用語 | 定義 | 具体例 |
|---|
| 個人情報 |
生存する個人に関する情報で、特定の個人を識別できるもの |
氏名、生年月日、顔写真、メールアドレス（氏名含む） |
| 個人識別符号 |
それ単体で特定の個人を識別できる符号 |
DNA、顔認証データ、指紋、マイナンバー、パスポート番号 |
| 個人データ |
個人情報データベース等を構成する個人情報 |
顧客リスト内の個人情報、会員DBの情報 |
| 保有個人データ |
事業者が開示・訂正・削除等の権限を持つ個人データ |
本人から開示・削除の請求を受けうるデータ |
| 要配慮個人情報 |
不当な差別・偏見が生じないよう特に配慮が必要な個人情報 |
人種、信条、病歴、犯罪歴、障害、健康診断結果 |
要配慮個人情報の重要ルール
取得には原則として本人の同意が必要です。通常の個人情報と違い、オプトアウトによる第三者提供もできません。AI開発でセンシティブ属性を扱う場合は特に注意が必要です。
個人情報保護委員会
個人情報保護法を守らせるのは誰？
個人情報保護委員会です。内閣府の外局として設置された独立した行政機関で、個人情報保護法の運用・監視を担当しています。事業者への指導・勧告・命令や、法律の解釈に関するガイドラインの策定を行います。
匿名加工情報と仮名加工情報
個人情報をAIで使いたいけど、プライバシーが心配…。何か方法はないの？
個人情報をそのままでは使えない場合でも、加工して個人を特定できなくすれば活用できる制度があります。匿名加工情報と仮名加工情報の2つが用意されています。
匿名加工情報
- 特定の個人を復元できないように加工
- 本人の同意なしで第三者提供が可能
- 加工基準を遵守＋公表が必要
- ビッグデータ活用を促進する制度
仮名加工情報（2022年施行）
- 他の情報と照合しない限り個人を特定できないように加工
- 原則として第三者提供は不可
- 自社内での分析・研究目的に活用
- 匿名加工情報より加工が簡易→使いやすい
匿名加工情報 vs 仮名加工情報の違い
| 比較項目 | 匿名加工情報 | 仮名加工情報 |
|---|
| 個人の復元 | 復元できない（不可逆） | 照合すれば可能（可逆的） |
| 第三者提供 | 可能（公表が必要） | 原則不可 |
| 利用目的の変更 | 可能 | 可能 |
| 加工のレベル | 高い（復元不能まで加工） | 低い（氏名等の削除程度） |
| 主な用途 | 外部へのデータ提供 | 自社内の分析・研究 |
オプトアウト制度
オプトアウトって何？
本人が「やめて」と言えば個人データの第三者提供を停止する仕組みです。本人から事前に同意を得るのがオプトイン、本人が拒否しなければ提供できるのがオプトアウトです。ただし、要配慮個人情報はオプトアウトでは提供できません。
オプトイン
- 事前に本人の同意を得てから提供
- より厳格なプライバシー保護
- GDPRはオプトイン原則
オプトアウト
- 本人が拒否しなければ提供可能
- 個人情報保護委員会への届出が必要
- 要配慮個人情報は対象外
改正個人情報保護法のポイント
個人情報保護法は改正されたの？
はい。個人情報保護法は3年ごとに見直しが行われています。特に2022年施行の改正（令和2年改正法）が重要です。AI・ビッグデータ時代に対応した大きな変更がありました。
2022年施行 改正個人情報保護法の主な変更点
- 仮名加工情報の新設：自社内の分析・研究に使いやすい新カテゴリ
- 個人の権利の拡充：利用停止・消去の請求権を拡大
- 利用目的の変更条件の緩和：変更前と「関連性を有すると合理的に認められる範囲」に拡大
- 漏えい等の報告義務化：個人情報保護委員会への報告と本人への通知が義務化
- ペナルティの強化：法人への罰金が最大1億円に引き上げ
- 外国事業者への適用：日本の個人情報を扱う外国事業者にも適用
利用目的の変更条件の緩和とは
改正前は「変更前の利用目的と相当の関連性を有する範囲」でしか目的変更ができませんでしたが、改正後は「関連性を有すると合理的に認められる範囲」に緩和されました。これにより、AI開発などでデータの利活用がしやすくなりました。ただし、まったく無関係な目的への変更は認められません。
カメラ画像と個人情報
監視カメラの映像って個人情報になるの？
はい。カメラ画像に写った人物が特定できる場合は個人情報に該当します。顔画像から生成した顔認証データは個人識別符号にもなります。そのため、店舗や公共空間でのカメラ利用にはルールが必要です。
カメラ画像利活用ガイドブック Ver.3.0
- 策定：経済産業省・総務省（IoT推進コンソーシアム）
- 目的：カメラ画像をビジネスで利活用する際のルールを整理
- 主なポイント：
- カメラの設置場所・目的の通知・公表（店舗入口への掲示等）
- 取得したデータの利用目的の限定と適正管理
- 顔認証データの生成・照合には特に厳格な管理が必要
- 利用者が容易に理解できる方法での情報提供
GDPR（EU一般データ保護規則）
GDPRって日本の法律じゃないけど、知っておく必要があるの？
はい。GDPRはEU域内の個人データを扱うなら、EU域外の企業にも適用されるため、グローバルにAIサービスを展開する場合は必須の知識です。世界で最も厳格な個人データ保護法と言われています。
GDPR（General Data Protection Regulation）の概要
- 施行：2018年5月（EU）
- 適用範囲：EU域内の個人データを扱う全ての組織（EU外の企業も含む）
- 同意の原則：個人データの処理にはオプトイン（明示的な同意）が必要
- 制裁金：最大で全世界年間売上の4%または2,000万ユーロのいずれか高い方
| GDPRの主な権利 | 内容 |
|---|
| アクセス権 | 自分の個人データがどう処理されているか知る権利 |
| 訂正権 | 不正確な個人データの訂正を求める権利 |
| 消去権（忘れられる権利） | 個人データの削除を求める権利 |
| データポータビリティ権 | 自分のデータを機械判読可能な形式で受け取り、別のサービスに移行する権利 |
| 異議申立権 | 自動化された意思決定（プロファイリング含む）に異議を唱える権利 |
データポータビリティ権とは
自分の個人データを構造化され、一般的に利用され、機械判読可能な形式で受け取り、他の事業者に移行できる権利です。例えば、SNSのデータを別のサービスに引っ越しできるということです。GDPRの特徴的な権利で、日本の個人情報保護法にはまだ明確な規定がない点がG検定で問われます。
日本の個人情報保護法 vs GDPR
| 比較項目 | 日本（個人情報保護法） | EU（GDPR） |
|---|
| 同意の方式 | オプトアウトも一部可 | オプトイン原則（明示的同意） |
| 域外適用 | 2022年改正で外国事業者にも適用 | EU域内の個人データを扱う全組織 |
| データポータビリティ権 | 明確な規定なし | 明文で規定 |
| 忘れられる権利 | 利用停止・消去の請求権 | 消去権として明文化 |
| 制裁金 | 最大1億円（法人） | 最大 全世界年間売上の4% |
| 監督機関 | 個人情報保護委員会 | 各国のデータ保護機関（DPA） |
生成AIと個人情報保護
ChatGPTみたいな生成AIと個人情報保護ってどう関係するの？
生成AIは大量のデータ（Webテキスト等）から学習しているため、その中に個人情報が含まれている可能性があります。また、出力結果に個人情報が含まれる場合もあります。個人情報保護委員会は生成AIに関する注意喚起を行っています。
生成AIにおける個人情報保護の論点
- 学習データ：Webから収集した学習データに個人情報が含まれる可能性
- 出力の問題：生成AIが個人情報や虚偽の個人情報を出力するリスク
- プロンプト入力：ユーザーが個人情報を含むプロンプトを入力→AI事業者に個人データが提供される可能性
- 要配慮個人情報：AIの出力から要配慮個人情報が推測・生成される懸念
- 利用目的の通知：生成AIサービスで個人情報を取得する場合も利用目的の通知・公表が必要
G検定キーポイントまとめ
- Privacy by Design＝設計段階からプライバシー保護を組み込む。セキュリティ・バイ・デザイン＝設計段階からセキュリティを組み込む
- バリューセンシティブデザイン＝人間の価値観（公平性等）を設計に反映する考え方
- ELSI＝倫理的（E）・法的（L）・社会的（S）課題。新技術の社会実装に必須の視点
- 個人情報の階層：個人情報 ⊃ 個人データ ⊃ 保有個人データ
- 個人識別符号：DNA、顔認証データ、指紋、マイナンバー等。それ単体で個人を特定できる
- 要配慮個人情報：人種・病歴等。取得には本人同意が必要。オプトアウトでの第三者提供不可
- 個人情報保護委員会：個人情報保護法の運用・監視を担う独立行政機関
- 匿名加工情報は復元不能に加工→第三者提供可。仮名加工情報は照合すれば復元可→自社内利用のみ
- オプトアウト＝拒否しなければ提供可。オプトイン＝事前同意が必要。GDPRはオプトイン原則
- 2022年改正：仮名加工情報の新設、利用目的の変更条件の緩和、漏えい報告義務化、罰金最大1億円
- カメラ画像利活用ガイドブック：カメラ設置の通知・公表、顔認証データの厳格管理
- GDPRはEU域外の企業にも適用される世界最厳格の個人データ保護法。制裁金は売上の最大4%
- データポータビリティ権は自分のデータを機械判読可能な形式で移行する権利。GDPRで明文化
- 生成AIは学習データ・出力・プロンプト入力すべてで個人情報保護の論点がある