「プロファイリング」って犯罪捜査のイメージがありますが、AIの世界ではどういう意味なんですか？
AIにおけるプロファイリングとは、個人のデータを収集・分析して、その人の行動・嗜好・能力などを予測・推定することだよ。たとえばネットの閲覧履歴や購買履歴から「この人は何に興味があるか」「信用できるか」を自動で判断するようなことだね。
個人のデータ（行動履歴・購買履歴・位置情報など）を自動的に分析し、その人の性格・嗜好・信用度・健康状態・将来の行動などを予測・推定すること。
便利そうに見えますが、何か問題があるんですか？
大きな問題がいくつかあるよ。本人が知らないうちに判断されること、差別につながる可能性があること、そしてプライバシーの侵害だね。たとえば、AIが「この人は病気になりやすい」と予測して、保険料を上げたり採用を断ったりすることが、本人の知らないところで起きてしまうかもしれない。
差別：偏ったデータで学習したAIが、特定の属性の人を不利に扱う
プライバシー侵害：本人が想定していない形で個人情報が利用される
不透明な判断：本人の知らないところで重要な判断が下される
自動化されたプロファイリング：人間の介在なくAIだけで判断が完結してしまう危険
GDPR（EU一般データ保護規則）では、プロファイリングに対する権利が明記されている。
第22条：個人は、プロファイリングを含む自動化された判断のみに基づく決定に服しない権利を持つ。
つまり、AIだけで人生に関わる重要な判断をしてはいけないということ。人間のチェックが必要なんだ。
「データ倫理」と「情報倫理」って似てるようで違うんですか？法律とはどう違うの？
いい質問だね。データ倫理はデータの収集・利用・共有における倫理的な考え方、情報倫理は情報技術全般の利用に伴う倫理的課題を扱うもの。そして法律との関係で重要なのは、法律は最低限のルールであり、倫理はそれを超えた「あるべき姿」ということだよ。
データの収集・利用・共有における倫理
例: データを集める際に同意を得るべきか、誰のデータを使ってよいか、どこまで共有してよいか
情報技術の利用全般に伴う倫理
例: プライバシー保護、著作権、情報セキュリティ、デジタルデバイド
法律：社会で守るべき最低限のルール。違反すると罰則がある。
倫理：法律を含みつつ、それを超えた「あるべき姿」「望ましい行動」を示すもの。
「法律 ⊂ 倫理」（法律は倫理の部分集合）の関係にあり、法律を守っていても倫理的に問題がある場合がある。
AIの分野では技術の進歩が速く法律が追いつかないことが多いため、倫理的な判断がより重要になる。
AIが使うデータを悪用する攻撃があるって聞いたのですが、どういうものですか？
代表的なのがデータ汚染（Data Poisoning）だよ。これは学習データに意図的に不正なデータを混入させて、モデルの判断を歪める攻撃のことなんだ。AIは学習データの品質に大きく依存しているから、ここを攻撃されると致命的なんだよ。
学習データに意図的に不正なデータを混入させ、モデルの判断を歪める攻撃。
手口：正しいラベルを間違ったラベルに書き換える、特定のパターンをデータに仕込む、などの方法で学習データを汚染する。
結果：モデルが誤った学習をしてしまい、特定の入力に対して攻撃者が望む出力を返すようになる。
データ汚染のほかにも、入力データの誤分類（悪意がなくても、うっかり間違ったラベルを付けてしまうこと）も問題になるよ。大量のデータにラベルを付ける作業（アノテーション）で誤りが混じると、それだけで学習結果がおかしくなってしまうんだ。
学習データではなく、入力データを使ってAIを騙す攻撃もあるんですか？
あるよ。それが敵対的攻撃（Adversarial Attack）だ。人間にはわからないほどの微小なノイズを入力に加えることで、AIの判断を誤らせるんだ。使われる入力データを敵対的サンプル（Adversarial Examples）と呼ぶよ。
人間にはわからない微小なノイズを加えて、AIの判断を誤らせるように作られた入力データ。
元の画像と見た目はほぼ同じなのに、AIは全く別のものと認識してしまう。データ汚染（学習データの攻撃）とは違い、推論時の入力を攻撃する点が特徴。
攻撃対象: 学習データ
タイミング: 学習時
手口: 学習データに不正データを混入
影響: モデル自体が歪む
攻撃対象: 入力データ
タイミング: 推論時
手口: 入力に微小なノイズを加える
影響: 特定の入力で誤判断
敵対的攻撃は自動運転の分野で特に危険。たとえば、一時停止の標識に微細なステッカーを貼るだけでAIが「速度制限」と誤認識してしまう可能性がある。これは人命に関わる深刻な安全上のリスクとなる。
Deepfakeという言葉をニュースで聞きますが、どういうものですか？
Deepfakeは、敵対的生成ネットワーク（GAN）などの深層学習技術を使って生成された偽の画像・動画・音声のことだよ。本物と見分けがつかないほどリアルなフェイクコンテンツを作ることができるんだ。
Deep Learning（深層学習）+ Fake（偽物）の造語。
主にGAN（敵対的生成ネットワーク）などの技術を使い、本物と見分けがつかない偽の画像・動画・音声を生成する技術、またはその生成物のこと。
Deepfakeは悪いことにしか使われないんですか？
いい質問だね。Deepfake技術には有益な使い方もたくさんあるよ。ただし悪用のリスクも大きいから、両面を知っておくことが大切だ。
映画制作：特殊効果、若返り表現
バーチャルアバター：テレワークでの活用
故人の再現：映像メッセージの作成
教育コンテンツ：歴史上の人物の再現
医療：トレーニング用データの生成
フェイクニュース：偽の演説動画の拡散
なりすまし：他人になりすました詐欺
詐欺：音声を偽造した振り込め詐欺
名誉毀損：偽のポルノ動画の作成
社会不安：民主主義への脅威
Deepfakeの悪用を防ぐ方法はあるんですか？
完全に防ぐのは難しいけれど、いくつかの対策が進んでいるよ。
1. 検出技術：AIを使ってDeepfakeを検出するツールの開発（不自然な瞬きや表情のゆらぎを検知）
2. 電子透かし（Digital Watermark）：本物のコンテンツに電子透かしを埋め込み、改ざんを検知
3. 法規制：Deepfakeの悪用を禁止する法律の整備
4. リテラシー教育：情報を鵜呑みにしない、真偽を確認する習慣の育成
AIの倫理について、世界的にどんなガイドラインが作られているんですか？
国際機関や企業連合がさまざまなガイドラインを策定しているよ。代表的なものを見ていこう。
策定者：IEEE（Institute of Electrical and Electronics Engineers）— 電気電子技術者の国際学会
特徴：人間の幸福（Well-being）を最も重視し、技術の設計段階から倫理を組み込むことを提唱。
ポイント：AIシステムは人間の権利を尊重し、透明性を確保し、説明責任を果たすべきとしている。
策定者：EU（欧州委員会）のAI高度専門家グループ（AI HLEG）
目的：信頼できるAI（Trustworthy AI）を実現するための要件を定義
信頼できるAIの7要件：
1. 人間の主体性と監視
2. 技術的な堅牢性と安全性
3. プライバシーとデータガバナンス
4. 透明性
5. 多様性・非差別・公平性
6. 社会と環境の幸福
7. アカウンタビリティ（説明責任）
設立：2016年
創設メンバー：Google、Facebook（Meta）、Amazon、IBM、Microsoftの5社が共同設立
目的：AIのベストプラクティスの策定、社会へのAIの影響を研究し、AIが社会にとって有益であるための取り組みを推進。
特徴：企業だけでなく学術機関やNPOも参加する幅広い連合組織。
AI倫理委員会の設置：社内にAI倫理を検討する委員会を設け、製品やサービスが倫理基準を満たしているかチェック。
AI原則の策定：各社がAI利用に関する原則（例：Google AI Principles）を公表。
Google AI Principlesの例：社会に有益であること、不公平なバイアスを回避すること、安全性を考慮すること、人々に対して説明責任を果たすこと、など。
| ガイドライン | 策定者 | キーワード | 特徴 |
|---|---|---|---|
| EAD | IEEE（電気電子技術者協会） | Well-being（幸福） | 人間の幸福を重視。設計段階から倫理を組み込む |
| 信頼できるAIの倫理ガイドライン | EU（AI HLEG） | 信頼できるAI 7要件 | 透明性・公平性・説明責任など7つの要件を定義 |
| Partnership on AI | Google, Meta, Amazon, IBM, Microsoft他 | ベストプラクティス | 大手テック企業連合。研究・推進組織 |
| Google AI Principles | 有益・公平・安全 | 民間企業の自主的なAI原則の代表例 |