ディープラーニングは高精度だと聞きましたが、「ブラックボックス」って何が問題なんですか？
ディープラーニングは何百万ものパラメータで計算するから、なぜその結果を出したのかを人間が理解できないんだ。これがブラックボックス問題だよ。
たとえば医療診断AIが「この患者はがんの可能性が高い」と判定しても、どの情報をもとにそう判断したのか説明できない。医師も患者も納得できないし、万が一間違っていたとき原因を追究できないのが大きな問題なんだ。
医療診断 — 誤診の理由がわからないと治療方針を決められない
融資審査 — 「なぜ審査に落ちたか」を説明する義務がある
自動運転 — 事故時に「なぜブレーキをかけなかったか」を検証できない
採用選考 — 不採用理由が差別に基づいていないか確認できない
ブラックボックスを解決する方法はあるんですか？
それがXAI（Explainable AI / 説明可能なAI）だよ。AIの判断根拠を人間が理解できる形で提示する技術の総称なんだ。完全にブラックボックスを「ホワイトボックス」にするのは難しいけれど、「なぜそう判断したか」をある程度説明できるようにするのが目標だよ。
XAIの具体的な手法にはどんなものがありますか？
G検定で押さえておくべき代表的な手法は以下の4つだよ。
| 手法名 | 正式名称 | 概要 | 対象 |
|---|---|---|---|
| LIME | Local Interpretable Model-agnostic Explanations | 個々の予測に対して、入力の一部を変えてモデルの反応を観察し、局所的に解釈可能なモデルで近似する | あらゆるモデル |
| SHAP | SHapley Additive exPlanations | ゲーム理論のシャープレイ値を使い、各特徴量が予測にどれだけ貢献したかを定量化する | あらゆるモデル |
| Grad-CAM | Gradient-weighted Class Activation Mapping | CNNの勾配情報を使い、判断に重要な画像領域をヒートマップで可視化する | CNN（画像系） |
| Attention可視化 | Attention Weight Visualization | Transformerなどの注意機構の重みを可視化して、入力のどこに注目しているかを示す | Transformer系 |
LIME と SHAP はどんなAIモデルにも適用できる（Model-agnostic）のが特徴。一方、Grad-CAMはCNN向け、Attention可視化はTransformer向けと、特定のモデル構造に依存する手法だよ。
AIの「公平性」って、具体的にどういうことですか？
AIが特定の属性（性別、人種、年齢など）に基づいて不公平な判断をしないことを公平性というよ。たとえば採用AIが「女性だから」という理由で低い評価をつけるのは不公平だよね。
問題は、AIは自分で差別しようとしているわけではなく、学習データに含まれるバイアス（偏り）をそのまま学んでしまうことなんだ。これをアルゴリズムバイアスと呼ぶよ。
Amazonの採用AI（2018年報道） — 過去10年の採用データ（男性が多い）で学習した結果、女性の応募者を低く評価するバイアスが発生
顔認識AI — 学習データに白人の顔が多いと、有色人種の認識精度が低下する
融資審査AI — 過去のローン審査データの偏りにより、特定の人種・地域に不利な判定
学習データに偏りがある
特定の性別・人種に不利な判定
バイアスに気づけない
不公平が再生産・強化される
学習データのバイアスをチェック
複数の公平性指標で評価
定期的な監査・モニタリング
多様なチームによる開発
「公平」をどう定義するかは実は非常に難しい問題。グループ間で同じ合格率にするのが公平なのか、同じ実力なら同じ結果にするのが公平なのか — 複数の定義が存在し、すべてを同時に満たすことは数学的に不可能な場合もある（公平性のトレードオフ）。
AIが間違った判断をしたとき、誰が責任をとるんですか？
それが説明責任（Accountability）の問題だよ。AIの判断結果について、なぜそうなったかを説明でき、責任を負える状態にしておくことが求められるんだ。
AIそのものは法的な責任を負えないから、開発者・提供者・利用者の間で責任の所在を明確にしておく必要がある。
開発者 — AIモデルの設計・学習データの選定に関する責任
提供者（企業） — AIサービスとして提供する際のリスク管理責任
利用者 — AIの判断をどのように活用したかに関する責任
AI自体 — 現時点では法的主体として認められていないため、責任は負えない
1. 判断過程の記録（ログ）を残す — いつ、どのデータで、どう判断したかをトレースできるようにする
2. AIアセスメントの実施 — AIシステムのリスクを事前に評価する
3. 人間の介在（Human-in-the-Loop） — 重要な判断には人間が最終確認を行う仕組みを入れる
透明性と説明責任って似ている気がしますが、何が違うんですか？
透明性は「AIシステムの動作やデータの使われ方がオープンで明らかであること」を意味するよ。説明責任が「結果に対して責任を負えること」なのに対して、透明性は「プロセス全体が見える状態にすること」に焦点があるんだ。
AIモデルの仕組みや判断ロジックが理解できること
例：決定木はモデル自体が解釈しやすい（ホワイトボックス）。DNNは複雑でブラックボックス。
どんなデータで学習したか、どんな目的で使われるかが公開されていること
例：プライバシーポリシー、データの出所の開示、AIであることの明示。
まとめると、公平性（Fairness）、説明責任（Accountability）、透明性（Transparency）の頭文字をとってFATと呼ばれるよ。これらは信頼できるAIを実現するための3本柱なんだ。
日本でもAIに関するルールが定められているんですか？
2019年に統合イノベーション戦略推進会議が策定した「人間中心のAI社会原則」があるよ。これは日本がAI社会を構築する上での基本的な考え方を示したもので、3つの基本理念と7つの原則から成り立っているんだ。
1. 人間の尊厳が尊重される社会（Dignity）
AIを利用する際も人間の尊厳が損なわれてはならない
2. 多様性・包摂性のある社会（Diversity & Inclusion）
多様な背景を持つ人々が、多様な幸せを追求できる社会
3. 持続可能な社会（Sustainability）
AIの恩恵を受けつつ、環境・社会の持続可能性を保つ
| 番号 | 原則名 | 内容 |
|---|---|---|
| (1) | 人間中心の原則 | AIの利用は人間の基本的人権を侵さず、人間がAIを道具として使うという関係を維持する |
| (2) | 教育・リテラシーの原則 | AIを正しく理解・活用するための教育・リテラシーを全国民が身につけられるようにする |
| (3) | プライバシー確保の原則 | AIの利用において個人のプライバシーが侵害されないよう、個人データを適切に保護する |
| (4) | セキュリティ確保の原則 | AIシステムのセキュリティを確保し、悪用・誤用を防止する |
| (5) | 公正競争確保の原則 | 特定の企業にデータやAI技術が過度に集中することなく、公正な競争環境を維持する |
| (6) | 公平性、説明責任及び透明性（FAT）の原則 | AIの判断にバイアスが含まれないよう公平性を確保し、説明責任と透明性を果たす |
| (7) | イノベーションの原則 | 国際的な議論に貢献しつつ、AI技術のイノベーションを促進し社会実装を進める |
7つのうち第6原則に「FAT」が含まれているんですね。このページで学んだ内容がそのまま原則になっているんだ。
そのとおり。公平性・説明責任・透明性は個別のテーマであると同時に、日本の国家レベルのAI原則にも組み込まれた重要な概念なんだ。G検定では7つの原則名と3つの基本理念をセットで覚えておこう。