AI倫理とは?
人工知能(AI)は、データからパターンを学び、予測や判断に使うソフトウェアです。倫理とは、何が正しくて何がまちがいかを考える学問です。つまりAI倫理とは、「このAIは公平か?安全か?人を大切にしているか?」と問うことです。
AIには自分の価値観がありません。データの中のパターンをまねし、作った人が決めた目標に従うだけです。だから、AIを設計し、訓練し、使う人が、AIのすることに責任をもちます。
5つの大切な原則
- 公平性:どのグループの人も同じように扱う。
- 責任:害が出たとき、名前のはっきりした人や組織が答える。
- 透明性:AIが使われていることと、判断の理由を知ることができる。
- プライバシー:個人データを守る。
- 安全:AIが安定して動き、かんたんには悪用されない。
データとアルゴリズムのバイアス
バイアスとは、システムが特定のグループに対して不公平に有利、または不利になってしまうことです。入り込む道は3つあります。
- データのバイアス:学習データに、あるグループの例が少なすぎる、または過去の不公平な判断をそのまま写している。
- 設計のバイアス:作る人が選んだ目標や特徴が、あるグループを傷つける(たとえば、住んでいる地域の郵便番号を能力の代わりに使う)。
- 使い方のバイアス:ある場所のために作ったツールを、まったくちがう場所で使う。
例:過去10年の採用データ(ほとんどが男性)で学習した採用AIは、女性の順位を低くつけることを学んでしまうかもしれません。対策は、バランスのよいデータを集める、グループごとに結果を検査する、不公平な特徴を取り除く、公開後も見張り続ける、です。
プライバシーとAIデータの倫理
AIには大量のデータが必要で、その多くは人についての情報です。写真、声、位置情報、健康の記録、買い物の履歴などです。よい進め方は次のとおりです。
- 同意:集める前にはっきり聞く。
- データの最小化:必要なものだけを集める。
- 目的の限定:約束した目的にだけ使う。
- 安全管理:安全に保管し、いらなくなったら消す。
今では多くの国にデータ保護の法律があります。たとえばEUのGDPRや、日本の個人情報保護法です。著作権も問題になります。絵や文章を作った人の許可なしにAIを学習させると、公平さと所有権の疑問が生まれます。
透明性・責任・安全
AIモデルの中にはブラックボックスになっているものがあります。作った人でさえ、なぜその答えが出たのかをかんたんには説明できません。説明できるAIは、判断の主な理由を見せるので、人が確かめたり、異議を申し立てたりできます。
責任とは、人が責任をもつということです。医療、法律、ローン、試験のように重大な判断では、人がAIの提案を確認するべきです。これをヒューマン・イン・ザ・ループ(人が判断の輪の中にいること)といいます。
安全と悪用:AIは自信たっぷりにまちがえることがあります(「ハルシネーション」)。またディープフェイクやにせニュースをつくるために使われたり、だまされたりもします。安全なAIは、きちんとテストされ、公開後も見守られ、有害な使い方には制限があります。
AIと社会の変化
AIは、医療(画像を読む)、農業(作物の病気の警報)、翻訳、アクセシビリティ(目が見えない人のための音声)などで役に立ちます。一方で、次のような問題も生みます。
- 仕事:決まりきった作業の一部が自動化され、新しい仕事が生まれる。人は学び直しが必要になる。
- デジタル格差:機器、インターネット、技能がない人がますます取り残される。
- 環境:大きなモデルの学習には、たくさんの電気と水を使う。
- 信じすぎ:人が自分で考えるのをやめてしまうかもしれない。
AIプロジェクトの社会的な影響を評価するには、誰に影響が出るかを書き出し、グループごとに何がうまくいかなくなりうるかを考え、公平さをどう測るかを決め、人がどう苦情を伝えられるかを用意します。人とAIはいっしょに働くと最もうまくいきます。AIは速さと規模が得意で、人は判断力、思いやり、価値観をもたらします。
やってみよう:公平性テスターになろう
3Dの最後のステップで、オレンジの例の数を2、5、8にしてみましょう。それぞれのグループの「はい」の割合を書きとめます。どの組み合わせだと差がいちばん小さくなりますか?家では、スマホのアプリを1つ開いて、プライバシー設定を探してみましょう。どんなデータを集めていますか?それをすべて許可してもいいと思いますか?
重要な公式と用語
- バイアス:偏ったデータや設計は、不公平な結果を生む
- 公平性の差 = グループAの「はい」の割合 − グループBの「はい」の割合
- 同意:データを集める前に、はっきりと出される許可
- 説明できるAI:判断の理由を見せてくれるAI
- ヒューマン・イン・ザ・ループ:人がAIの判断を確認すること
- ディープフェイク:AIがつくった、にせの動画・画像・声
例題
1. 顔認証AIが、明るい肌のユーザー100人中99人には使えるのに、濃い肌のユーザー100人中90人にしか使えません。問題は何ですか。対策を1つ答えなさい。
ステップ1:エラー率は1%と10%で、片方のグループでは精度が低いことがわかります。ステップ2:これはバイアスで、学習データに濃い肌の顔が少なかったことが原因と考えられます。ステップ3:対策は、いろいろな顔のデータをもっと増やし、公開前にグループごとに精度をテストすることです。
2. 採用AIが、成績が同じくらいの男性100人中60人、女性100人中30人に「はい」と答えました。公平性の差を求めなさい。
男性の「はい」の割合 = 60%。女性の「はい」の割合 = 30%。差 = 60 − 30 = 30パーセントポイント。成績が同じくらいなのにこれほど差があるのは、AIが不公平だという印で、使う前に直さなければなりません。
3. 学校が、AIカメラの顔認証で出席をとろうとしています。確かめるべき倫理上の点を2つ挙げなさい。
1. プライバシーと同意:生徒と保護者に知らせて許可をもらい、顔データは安全に保管して、あとで消す。2. 公平性と責任:すべての生徒で正しく動くかをテストし、AIを全面的に信じず、先生がまちがいを直せるようにする。
よくある間違い
- 機械だからAIは中立だと考えること。AIはデータの中のパターンを、不公平なものも含めてまねします。
- データを増やせばバイアスは必ず消えると信じること。偏ったデータを同じように増やしても、バイアスは残ります。
- AIそのものを責めること。責任があるのは、AIを作り、使う人や会社です。
- AIが自信たっぷりに答えれば正しいと思うこと。AIは自信をもってまちがえることがあるので、大事な事実は確かめましょう。