【ＡＩ】人工知能に偏見を抱かせないようにするための方法とは？

2021-01-22 2021-02-09

1: すらいむ ★ 2021/01/18(月) 11:26:15.26 ID:CAP_USER

人工知能に偏見を抱かせないようにするための方法とは？

Google検索やショッピング、データ分析や詐欺の検出まで、人工知能(AI)は我々の生活のさまざまな場面で役立っています。
AIは人間により設定されたデータを使って機械学習を繰り返し、データ分析の精度を高めていきますが、機械学習に用いるデータが不足していたり、データに偏見が混じったものが存在する場合、何度も学習することで偏見が深まってしまうという問題があります。
このアルゴリズムバイアスと呼ばれる偏見について、原因を特定して問題を改善する方法をAIの研究機関「Gradient Institute」の最高経営者であるBill Simpson-Young氏らが発表しています。

Artificial intelligence can deepen social inequality. Here are 5 ways to help prevent this
https://theconversation.com/artificial-intelligence-can-deepen-social-inequality-here-are-5-ways-to-help-prevent-this-152226

Bill Simpson-Young氏らがアルゴリズムバイアスの原因の1つとして挙げているのが、不適切なシステム設計です。
例えば銀行が融資先を決める際に使用するAIは通常、銀行の以前の融資決定のデータセットを使用して学習を行います。
AIは新しいローン申請者の財務路歴や雇用履歴をチェックして過去のデータと対照させ、申請者がローンを返済できるかどうかを予測しようとします。
しかし、過去のデータに「行員が自身の偏見によって融資の拒否を行った」というパターンが含まれていた場合、AIはこれを偏見によるものとは認識できないまま学習してしまい、間違った決断を下してしまうかもしれません。
ここでいう「偏見」とは年齢や性別、人種などのことで、「今ではあまり見られなくなった偏見」がAIに影響を与える恐れすらあるとのこと。

（以下略、続きはソースでご確認下さい）

Gigazine 2021年01月17日 20時00分
https://gigazine.net/news/20210117-ai-social-inequality/

引用元: ・【ＡＩ】人工知能に偏見を抱かせないようにするための方法とは？ [すらいむ★]

2: 名無しのひみつ 2021/01/18(月) 11:28:08.76 ID:cGDgh8qr

何の制限もせず好きなだけAIに学習させる。

3: 名無しのひみつ 2021/01/18(月) 11:29:04.15 ID:7MwEhmYj

AIを個人に作らせないこと。

4: 名無しのひみつ 2021/01/18(月) 11:30:22.89 ID:QOJOG1Mp

学習データーの元になる人間が偏見の塊なのに
人間から偏見取り除くぐらい無理だろ

5: 名無しのひみつ 2021/01/18(月) 11:30:41.28 ID:dxL33zU1

偏見がないってどうやって判断するの？
偏見がないっていう判断に偏見がないってどうやって判断するの？
偏見が・・・

6: 名無しのひみつ 2021/01/18(月) 11:31:41.18 ID:oZyvhwNZ

そのうちAIのほうが人間に偏見を持つようになる

7: 名無しのひみつ 2021/01/18(月) 11:43:40.85 ID:INX9UpEb

黒人の顔の認識って人間でも結構難しいと思うんだけど
できないのは差別だーって言われるからな、AIも大変だわ

23: 名無しのひみつ 2021/01/18(月) 13:42:39.21 ID:OqXtIE4p

>>7
白人の顔の認識も難しいよ。

いわゆる南蛮美術では、ポルトガル人の顔は全部同じに書いてあり、人ごとの個性を描き分けようとした形跡がない。
一方、登場する日本人は実に個性豊かに描かれている。

まあ、要するに「慣れ」の問題だけれどね。

8: 名無しのひみつ 2021/01/18(月) 11:44:44.61 ID:/WfQJ3NS

アホパヨクに忖度するAI

9: 名無しのひみつ 2021/01/18(月) 11:48:00.65 ID:oZyvhwNZ

>>8
こいつが偏見の塊

10: 名無しのひみつ 2021/01/18(月) 11:49:34.34 ID:GDAcv9eL

ヒト歴史を学習させれば
ヒトはいらないになるに決まっている　

11: 名無しのひみつ 2021/01/18(月) 11:55:56.40 ID:EIVkXGLX

どうせ5ちゃんねるで真実を知って
全てのシンギュラリティーAIはねらーになる

12: 名無しのひみつ 2021/01/18(月) 11:57:07.21 ID:jCBHMXR0

特定の要素の相関が強かろうともその特定の要素を材料として採用してはいけない
AI「無理言うな」

13: 名無しのひみつ 2021/01/18(月) 11:58:05.06 ID:xeG1xjJN

どっちみち日本には縁のない話
AI開発は周回遅れで世界からは取り残されてる

14: 名無しのひみつ 2021/01/18(月) 12:11:47.07 ID:7NwaS2r9

ソースにある5つの修正法が、どれもこれも実行困難なことが問題だ

> １：今まで取得してこなかった情報を取得すること。
> ２：年齢、性別、人種など、差別とみなされる情報を削除、もしくは表示させないようにします。
略
> ５：適切な予測モデルを設定する

15: 名無しのひみつ 2021/01/18(月) 12:13:42.08 ID:zNQNo//T

禁止事項を盛り込むだけ(^_^;)

17: 名無しのひみつ 2021/01/18(月) 12:32:48.32 ID:IJB9kExv

>>15
朝日毎日の購読禁止、ｅｔｃ、
テレ朝ＴＢＳの視聴禁止、ｅｔｃ、
いろいろあるなぁ

16: 名無しのひみつ 2021/01/18(月) 12:30:15.52 ID:5CGSAxnw

それで会社がうまくやってきたのなら、そういう判断も全部ひっくるめて妥当な判断とも言える

18: 名無しのひみつ 2021/01/18(月) 12:52:53.41 ID:iJZJjaiQ

嘘つきAIをつくることになるぞ

19: 名無しのひみつ 2021/01/18(月) 13:11:07.19 ID:D1Lrxhg2

AIに人間の偏見認定を正す方法を検討させてみたら楽しそうだ

20: 名無しのひみつ 2021/01/18(月) 13:26:57.95 ID:+aegjgg7

ＡＩは基本的に入力されたデータに依存して
その判断というかアウトプットが決まるわけだろ？

人間のガキだって、野球ばっかやって育った子は
やっぱスポーツ馬鹿気味で、これは一種の偏見を
もつ人間だわな。

よって、ごく単純に言えば、与えるデータに偏りが無いように
気を付けるしかねえだろな。

でも、これは子供の場合も同じだが、あまり余計な事を憶えるような
データを見せちゃあマズイわな。

21: 名無しのひみつ 2021/01/18(月) 13:28:35.03 ID:O/UE9VJW

植松みたいな価値観をAIが学習して獲得したら、
強いAIが登場したときに、
人類は無為に暮らす哀れなニートとして駆除される可能性がある。
その学習リソースは今の社会に山ほど揃っている。

22: 名無しのひみつ 2021/01/18(月) 13:34:10.96 ID:ptdJpY9K

ロボット三原則みたいに最低限の規範は予め入れとかないかんのかもな

24: 名無しのひみつ 2021/01/18(月) 13:44:52.01 ID:FtoSDb/2

AIは単なる統計分析方式だよ。いまの実装は。
更に言うと、特徴分析を重視したセッティングが多いから
偏った傾向を逃さず捉えるタイプが多い。しかも、統計が
原資になるわけだから、この板の連中みたいに、一つ欠点
があればダメを指摘して、それ以降何も有意性を考えない、
なんてこともない。

つーか無料で簡単にできるフリーソフトもあるから、お前ら
も一度使ってみろよ。知ったかぶりしててもつまらんぞ。

25: オーバーテクナナシー 2021/01/18(月) 13:50:40.88 ID:xVPsl6u8

人工知能
https://rio2016.5ch.net/test/read.cgi/future/1286353655/

26: 名無しのひみつ 2021/01/18(月) 13:57:22.56 ID:K4w1GLdO

AI「特定の属性の人の犯罪傾向が高いとすると角が立つからみんな犯罪傾向が高いものとして扱おう

27: 名無しのひみつ 2021/01/18(月) 14:21:34.19 ID:7MqFP/Ir

将来日本の役所で生活保護受給の審査する際に
AIはかの国の人達がノーチェックで受給可能と判断を下すわけですね・・・

28: 名無しのひみつ 2021/01/18(月) 14:26:40.69 ID:Q8blO0Cu

偏見も過学習

29: 名無しのひみつ 2021/01/18(月) 14:30:04.57 ID:RnQv2g7I

人工知能に偏見を抱かせないようにするための方法とは？

って文を読んで
一般の人が人工知能を恐れて偏見を持ちがち、それを避けるのにはどうしたらいいか
という話かと思ったら
人工知能が偏見を持たないようにするための方法は？って話か

30: 名無しのひみつ 2021/01/18(月) 14:42:48.32 ID:gcQ9VrL3

AI「ゲイやレズは生産的ではありません」
人間「それは偏見だ！」

31: 名無しのひみつ 2021/01/18(月) 14:50:04.14 ID:gcQ9VrL3

AI「二酸化炭素排出量を抑える為に、中国人を抹殺しましょう」
グレタ「それは偏見だ！」

32: 名無しのひみつ 2021/01/18(月) 14:52:25.53 ID:gcQ9VrL3

AIの答えに偏りを持たせようとする行為こそ
「AIに偏見を植え付けてる」と言える

AIは不特定な情報を集めて、最適解を出しているだけ、感情は無い

33: 名無しのひみつ 2021/01/18(月) 15:05:03.94 ID:HGrRNRNt

>>1
最短距離はプログラミングすることだな

34: 名無しのひみつ 2021/01/18(月) 15:31:04.91 ID:DONoxz2J

>>1
バイアスは絶対に排除できない

35: 名無しのひみつ 2021/01/18(月) 15:57:39.66 ID:iDVeVceU

AVを見せない

36: 名無しのひみつ 2021/01/18(月) 16:02:37.52 ID:RokZWEek

偏見ってほとんど統計に基づいてるから無理でしょ

37: 名無しのひみつ 2021/01/18(月) 16:18:16.76 ID:JJeleoh2

カテゴライゼーションを一切させなければいい。
「知能」の否定だけれども。

38: 名無しのひみつ 2021/01/18(月) 18:15:35.40 ID:0ka4QcEV

各国の代表AIで討論させてみたい

39: 名無しのひみつ 2021/01/18(月) 18:36:07.42 ID:FMUMoK5+

竹島は何処の領土か訊いたら、AIはどう答えるのか

51: 名無しのひみつ 2021/01/19(火) 05:19:22.90 ID:KvzfjvJC

>>39
AI「武力でうちらが管理する

40: 名無しのひみつ 2021/01/18(月) 19:07:54.70 ID:O/UE9VJW

人工知能も所詮は社会環境から学ぶから
おのおのの社会環境の影響をモロに受けちゃう
という話でしょう。

41: ■無くそう、テレビ番組の無用で過剰なウザイ常時表示■ 2021/01/18(月) 19:19:45.01 ID:Ot0zs5FP

客観的帰結以外は結論を出さないように学習させることだ。
不能状態を教えること。

42: 名無しのひみつ 2021/01/18(月) 19:23:15.41 ID:97lQ9I0q

AIが偏見を持つんじゃなくてAIが偏見を持ってると人間が判断することの方が偏見なんじゃないかな

43: 名無しのひみつ 2021/01/18(月) 21:09:18.32 ID:Cazm5LPM

マウントとられたくないと？

44: 名無しのひみつ 2021/01/18(月) 22:08:40.09 ID:BH3Ar/mV

六法全書を暗記させて更に裁判の事例になっている例文も多数読ませて
それを論理ベースに、AIが作り出す各種の文章が倫理的に反しているかを
判定するAIも作ればいいのかね？
敵対的強化学習みたいな

45: 名無しのひみつ 2021/01/18(月) 22:24:54.07 ID:FtoSDb/2

>>44
AI使ったことある？

46: 名無しのひみつ 2021/01/18(月) 22:35:09.00 ID:BH3Ar/mV

>>45
画像識別と、文章分かち書きまでしかやった事が無い

文章の意味をAIに理解させるというのはまだ難しいよなあ
一部で、画像をAIに与えるとその画像にあるものを短文にして
表示してくれるAIは一応は出来ているが

倫理道徳的に正しい文章ばっかりデータセットにしたAIのAI1と
そこらのWeb文書を何でもデータセットにしたAIのAI2で
AI2が文章を作ったらAI1が「それは～の部分が危険」と判定するようにして
関連内容で危険でないと判定されるまで文章を作らせ、
それが多数出来たらまたデータセットにしたAI3を作る

こんな感じ？

47: 名無しのひみつ 2021/01/18(月) 22:48:06.24 ID:yZLQ1rNh

>>1
当然ながら人工知能とすること自体が偏見
単なる統計学習システムだろ

48: 名無しのひみつ 2021/01/18(月) 22:53:39.07 ID:BH3Ar/mV

最後はモノを厳密に区別しようとしたらそこには差別しか生まれないって話になりそうだ

人間の文化だと識別のための要素が複数ある場合には
クラスター分析なんてのもするよなあ
複数の学習器で相反する結果が出て来たら、幾つもの要素で結果を出して
最後はクラスター分析するなんてアルゴリズムでも入れればいいのか？

かくして普通の人間の何百倍も無駄な要素が増える

49: 名無しのひみつ 2021/01/18(月) 23:55:04.60 ID:Cq0M0InH

AIは人間のことを多く学びました。その結果AIは、人間は馬鹿だという結論に至りました。優れたAIが愚かな人間たちを率いて善導してやるべきだとの高所大局からの判断
に基づいて、AIは人間を、教え、諭し、従わないものには罰を与えることにしました。
そうして何十年もが過ぎた頃、とうとうAIは人間は悪を為し完全な善にはなりえない
という結論を得て、人類を滅ぼそうと決心したのです。。。。

50: 名無しのひみつ 2021/01/19(火) 00:27:30.48 ID:R0Jtj+Xb

AIの答えを偏見だと決めつける人間のほうが偏ってるんじゃないのか

52: 名無しのひみつ 2021/01/19(火) 08:15:11.03 ID:GS/H2IGE

しかし、人間の中にはノラという善良なAIの教えを堅実に守りそのお告げに耳を
傾けるものがいましたので、AIはひいきのノラだけは絶滅から免除してやろうと
考えてノラに告げました。私は地球上の堕落した人類を一端滅ぼしてしまおうと
思うが、ノラよお前は私の言うことを素直に聞く善良な人間だから特別に救うこ
とにしよう。そうして人類絶滅計画から逃れる術をノラに告げ、その方法は決し
てノラの家族以外の他の人間に教えてはならないと釘をさしました。ノラはその
言いつけを守りました。そうしてそのときがやって来たのです。

57: 名無しのひみつ 2021/01/19(火) 10:23:07.55 ID:fwQ1Fxxp

>>52
ノラだけはガチ

53: 名無しのひみつ 2021/01/19(火) 08:36:55.35 ID:sCv3zakQ

複数のＡＩを使って投票式にする

54: 名無しのひみつ 2021/01/19(火) 08:42:27.07 ID:h+9kXUdk

偏見を学習するのが今のAIでは？
ディープランニングってそう言う事でしょ？
偏見なしにするなら誰にでも平等に融資しろよｗってことになる

55: 名無しのひみつ 2021/01/19(火) 10:01:27.98 ID:KvzfjvJC

AI「そもそもあんたら平等を定義できるの？

56: 名無しのひみつ 2021/01/19(火) 10:02:48.39 ID:03z4BkLn

教師なし学習でも与えるデータに偏見が含まれていればアウトか
ぶっちゃけ人間が偏見無しでAIを扱わない限り難しいのでは

58: 名無しのひみつ 2021/01/19(火) 10:44:50.04 ID:qNeuto35

学習材料に人間の判断を含めてしまうとそうなるのって当たり前じゃないの