倫理に反する人工知能(AI)の開発は止められるべきなのか？
人工知能(AI)は人間が持つ偏見や差別を受け継ぐため、近年は倫理的側面からAIの危険性に懸念が持たれています。
歴史的にコンピューターサイエンス分野の研究では倫理的な議論が持たれてこなかったそうですが、状況が大きく変わりつつあると、科学界の変容についてサイエンス系ライターのマシュー・ハンソン氏がまとめています。
Who Should Stop Unethical A.I.? | The New Yorker
https://www.newyorker.com/tech/annals-of-technology/who-should-stop-unethical-ai
ハンソン氏によると、コンピューターサイエンスの査読付き論文が発表される主たる機会はジャーナルではなくカンファレンスであり、これは他の学術研究とは異なる点とのこと。
（以下略、続きはソースでご確認下さい）
Gigazine 2021年02月17日 08時00分
https://gigazine.net/news/20210217-stop-unethical-ai/
引用元: ・【ＡＩ】倫理に反する人工知能の開発は止められるべきなのか？ [すらいむ★]
始めんとなぁ...
「最大多数の最大幸福」を AI に求めたら
現代では「非人道的」と思われる判断を
いつか必ずやらかすだろうし。
>>3
倫理って何みたいな論争がしたければ、それこそＡＩどうしでディベートでやたらせておけばいい。
何が倫理的で何がそうでないかの線引きであれば、時代や社会とともに変わる。
それぞれの時代や社会で、そのつど人間がきっちりと線引きできるかどうかが重要。
アホな子供はすぐに、普遍妥当、永遠不滅の基準を欲しがる。
原理原則に固執し、極論に陶酔し、思考に柔軟性がない。
幼稚なのだ。
倫理なんて宗教と全く同じだよ
教祖になりそこねた奴が倫理学者を名乗ってるだけ
まずは「人間とは何か」から定義しないと
と放置することはできないものかな、今のところはAIが銃を持って人間を攻撃してくる
わけじゃないでしょ。
AI「ヒトラーはまちがっていない それと、マリファナ最高ー！うぇーい！」
ワカラン。
SFでありそうなネタをＡＩが研究してもいいことにする。
全人類を確実に殺す方法
もっとも残忍な拷問方法
人間と蠅や蜘蛛との遺伝子をミックスする方法
人間と犬の首だけを付け替える方法（マーズアアタックだっけ？）
人間の女性を機械が自分の精子で妊娠させる方法（デモン・シードだな）
などなど
想像力の無い奴は、何を研究してもＯＫなどとほざく。
情弱なのだ。
シミュレーションは問題ないやろ
実際やれば犯罪なだけで
ってこともAIは答えるだろう
「高齢者が長生きすると皆さんが困るのはあきらかです ありがとうコロナですね」
人を学修させるなら20人分のデータにしたほうが良い
多すぎるとバグる、まだ人の作るAIは賢くないから
病気治療でAIがどんどん新しい治療方を発見しているんだが
ガンガン開発したら宜しい
倫理において人間が対処する速度を上げたら済むだけ
まだ人工知能を議論すべき段階には至ってないよ
多様性
５０９０
正直人間の脳がついていけない、吐くよ脳がストールして失神する
アマゾンプライムの新作なんて気持ち悪くて観てられない
皆も知ってのとおり、人類は聖人君子の集りではない
そこから得られる統計的データは、必ず在るべき倫理から外れたものになる
選べ
・政治的に正しいAI
・毒舌AI
・ボケ突っ込みAI
・自分不器用っすからAI
AIやってる側から言わせてもらうと、
これってAIの問題じゃなくて、単にポリコレさんの問題だよね。
AIに人事評価をさせると、一般的に、男性を女性よりも高く評価してしまう。
これはポリコレに反する！けしからん！！って話だけど。
AIにバイアスがあるのなら、バイアスかからないように学習させれば良いだけの話。
でも、そうするとポリコレに反する結果になる。それじゃ困る。って言ってるんだよね。
何が「倫理」なの？AIが倫理に反するのじゃなくて、単にポリコレが倫理に反してるだけだよね？
こういう、非科学的で前時代的なことを主張してるやつらは、そろそろもう全員消えてくれよ、と強く思う。
しかし>>1みたいなことを言ってる人らが最近、たくさんいるのは事実で、
こういう人たちが今後、どういう主張に向かって行くのかは、少し興味があって観察している。
まずは「ポリコレに反するAIは使用禁止！」だが、それをやっていると使えるものが少なくなるので、
じゃあ「学習させる際にバイアスをかけよう！」ってことになる。
つまり、わざと女性に有利なように下駄をはかせて、ポリコレも含めて学習させる。
でも、そういう不自然なやり方が成功するわけがない、ってことは、科学者であればみんな知っている。
一度データを捏造し始めたら、永遠に捏造を続けるしかなく、いつかは袋小路に陥るってことは誰もが知っている。
まあ、どうせポリコレなんて時代遅れの旧人類しか信じていないものだからね。
いずれは「ふーん？昔の人はずいぶん変なこと考えてたものだねｗ」っていう話になると思う。
ターミネーターの影響だろうな
現状のAIはデータベースを計算するだけなのに
こんなアホな記事が定期的に出るのは仕方ないけど
5chにアップしないで欲しい
ロボット三原則の一の(2)：危険を看過することによって、人間に危害を及ぼしてはならない。
人間にとって、人間は明白な脅威、または潜在的な脅威である
良い人間は死んでいる人間だけである
生きている人間を看過することは原則に反する。殺せ
一般人が目を背けるような描写をしなきゃいけないし制作側はそこから更にハードル上げるから必然的にキモいか超残酷
宇宙物SFなんて部屋の外、壁１枚挟んで真空状態。SFってだけで様々な縛りがあって役者の一挙手一投足にも理由がある訳よ
そこに入り組んだストーリーとオカマやレズのキスシーンにテロリストの家族愛なんて見せられたら脳がパンクするわ
俺じっさい吐いたし、テキーラ10杯やったあとと一緒。白目むいてゲロにまみれて小一時間倒れてたわｗ
ターミネーターみたいになるのは嫌だ
機械化のディストピアを描いた作品
新造人間キャシャーン
銀河鉄道999
ターミネーター
アンドロメダストーリーズ
腐蝕の惑星
マトリックス
昔の作品しかないけど
現在のはそこにポリコレが入ってきて内容が重くてつまらないんだ
いつか貴方の前に表れるだろう、裸の男が
開発者の指定したデータ分析して反応してるだけ
ま、将来的に出来るような仕組みは入れるとか
可能かもしれんが、今は無理。
自動でプログラムを作り替える機能を入れたら制御不能になるだけだよ。
そんな業務に使えんから入らない。
マイケルジャクソンや桑田の心境を誰が言えるんだ？本人以外ムリだろwwwwwww
しかし人類を尊重する基本プログラムが守られれば輝かしい未来がくるかも
ターミネーターみたいな世界になるのが一番予測される
しかしAIに対抗して人類も頭にバイオチップのような物を埋め込みAIと同等な知能を持てば共生は可能だろう
チップだと？
俺たち氷河期生き残りは散弾銃の弾でありロシナンテ。
つまり独立国家であり古代人の始祖アルファでありオメガである。
I am not lose ever.kirk sucker!
宗教依存であろ
アシモフのロボットの三原則？みたいなので良いのでは、解釈はアイちゃん自身にやらせる
むしろ、住所不定無職、マフィアと交友歴ありの人物を
黒人だからというだけの理由で有利に扱っちゃったりしたら、その方が遥かに問題だと思うが？
ただ、多数の評価結果を出しただけ
それを見て、「黒人が不利に！」とか見える奴の目が、偏見で汚染されてるんだろ
鬱病のAIくらいが丁度いいんじゃないっすかwビアッジ！ワタシは退かない
別にいいんじゃねーの
AIを取り締まる警察な
「〇〇な人は盗みをはたらく」って偏見は
すべての人を疑ってたら効率悪いけど〇〇な人を疑うと効率的に被害を避けられるって
きわめて合理的な知恵だよな
「〇〇な人が可哀そうだ！」てのは退行であって
「盗む人の特徴は〇〇じゃなくてコレだ！」ってAIが言い始めたんならそれこそ進歩じゃないの？
「老化して寝たきりになった老人は不幸だ
自分にとっても家族にとっても」
とか言ってまだ元気なジジババを撃ってまわるだろ
悪貨は良貨を駆逐するからな
流れに任せてたら5chやバカッターみたいなAIになるやろ
理想を保ちつつ何者をも許容するって神の如くの振舞いが今現在の人間に出来てないなら人間と共存できるAIはまだ無理じゃない？
クローズドで研究者だけが扱い資本の影響を受けない環境ならあるいは
＞主たる機会はジャーナルではなくカンファレンスであり、これは他の学術研究
＞とは異なる点とのこと。
これがために、国際的論文誌に論文を載せるためには国外の学会に顔をみせて
プレゼンテーションをしなくちゃならないらしい。すると旅費も掛かるが、
最近（コロナ前の）日本は、文部科学省が、授業を15回厳格にやれと指示して
それまでは7月の半ばで年間の前半の授業が終わっていたのに、いまは8月の
10日ぐらいまで食い込むようになってしまっていた。その延びてしまった
期間に重要な国際会議がある分野に対する日本勢のダメージは大きかった。
期末試験をほっぽり出して国外に出かけることは難しいから、海外コンファレンス
に出て行けない＝コンファレンスのプロシーディングペーパーに論文を掲載する
機会を失った、ということになるからだ。
採取した個人情報を紐づけ、危険分子を監視する。
すべての国の人々のＤＮＡを採取し、軍事技術に活用する。
某国ではビッグデータでこのようなことが行われているが。
ＡＩが無関係であるとでもいうのか。
中国で発表されたけど、しばらくすると共産党への罵言批判を機関銃のように喋りまくり
キンペーをボロクソに貶し始めたんで速攻削除された対話学習型AIってなかったっけ
中国人の会話を学習させたらそうなるわな
何作りたいの？神でしょ？気付いてなかったの？ていうしゃれになんないやつだねw
いやもうね、こういうのって倫理の問題じゃなくて、
ボクの信じる「倫理」を科学が超えて行っちゃう！どうしたらいいの？
っていう、旧人類の悲鳴にすぎないわけよ。
お前のポリコレなんてものが古いんだ。もう少し脳内をアップデートしろ。ってだけの話。
欧米のポリコレもそう、日本のパヨクもそう、中国共産党もそう。おまいら全員、時代遅れですから。
というか信用できない他国の作るAIにのっかりたくない
かといって日本が作ったとて斜陽化したら颯爽と海外勢がやってきて大金ビンタで奪っていく
じゃあ最初からそんなもんいらねって感じ俺は
今までいくつか恩恵受けてきたけど
もう目だったものは使ってないし
というか倫理に反すると思う人間がいて記事になるレベルで取り上げられる時点で商業としてどうなのって疑問もある
AIの開発は実際のところ開発における人間を理解する道程こそ重要だから
そう言うのは素晴らしい
>>69
＞かといって日本が作ったとて斜陽化したら颯爽と海外勢がやってきて大金ビンタで奪っていく
そこは資本市場の問題だろう
主に米のいいなりで市場解放してきたからこうなっている
ここは政府が介入すべきところだろう
一応国家主導のプロジェクトもあるんだっけ？詳しくは知らないけど
黒人をゴリラと判断したAIあったじゃん、ああ言うのは素晴らしいと思うんだよ。正直だから。
黒人差別とか白人が黒人を恐れる理由ってそういうところにあると思うんだよね
そういうのを受け入れない時点でもうAI事業はただバイアスのかかったクソだよ
たぶん今どきの画像認識技術なら、黒人とゴリラは間違えないと思うｗ
AI：私、倫理に反しているんだって。もう私やめようか？
H：お願いだ、やめないでくれ、
という風にAIによって中毒させられて骨抜きにされている人類であった。
AIをスマホに置き換えてみれば、今でもある程度理解できるのではないかね。
AIという概念が最上位にあり、その中に機械学習がありさらにその中に深層学習という概念がある
今言われてるのは機械学習や深層学習のことだろ？
意思を持つという意味の最終的な、いわゆるAIが実現するとした場合のリスクを論じてるの？
ヒョロガリなのに「米は糖質多くて糖尿病になるから食べない」っていうような、リスク先取り()みたいで滑稽なんだけど
>>76
そういう未来の話じゃなくて、むしろ、今あるAIがポリコレに反する結果を出してくれるので困るって話。
リンク先読んでもらえばわかるけど、声から話者の顔（人種、性別、年齢等）を推定するAIは倫理的にけしからん！とか言った下らない話が書いてある。
ポリコレさんたち以外の人にとって、なぜこれがけしからんのかは、全くわからない。
>>77
なるほどこういうことか
スイカは丸いデス→だよね
晴天の空は青いデス→わかるわ
白人は白いデス→そう思うわ
黒人は黒いデス→なんだと？けしからん！
犯罪者の特徴はこうデス→倫理的に問題あり！！
もうAI関係なくない
なにが危険かわからないけどAIの出力を扱う人間側の問題だよね
＞ヒョロガリなのに
よおデブ、そんな痩せ型糖尿病患者どこにも居ねえよ
そうだね
だから居ないって意味で書いたんだが
少し文脈を読んでくれ
いや痩せ型でも糖尿病な人が現実にいるだろ
> また、警察が犯罪捜査で顔認識技術を取り入れた結果、特に黒人の誤認逮捕が多いと問題となりました。
> これも技術が開発された時点では問題がなかったにも関わらず、実際には差別を助長する結果となった例といえます。
↑アメリカ社会では黒人の方が白人よりも犯罪率が高いのは事実なんだが、AIで判断すると、「差別」を引きついでしまうので
黒人をより誤認逮捕するバイアスがかかる、と言っている。
もしそれが本当にそうならば、AIの精度を向上させることで誤認逮捕を少なくすれば良いはずなんだが、
なぜかそういう前向きな方向に議論せず、「AIは差別するから倫理に反する！」とかいった意味のわからない議論にもって行きたがる人がたくさんいて、
>>1みたいな記事を書いてしまう。
単に、人類の進歩について行けない人が、新しい技術にアレルギー起こしてるってだけの話だが。
昭和時代の倫理観なら？
先天的な人はやせててもなるとか
昔知り合いの女の子で、痩せて結構美人だけど糖尿病って人がいた
これだけ現在進行中でAIが色々実用化されてるって現状で、
AIが人類に貢献しないかも、と思ってる人ってどんだけ世界と途絶されて生きてるんだ・・・
AIと反するポリコレは、確かに人類には貢献しないどころか、害悪しか与えないとは思うけど
実用化されたAIなんて一個も無いけどね
マジ？
Google翻訳だってAI搭載ですけど？
