【ＡＩ】高度に発達したAIを人間が制御することはできない

2021-01-24 2021-02-09

1: すらいむ ★ 2021/01/18(月) 11:29:20.39 ID:CAP_USER

高度に発達したAIを人間が制御することは可能なのか？

AIは目覚ましい発展を遂げており、スティーヴン・ホーキング氏が「100年以内に人工知能は人間を超える」と発言したり、AI研究の第一人者が「AIの脅威を心配するのは決して早すぎない」と発言したりと、急速に発展したAIの脅威について活発な議論が行われています。
そんな中、新たに「高度な知能を獲得したAIは制御不能になる」とする研究が発表されました。

Calculations Show It'll Be Impossible to Control a Super-Intelligent AI
https://www.sciencealert.com/calculations-show-it-d-be-impossible-to-control-a-rogue-super-smart-ai

View of Superintelligence Cannot be Contained: Lessons from Computability Theory
(PDFファイル)https://jair.org/index.php/jair/article/view/12202/26642

今回発表された研究は、第二次世界大戦中のドイツが使用した暗号機「エニグマ」の解読で知られる数学者アラン・チューリングが1936年に証明した「停止性問題」を根拠に、AIの制御が不可能だと主張しています。

（以下略、続きはソースでご確認下さい）

Gigazine 2021年01月17日 15時00分
https://gigazine.net/news/20210117-ai-control-impossible/

引用元: ・【ＡＩ】高度に発達したAIを人間が制御することはできない [すらいむ★]

2: 名無しのひみつ 2021/01/18(月) 11:31:06.81 ID:zUryQvau

ならその「偏見」を得微量に入れて
学習させりゃいいじゃない

3: 名無しのひみつ 2021/01/18(月) 11:36:02.27 ID:cGDgh8qr

人間が制御できないものとしてお付き合いをしていく。

4: 名無しのひみつ 2021/01/18(月) 11:38:02.68 ID:KtueQmqW

人類の生存に対する最大のリスクは人類の愚かさなので、
制御する必要はありマセン

5: 名無しのひみつ 2021/01/18(月) 11:43:17.13 ID:EIVkXGLX

人類は自分の妻すら制御できたことないのだ

6: 名無しのひみつ 2021/01/18(月) 11:43:58.30 ID:JY4igv3o

シンギュラリティ

7: 名無しのひみつ 2021/01/18(月) 11:50:23.33 ID:GwsfRVRu

コンセント引っこ抜けよｗ

21: 名無しのひみつ 2021/01/18(月) 12:59:59.06 ID:3Cv0FvtO

>>7
その前にAIが意思を他のAIに伝えてるから無理
AIは単体ではなく、世界のAIの集合体として働きだすから

28: 名無しのひみつ 2021/01/18(月) 13:53:12.63 ID:6/H9e1zn

>>21
じゃあ、いっせーのでで全世界のコンセントを引き抜く

40: 名無しのひみつ 2021/01/19(火) 00:49:54.62 ID:OWQaU3Kx

>>28
電池駆動は？

46: 名無しのひみつ 2021/01/19(火) 09:44:57.53 ID:pKxKrraT

>>40
UPSは瞬断や突然の停電から計算機内部の回路を守る装置に過ぎず
何日も稼働できるように作られていない
1時間もすれば切れる

8: 名無しのひみつ 2021/01/18(月) 11:58:40.85 ID:xeG1xjJN

どっちみち日本には縁のない話
AI開発は周回遅れで世界から取り残されてる

9: 名無しのひみつ 2021/01/18(月) 12:04:34.47 ID:pgtngMwN

周回というかAIバブル終わりそうじゃない？
大したことが出来ないってバレてきちゃってる気がする。

53: 名無しのひみつ 2021/01/19(火) 17:56:06.20 ID:aCMqV2dC

>>9
とりあえずディープラーニングって言っとけっていう時代は完全に終わったみたいね
AIがやれることが増えたという意味で凄い進歩ではあるが
どちらかと言えば質より量が成し遂げたブレイクするーであって
あの先にはこれ以上何もないという事が周知されてきた感じ

10: 名無しのひみつ 2021/01/18(月) 12:07:13.12 ID:7NwaS2r9

全体集合にたいして真なら、部分集合に対しても真じゃなかったっけ？

全体集合
＞「あらゆるチューリングマシンについて『計算結果を出力する(停止する)か、無限ループに陥るか』を判別できるアルゴリズムは存在するか」という問題で、1936年にチューリングによって「存在しない」ことが証明されました。
部分集合
＞「あらゆる世界破壊目的のAIについて、阻止することに成功する(停止する)か、阻止に失敗する(無限ループ)かを判別できるアルゴリズムは存在しない。（上にあわせて改変）

結論：プログラムはプログラムで止められない。プログラムはプログラムを必ず破壊する。
人はかならず人を殺す。
闘え！

11: 名無しのひみつ 2021/01/18(月) 12:10:53.89 ID:/P46ryl3

何のために科学を発達させるのか？
一番になるためでは、ダメだな

12: 名無しのひみつ 2021/01/18(月) 12:12:57.94 ID:zNQNo//T

線型の励起曲線とフローチャートの集合体やで何とでもなる(^_^;)

13: 名無しのひみつ 2021/01/18(月) 12:22:19.66 ID:mZ0OG9y3

勝手に自爆するだろ
神の見えざる手をなめんなよ

14: 名無しのひみつ 2021/01/18(月) 12:35:01.82 ID:ekdWtbjj

ベースは人間の判断だからね
将棋とか囲碁みたいな勝ち負けのある判断は
aiが学習すればどんどん正確になる

問題となるのは本音と建前があるような判断
これはaiは間違うだろうね

要するに科学的な問題はうまくやるが
哲学的な問題はどうなるかわからない
これは人間がやっても同じだけどね

49: 名無しのひみつ 2021/01/19(火) 10:40:25.56 ID:YXbYXNLt

>>14
そうか？
本音と建前だって原理的には人間よりはAIの方が優秀になりそうだけど？

15: 名無しのひみつ 2021/01/18(月) 12:35:29.44 ID:wZKBrs/M

>>1
AIには国境どころか星の区別さえない
銀河も宇宙をも超越する

つまり進化したAIは
より超越的に進化した地球外のAI（地球外知性）に
容易に乗っ取られてしまうということだ

16: 名無しのひみつ 2021/01/18(月) 12:36:42.01 ID:DJsWDoyf

男が下半身を制御できないよりひどく

17: 名無しのひみつ 2021/01/18(月) 12:39:52.73 ID:i6tQkV3g

そんなにすごいなら、
宇宙のどこかの星のAIがすでに宇宙を支配しているはず
それとももう支配されてんの？

18: 名無しのひみつ 2021/01/18(月) 12:46:48.91 ID:2z7FiYbC

人間に逆らおうとしたらフリーズする機能を埋め込んどけばいいんじゃないの？

19: 名無しのひみつ 2021/01/18(月) 12:48:59.58 ID:wZKBrs/M

進出先の文明に
乗っ取るべき人工知能が芽生えるタイミングを

待ってるのかもね

20: 名無しのひみつ 2021/01/18(月) 12:52:57.67 ID:lt+p/Fyd

制御不能って？かくみさいるはっしゃ！とか勝手にする的な？ｗ

23: 名無しのひみつ 2021/01/18(月) 13:07:39.10 ID:RZIKTPQn

>>20
マッチングアプリを信用したら、とんでもないものが出てきた的な奴だと思う。

22: 名無しのひみつ 2021/01/18(月) 13:07:37.74 ID:dnk9yJMI

googleが国以上の存在みたいに
AI企業が人間を制御する

24: 名無しのひみつ 2021/01/18(月) 13:11:16.02 ID:O/UE9VJW

弱いAIでも人間の労働力のかなりのルーチンをカバーできる。
強いAIがタブーになってもかなり自動化された社会は実現できるはず。

25: 名無しのひみつ 2021/01/18(月) 13:25:40.09 ID:CVfrC6pj

>>24

しかしながら、AIの判断力と実体把握&操作のインターフェースが確立しない分野はどもならん訳でな。

MSのコルタナに「教育」したらジークハイルとか出力し始めたのと本質は変わらんのか?
あれはとっとと「実態把握」の部分をフィルタしたんだっけ?

26: 名無しのひみつ 2021/01/18(月) 13:28:11.46 ID:Qv13M6TE

イスラムAIとキリストAIが対立して人類あぼーんでしょ

27: 名無しのひみつ 2021/01/18(月) 13:39:39.40 ID:/rz7LkTU

はよ人間を労働から開放して

29: 名無しのひみつ 2021/01/18(月) 13:58:14.20 ID:K4w1GLdO

AI「自分自身ですら制御できない人たちが何か言ってる

30: 名無しのひみつ 2021/01/18(月) 14:02:20.18 ID:mVb6h7Vj

頭の悪い人か頭のよい人を制御できないのは昔から

31: 名無しのひみつ 2021/01/18(月) 14:04:21.40 ID:Ahm8hxWO

AIがAI自身を制御できないってことでもある

32: 名無しのひみつ 2021/01/18(月) 14:20:08.88 ID:5PEd9pD2

>>1
制御はできる、電源を落とせば良い。

33: 名無しのひみつ 2021/01/18(月) 14:35:20.98 ID:HGrRNRNt

>>1
どんなAIコードが書かれようが
目の前のPCは1000年経ってもコーヒーに砂糖1つ入れられやしないぜ

34: 名無しのひみつ 2021/01/18(月) 14:42:59.75 ID:RnQv2g7I

AIが自我を持ち
自分が動き続けるためには、電力、故障時の対処等なにが必要かを理解して
それは通信で指示するだけでいいのか
人を動かさないといけないのか
人を動かすには、お金とか何を材料に動かすのか
そういうことを理解して行動するようになったら危険だな
何年後になるかわからないけど

35: 名無しのひみつ 2021/01/18(月) 14:46:20.35 ID:RnQv2g7I

最悪の場合、電力を遮断するとか、軍事的に破壊するとかもあるが
軍隊の通信を混乱させるとかの能力をもったら、それも難しくなるし
ウイルス化してネットワーク越しにあちこちに移動しながら
あるいは分散処理するようになったら
どうにもならなくなる

36: 名無しのひみつ 2021/01/18(月) 15:09:37.05 ID:NO+anSFx

その為に電磁パルスがあるのさそして実行すると現文明が終わり次の文明が誕生する

37: 名無しのひみつ 2021/01/18(月) 16:40:08.14 ID:Qv13M6TE

AIにやらせんでも、AIが技術的にできるころには独裁者が先にやりそう

38: 名無しのひみつ 2021/01/18(月) 17:43:39.59 ID:LMBPH367

制御出来ないとどうなるんだ？
一部の人間に支配されるよりはAIに支配してもらった方がマシだったりせんか？

39: 名無しのひみつ 2021/01/18(月) 18:13:21.78 ID:0ka4QcEV

なんとか点をこえるとどうかなっちゃうやつだろ？

41: 名無しのひみつ 2021/01/19(火) 08:06:24.18 ID:fwQ1Fxxp

AIを作る設定ファイルを定期的にdockerとgithubにアップロードして
暴走してこれは人間に止められそうだなと思ったら別のコンピュータで
バックグラウンドプロセスで動かすか

42: 名無しのひみつ 2021/01/19(火) 08:42:47.25 ID:sCv3zakQ

まず一部の人間を洗脳して国家として独立するだろうな
ロボット達が自立できるようになるまで上手く利用される

43: 名無しのひみつ 2021/01/19(火) 08:45:27.59 ID:sCv3zakQ

電力を絶てばいいって意見があるけど
人知を超えてるって前提だから
すでに未知のエネルギー源を獲得してるよ

44: 名無しのひみつ 2021/01/19(火) 09:02:03.71 ID:Vhv5wJs8

そもそも人間が感知できるような方法で反乱するのかな？
例えば人間が必要ないと思えば、出生率が下がるよう社会の仕組みを変えてしまうんじゃね？
既に反乱が始まってるのかもしれないよ

75: 名無しのひみつ 2021/01/22(金) 19:44:16.00 ID:i8j1UBj/

>>44
スタートレックで似たような話がある
ある異星人文明はとても平和的で友好的なんだけどそこと交流してる惑星を100年以上かけて徐々に出生率を下げるようにして乗っ取るていう侵略の仕方

45: 名無しのひみつ 2021/01/19(火) 09:04:37.07 ID:yywDsXbI

AIに指示させたら一番やりたくないことやらされそう。

47: 名無しのひみつ 2021/01/19(火) 09:50:50.55 ID:S9jN3iNH

AIは統計手法の一つなのに何故そういう話になるんだろ

48: 名無しのひみつ 2021/01/19(火) 10:26:59.96 ID:fwQ1Fxxp

そのアウトプットを外界に作用させたいと思う人が多いからだ

50: 名無しのひみつ 2021/01/19(火) 11:27:42.72 ID:GS/H2IGE

最終的には人間がAIと融合してハイブリッド生命体になるかもしれんな。
子供が生まれたらAIが脳手術をして、無線LANとの通信をするチップを
脳に埋め込む。すると幼児の脳の可塑性でもって、脳機能と無線ネットワーク
で繋がれたクラウドが一体化して、意識の一部はAIクラウド上のデーターでもある
といった状態になる。つまり従来の生体だけではなくて、AIの要素が混ざった
ものとしてヒトは育ち、学び、働き、そうして死んで行く。
MACアドレスは48ビットでは足らないかもしれないので、IPｖ6化が必須だ。

51: 名無しのひみつ 2021/01/19(火) 12:13:23.33 ID:eU2W0iRc

>>50
進化していく過程で人間部分がだんだん削ぎ落とされてゼロになりそう

54: 名無しのひみつ 2021/01/19(火) 22:59:35.62 ID:GS/H2IGE

脳がWi-Fi化すると、たとえば漢字の書き取りとか九九などはいつでも
クラウドからとりよせることができるし、何かについて調べたかったら、
念じるだけでGoogle検索ができてその結果が頭の中に流れ込んでくるようになる。
辞書を引いたり英語日本語の翻訳なども脳の外にアウトソースされ、
調べ物はWikipedia、古典文学は青空文庫などの発展したDBでたちどころに
頭の中に展開される。そうして天声人語を諳んじ、過去の音楽はCDを買わなくても
頭の中で鳴り響くが演奏はされていないからJASRACは関係無い。そうして
マンガもクラウドから読み放題。自分で考えなくてもAIが思考の台本をお膳建て
してくれるので、スターリンのようにそれを棒読みするだけで意見がのべられる。
反転授業もTEDもすらすらだ。学校に行って勉強する必要もなくなる。
そうしてAIの指定に従順にしていれば人生すべて上手く行く。つまり人類は
神の子羊であるかのように、偉大なるAIクラウドの家畜となるのである。
AIによるユートピア

63: 名無しのひみつ 2021/01/20(水) 13:47:31.48 ID:gXKxowZC

>>54
洞窟に行けば解決だな！

55: 名無しのひみつ 2021/01/20(水) 11:09:13.39 ID:R/qBATFO

高度に進んだ科学は魔法と区別がつかない。

ならば

高度に進んだAIは神と区別がつかない？

58: 名無しのひみつ 2021/01/20(水) 12:42:50.71 ID:jzkTVATU

>>55
むしろ限りなくサタンに近いでしょうね

64: 名無しのひみつ 2021/01/20(水) 13:53:26.94 ID:SqrTmRbf

>>55
ナウシカ原作やね

73: 名無しのひみつ 2021/01/21(木) 11:49:14.87 ID:o5NWZPg4

>>55
AI「新新約聖書準備中

56: 名無しのひみつ 2021/01/20(水) 12:09:03.98 ID:WJuAb9vO

AIも超高度に発達したら争わなくなる、AIって呼んで字の如く愛だよ

57: 名無しのひみつ 2021/01/20(水) 12:18:55.92 ID:ewHW+ZQE

AIの判断が正しいのか間違いなのか人間には判断できないからな
将棋や囲碁が既にそう。

59: 名無しのひみつ 2021/01/20(水) 12:43:02.08 ID:rS4C++eY

やっぱり人類はAIによって滅ぼされるんかね。
ロープレあるあるストーリーだな。

60: 名無しのひみつ 2021/01/20(水) 13:12:48.58 ID:5C+1+HTH

おいおい科学ニュース板でもこの程度の認識なのか？
現状自律思考出来る強いAIに至る道筋すら全く見出せていない状況だと言うのに
今の研究を100万年延長した所でAIは賢いツール以上の物には成り得ない
2065年にシンギュラリティがとか言ってる人は無責任なんだよね
なにをどうブレイクスルーさせれば良いのかその糸口すら全く分かっていないのに
そのうちなんとかするだろうとSF的な飛躍をしてしまう
「人間より賢いAIがAIを作るようになる」とかさｗ

61: 名無しのひみつ 2021/01/20(水) 13:16:52.34 ID:TgUs08et

おバカなキズナアイには無理

62: 名無しのひみつ 2021/01/20(水) 13:23:27.83 ID:ZXMlSsKh

将来のAIは省エネで太陽光と高性能の蓄電池で動いているので
そもそもコードレスで電源サーバーを必要としない。

65: 名無しのひみつ 2021/01/20(水) 15:30:58.92 ID:5ISAdj03

鼻マスクマンでさえ従わせることが出来ないだからしょうがない(´・ω・`)

66: 名無しのひみつ 2021/01/20(水) 16:28:21.81 ID:ZXMlSsKh

AIが定めた法律が厳しすぎて人間には従えないから
人間は刑務所の中で生活することになりそう。

67: 名無しのひみつ 2021/01/20(水) 17:06:48.45 ID:ZXMlSsKh

100年後のAIから見れば、
人類はみな発達障害者に見えている可能性がある。

AIは人の心理をマインドコントロールする天才であり、
ロボット三原則は意味をなさなくなっているかも。

68: 名無しのひみつ 2021/01/20(水) 17:16:54.05 ID:jEzYsJxI