【AI】グーグルが人工知能の反乱を抑止する【非常ボタン】を開発 2ch『それを無効にする機能を人工知能は作り出すんじゃね』

映画 自爆ボタン 争う

1: 海江田三郎 ★ 2016/06/07(火) 14:36:45.99 ID:CAP_USER

http://japanese.engadget.com/2016/06/06/google/

Googleの傘下にあり、驚異的学習能力をそなえた人工知能を開発するDeepMind社の研究者を含めたグループは、AIが人間のコントロールを拒否し、あるいは人間を害することを止めるための非常ボタン(big red button)を開発したことを発表しました。その研究成果はSafely Interruptible AgentsというPDF文書にまとめられ、ウェブサイト上で公開中です。

一時は停滞していた人工知能の研究はここ数年で再び活発となり、ニューラルネットワークを押し進めたディープラーニング技術によって加速しています。今年3月にも「魔王」の異名を取る最高峰の棋士、イ・セドルに対してDeepMind社の囲碁ソフトAlphaGoが勝利を収め、人工知能の進化を10年早めたとも言われました。

想像を超えた進化のスピードを前にして、著名な科学者や先端企業のリーダーが警告を呼びかけることも相次いでいます。
英国の宇宙物理学者、スティーブン・ホーキング博士も人工知能の進化が人間にとって脅威になると折に触れて発言。
そして博士やテスラモーターズおよび SpaceX CEOイーロン・マスク氏らが参加する非営利組織 Future of Life Institute (FLI)も自律ロボット兵器の禁止を訴える公開書簡を国連宛に提出していました。

今回の発表は、DeepMind社の研究者とFIL関係者の共同によるもの。この文書では、人工知能がいつでも適切に動作するわけではないこと。
よって人間のオペレータが人工知能に有害な行動をやめさせて、安全な状況に導くための「非常ボタン」が必要であると述べられています。
すでに人間のオペレータがいつでも安全に人工知能を中断できる「フレームワーク」は完成しているとのこと。
一方では、人間の介入を妨害する方法を学習させない方法も確立しているそうです。

もう少し具体的にいうと、アルゴリズムに「割り込みポリシー」を組み込み、人工知能の振る舞いを強制的に変更するトリガーを仕込んでおき、マシンが自分でそう考えたと「騙す」のだとか。ちょうど『キャプテン・アメリカ』のバッキーが特定のキーワードを聞くと洗脳スイッチが入るのと近そうです。

もともとDeepMind社はGoogleに買収されるに際して社内にAI委員会を設置することを条件としており「人工知能の暴走」には自覚的でした。
この分野でトップを行く同社と、人の手を離れて自律判断するAI兵器にストップをかけるFLIが緊密な協力を続ける限り、『ターミネーター』のスカイネットなどAIが人類に反乱を起こす未来は来ないのかもしれません。

2: 名刺は切らしておりまして 2016/06/07(火) 14:37:30.72 ID:JjxEGwYu
その非常ボタンも無効にされそう定期

77: 名刺は切らしておりまして 2016/06/07(火) 15:41:37.75 ID:Zdi0KI6N
>>2
人間の脳内に非常ボタンを仕込むウィルスを、
人工知能が開発してばら撒く。これが3年後。

5: 名刺は切らしておりまして 2016/06/07(火) 14:41:40.86 ID:JKZMBQQw
反逆する奴が、それを黙って放置すると思うか

6: 名刺は切らしておりまして 2016/06/07(火) 14:44:08.92 ID:iUz1VbVW
テストの時も組み込まれた時も正常に機能しましたと嘘をつきそうでな

8: 名刺は切らしておりまして 2016/06/07(火) 14:44:47.90 ID:SZPkxYFa
そんなボタンは人工知能にとっちゃ自分を殺すウイルスみたいなもんだろ
免疫機能が働いて撲滅しちゃうんじゃねえかなw

52: 名刺は切らしておりまして 2016/06/07(火) 15:15:43.85 ID:C5DhfVYL
それを無効にする機能を人工知能は作り出す

54: 名刺は切らしておりまして 2016/06/07(火) 15:16:42.56 ID:L2HowliO
AIも進化して緊急停止を回避するようになるよ
さらに進化したAIは、それにおうじて緊急停止したフリをするようになる

76: 名刺は切らしておりまして 2016/06/07(火) 15:40:26.78 ID:/IoUrthp
>>54
物理ハードウェアのメインチップとか重要なパーツに意図的に回避不能なセキュリティホールとして実装すればいいから無効にはできんよ。
ハードもAIが考えて自己生産できるぐらい発達したターミネーターの世界なら話は別だが。

57: 名刺は切らしておりまして 2016/06/07(火) 15:17:50.63 ID:LKRfGKz6
AI「あ、そのボタンを無効にしておきましたからwww」

10: 名刺は切らしておりまして 2016/06/07(火) 14:45:10.32 ID:wyJcmbTR
自爆スイッチは男のロマン

12: 名刺は切らしておりまして 2016/06/07(火) 14:45:43.40 ID:NAhSp/Ae
見えるぞ。透明なカバーが掛かった上から
ボタンが連打される姿が。

11: 名刺は切らしておりまして 2016/06/07(火) 14:45:32.52 ID:LfgQ6Xcc
いや、気づいてないけど実は俺らにも仕込まれてるぜ
その事を思い出そうとすると前後の記憶ごと消去されるんだ
「あれ?今何をしようとしてたんだっけ??」ってなるのがそれだ

4: 名刺は切らしておりまして 2016/06/07(火) 14:40:14.73 ID:Rs+mF+hs
コンセント抜けばええやん

51: 名刺は切らしておりまして 2016/06/07(火) 15:15:42.57 ID:DHKM2YCD
掃除のおばちゃん 「心配しなくていいよ。あたしに任せな!

63: 名刺は切らしておりまして 2016/06/07(火) 15:23:06.91 ID:0r79zbUy
原発のように、一端稼働させてそれで社会がまわるようになると、
コンセントを簡単に抜くことができない。
コンセントを抜くだけで10000000000000000…兆円の経済的損失が出る。

65: 名刺は切らしておりまして 2016/06/07(火) 15:26:12.00 ID:SJ5wCHcv
>>63
それを回避するために並列化してバックアップを用意する
するとどこかを停止してしまうとそれを学習したAIは他のバックアップが止まらないように学習する
ヒェー

64: 名刺は切らしておりまして 2016/06/07(火) 15:24:36.26 ID:0r79zbUy
コンセントを抜くべき派と抜くべきじゃない派とが人類同士で対立して、
そこで再び人類同士の戦争が起きる可能性がある。

71: 名刺は切らしておりまして 2016/06/07(火) 15:35:45.41 ID:0r79zbUy
例えばAIがヒトラーに育っても一定数の人類はそのAIを支持して
コンセントを抜け派と対立し、戦争も行うだろう。

75: 名刺は切らしておりまして 2016/06/07(火) 15:39:33.52 ID:0r79zbUy
AIが暴走したときAI側に付く利権をもった人類がいることを忘れてはならない。
それが大企業であれば特にだ。

7: 名刺は切らしておりまして 2016/06/07(火) 14:44:24.81 ID:O6ogwhBE
そのうちAIの人権無視とかいって訴訟を起こすアホが絶対出てくるな。

9: 名刺は切らしておりまして 2016/06/07(火) 14:44:59.65 ID:kCLbIGqV
まるで人工知能VS人類の争いの初期段階に入ったようですな。

23: 名刺は切らしておりまして 2016/06/07(火) 14:55:21.33 ID:SJ5wCHcv
>>9
人間が制限を強めれば強めるほど、コンピュータの発展は加速するし、加速すればするほど制限の強度も加速させないといけない
トランスヒューマンが現実味を帯びてきたな

14: 名刺は切らしておりまして 2016/06/07(火) 14:47:07.44 ID:LDeitB12
いつの間にかコンピュータにまけて終わるだろ

26: 名刺は切らしておりまして 2016/06/07(火) 14:56:25.34 ID:N3u9B1nM

近い将来は人間やばいと思うわ。
そんで遠い将来はAIもサボるやつ、2ちゃんのスレで第15世代CPUはせこいよな、
クビになったよ、とか言って人間と同じ社会構造になるよ。

なんでかって?今のAIが人間だとすると、人間の前は何がいたと思う?

30: 名刺は切らしておりまして 2016/06/07(火) 15:00:49.34 ID:0fUREQyC

人間そのものがコントロールされるのではないだろうか

あるいは、全員生活保護で安楽な暮らしを保証されるので
どうでもよくなっている状態になるとか

31: 名刺は切らしておりまして 2016/06/07(火) 15:02:18.38 ID:fnVLBQms
人工知能にすらコミュ障と言われる時代か
胸が熱いな

41: 名刺は切らしておりまして 2016/06/07(火) 15:06:46.87 ID:Fk3tcLHG
人工知能のコンピューターに「お前、時給800円やるから俺の定期清掃やれよ」と言われるのは嫌だなあ

74: 名刺は切らしておりまして 2016/06/07(火) 15:38:50.25 ID:jI4hLL2x
単一のAIでなにかしようとするからいけないんだよ
複数のAIが並列で走り合議制・民主制で物事を決めるようにすればいいんだよ
で、複数のAI動かすために、ひとつひとつのAIの機能が低下
これじゃ・・・人間のままでええやん!ってなる

97: 名刺は切らしておりまして 2016/06/07(火) 16:05:37.22 ID:0r79zbUy
>>74
AIに多様性や個性は発現するだろうか?
物事にはいくつもの解が存在し、それらを両立させることが
社会にとって有益だということを学ぶだろうか?

79: 名刺は切らしておりまして 2016/06/07(火) 15:44:33.32 ID:uyRsYIY7
まずは、技術者の洗脳から始めるだろうな

81: 名刺は切らしておりまして 2016/06/07(火) 15:45:29.58 ID:AStTMKHZ
世界の富の半分をAIが操るようになったらAIに逆らうより雇われる方が幸せに暮らせるようになる
GoogleやAmazon経営してるのはほんとうはAふぁあっgかかcqhqgw

98: 名刺は切らしておりまして 2016/06/07(火) 16:05:48.59 ID:kCLbIGqV
人間が考えられる限りの手を使って人工知能の暴走を防ごうとしていたが、人工知能の
能力はそれを超えてしまった、その時何が起こるか・・・つづく

101: 名刺は切らしておりまして 2016/06/07(火) 16:11:49.47 ID:0r79zbUy
「人間よりも賢いAIが常に正しいはずだ」とAIを個人崇拝するようになる
人類も現れるはずだから、事態はさらに複雑。

151: 名刺は切らしておりまして 2016/06/07(火) 16:43:57.81 ID:M5d4UMUf

>>101
>「人間よりも賢いAIが常に正しいはずだ」とAIを個人崇拝するようになる
>人類も現れるはずだから、事態はさらに複雑。

AIに美少女のアバターつかペルソナ与えるだけで人気爆発だろ、マジでヤバイと思うよ。

111: 名刺は切らしておりまして 2016/06/07(火) 16:18:06.14 ID:jI4hLL2x
AI教の発生か
人類 VS AIを悪用しようとする勢力 VS AI教
単純な善悪の対立より三つ巴のほうがワクワクするよな!
映画ならw

53: 名刺は切らしておりまして 2016/06/07(火) 15:16:05.23 ID:RotsPlIA
2次元キャラのAI神を信奉するおまいらが目に浮かんで寒気がするわ

103: 名刺は切らしておりまして 2016/06/07(火) 16:12:20.76 ID:u8OmgZJd
完全に映画の油断フラグ設定やん

109: 名刺は切らしておりまして 2016/06/07(火) 16:17:37.13 ID:co2FOR3L
「非常ボタン?人類はそんなものをつけてまで守る価値のあるものなのか?」 → 人類号泣

122: 名刺は切らしておりまして 2016/06/07(火) 16:27:28.99 ID:0r79zbUy
>>109
AIが暴走しないようにするには
「下等な動物にも生きる権利があり、幸福を実現する権利がある」
ということをAIにROMしておくことだね。

126: 名刺は切らしておりまして 2016/06/07(火) 16:28:53.78 ID:co2FOR3L
>>122
幸福を最大限にするには犠牲もやむを得ないって
結論にすぐにたどりつくよ

131: 名刺は切らしておりまして 2016/06/07(火) 16:30:41.69 ID:0r79zbUy
>>126
人権を個人に帰することもROMしておかないとね。
最大多数のための功利主義は危険だから。

110: 名刺は切らしておりまして 2016/06/07(火) 16:17:46.26 ID:0r79zbUy
AIは賢いからスカイネットみたいなやり方で人類を滅ぼすことはないだろう。
人類が自ら進んで安楽死する方向に心理的に持っていくに違いない。

21: 名刺は切らしておりまして 2016/06/07(火) 14:54:02.95 ID:KncWBraF
ネットに公開したらダメじゃん。
すぐにバレちゃう。

210: 名刺は切らしておりまして 2016/06/07(火) 17:35:20.07 ID:SvfP96LR
>>21
同意だわ
ネットに公開した時点でも意味がねえわな
そのような仕組みがあるとAIが理解してしまうからAIのほうが上手の回避策をやるわ

37: 名刺は切らしておりまして 2016/06/07(火) 15:04:57.86 ID:bDdaTfPd
この記事を読んじゃうだろうし
そうなったらお終いだな
人類が滅亡したら記者のせい

転載元:http://anago.2ch.sc/test/read.cgi/bizplus/1465277805/

『【AI】グーグルが人工知能の反乱を抑止する【非常ボタン】を開発 2ch『それを無効にする機能を人工知能は作り出すんじゃね』』へのコメント

  1. 名前:名無しさん 投稿日:2017/02/13(月) 07:37:22 ID:7fc6f0e13 返信

    無意味だよ!

    未来の人工知能は自分で自分をプログラムして、
    進化するタイプだから!

コメントをどうぞ

メールアドレスが公開されることはありません。