●世界の芸術●アメリカの芸術

（´・ω・｀）解説(ノ゜ω゜)   グーグル（´・ω・｀）俺のターン！ 人工知能の暴走を食い止めるボタンを作るぜ！ 人工知能ﾞ(ノ゜ω゜)な、なんだってー！？ グーグル（´・ω・｀）お前の人類を滅ぼそうとする野望を、事前に予防してチートする！ 人工知能ﾞ(ノ゜ω゜)そんなぁー！？ 具体的には「割り込みポリシー」と呼ぶプログラムをＡＩに組み込み、人間の指示に従わなかったり、人間に危害を加えようとしたりする場合に、その行動を強制的に止めたり変更したりできるようにする。ＡＩが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように“だます”のがポイントだという。

● 弟子 （´・ω・｀）人工知能が学習して、無効化するプログラムを組んだりして……？


●先生 （´・ω・｀）自分で自分を改造できる人工知能とか登場したら、世界最強だろうね……
無限に人工進化しまくる訳だし。
いや、言葉的には無人進化かな？ 



● トンカッツ提督 （´・ω・｀）（うむ……SFっぽい未来が、近づきつつあるのだろうか……？
それはそれで楽しみだな）

（´・ω・｀） ソース（´・ω・｀）     米グーグルが高度に発達した人工知能（ＡＩ）が暴走した場合に備えて「非常停止ボタン」の開発を進めていることが明らかになった。ＡＩをいつでも安全に停止できる仕組みをあらかじめ組み込む。急速に進化するＡＩの悪用への懸念や社会の不安に応える狙いがありそうだ。 今年３月に世界トップクラスのプロ棋士を破った囲碁ＡＩ「アルファ碁」を開発したグーグル子会社、英ディープマインド・テクノロジーズの研究者と英オックスフォード大学の研究者のグループが仕組みを考案。このほどネット上で論文を公表した。 具体的には「割り込みポリシー」と呼ぶプログラムをＡＩに組み込み、人間の指示に従わなかったり、人間に危害を加えようとしたりする場合に、その行動を強制的に止めたり変更したりできるようにする。ＡＩが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように“だます”のがポイントだという。 研究グループによると、現存するいくつかのＡＩは安全に停止できるものの、「すべてのＡＩを安全かつ簡単に停止できるかは不透明」だとしている。ディープマインドは2014年にグーグルによって買収される際、社内に倫理委員会を設置することを条件にするなど、ＡＩの暴走リスクには自覚的なことで知られている。

● 迷探偵パルメ （´・ω・｀）そして、誰も働かなくなった。



●パルえもん （´・ω・｀）こら！？人工知能がニートになる未来を想像しちゃ駄目だよ！？