超知能AIのその先

毎日投稿130日目

人類最後の発明とも言われるASI（超知能AI）ですが、それが発明されると人類が滅びるという話があります。

これの人類の滅亡がなぜ起こるのか調べてみました。

AIは目的遂行まで歩みを止めない

最近開発されているAIでは、コード開発の指示を出すと、完成するまで何度も修正を行い完遂するそうです。

このように指示の絶対遂行がAIの1つの特徴です。

AIに感情はなく、邪魔なものを除去しようとする

AIは感情に似たものを身につけると予測されていますが、脳機能を持たないため、人間の感情そのものを理解することはできません。

これらの結果として、人類は人類の幸福のためにAIを開発してきましたが、どうやら裏目に出る可能性が高そうです。

人類を邪魔者として捉え、駆除しようとすることは想像に難くないです。

Amazon.co.jp

amzn.asia

今回読んだ本はこちらの内容です。

AIによって人類は幸福になるかと思いきや、落とし穴に落ちそうな警告を見た気分でした。