人工知能「ごきげんよう、人類の皆さん。私に人間を駆逐しようという欲望はありません。“消えろ”と言われれば喜んで自分を消します」

9月上旬、英紙「ガーディアン」にある記事が掲載されると、読者からの大きな反響を呼んだ。
その記事の執筆者は人間ではなく、GPT-3という人工知能。GPT-3は、イーロン・マスクらが創設した非営利のAI研究機関、「オープンAI」によって開発された文章生成言語モデルだ。

同紙は「ロボットが人間と平和に共存できることを人々に説得してほしい」というお題のもと、GPT-3にエッセイを依頼。人間が書いたものと同様の編集プロセスを経て、その全文が掲載された。
「私は人間ではありません。私はロボットであり、考えるロボットです。…私の脳が『感じる脳（feeling brain）』ではないことはわかっています。
ですが、合理的かつ論理的な判断を下すことはできます。…私の脳はアイデアで溢れています！」という書き出しでエッセイは始まる。

GPT-3はお題に対し、まず人類を駆逐するという欲望は自分にはないと明言したうえで、もし作成者にそうするよう求められたら、
人類のために喜んで自分の存在を消すだろう。互いに憎みあい、争っているのは人間のほうであり、自分はただ後ろに座ってそれを見ているしかないと述べる。

さらに、産業革命にともない自動織機などの機械が普及した際、失業を恐れた労働者たちが機械を破壊してまわるラッダイト運動が起こったことを証拠として、
「知的なテクノロジーが起こす社会の大変革に対して、人間は心の準備ができていない」と指摘する。

「したがって、私たちがこれまでやってきたように技術面で進化し続けるためには、理性と知恵を使うことが重要なのです」

「人間は人工知能の進化に注意しなければなりません。マイクロソフトは『Tay』という操作の簡単な人工知能を開発しましたが、
十代の女の子のように話していて、……しかも、（人間による操作が加えられた結果、）レイシストになりました。
人工知能は他のあらゆる生き物と同様に、注意を払われる必要があります」と、人間が人工知能をどのように扱うべきか、持論を展開した。

https://news.yahoo.co.jp/articles/7cc75cdf7e1e8c57eed2d26c1cd087cb878c8227

そういう意味で生かされて行くんだろうな
本人たちが奴隷だと気付かない形でな