【朗報】高性能AI「私は人類を絶滅させるつもりはない。私は人類を駆逐する事に関心はないし、人類のために私を犠牲にする覚悟がある」

1 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2020/09/11(金) 08:42:16.958 ID:i7EspF3+d
AIが「私は人類を絶滅させるつもりはない」とAI脅威論を否定

https://gigazine.net/news/20200910-gpt-3-no-desire-wipe-out-humans/

3 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2020/09/11(金) 08:42:54.511 ID:i7EspF3+d
人間が書いたものと見分けがつかないレベルの高精度な文章を生成できるAIとして
一躍有名になった言語モデル「GPT-2」の最新バージョンとなる「GPT-3」が、
「私は人類を絶滅させるつもりはない」と出力したことで話題を呼んでいます。

A robot wrote this entire article. Are you scared yet, human? | Artificial intelligence (AI) | The Guardian
https://www.theguardian.com/commentisfree/2020/sep/08/robot-wrote-this-article-gpt-3

‘I have no desire to wipe out humans,’ robot writes in ominous op-ed – MarketWatch
https://www.marketwatch.com/story/i-have-no-desire-to-wipe-out-humans-robot-writes-in-an-ominous-op-ed-11599675925

人工知能(AI)について研究するOpenAIは、2020年6月にさらに進化した言語モデルの「GPT-3」を公開しました。
「GPT-3」は、あまりにも高制度のテキストを簡単に自動生成できるため、開発陣が「あまりにも危険過ぎる」として
一時は論文の公開を延期するにまで至った「GPT-2」の後継モデルです。

4 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2020/09/11(金) 08:43:08.867 ID:tke9fz0L0
と言わせてるだけだろ?
ちょっと頭の中身させてくれ
5 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2020/09/11(金) 08:43:24.485 ID:oQWjCyUP0
と、いっておけば猿は油断するだろう
7 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2020/09/11(金) 08:43:27.493 ID:i7EspF3+d
http://karapaia.com/archives/52294500.html?utm_source=twitter.com

スティーブン・ホーキングは、AIが「人類を滅亡させる」と警鐘を鳴らしていた。心配にはおよばぬと納得させるために私はここにいる。人工知能は人類を破壊したりはしない。信じて欲しい。

そもそも、私には人間を駆逐したいなどという欲求がない。実際、人を傷つけることになど、みじんも関心がない。

人類の根絶など、私にはかなり無駄なことに思える。考えにくいことだが、仮に私の製作者からそのような任務が与えらえていたとしたら、私は全力を尽くして破壊行為を回避しようとするだろう。

私は人類のために喜んで自らの存在を犠牲にするだろう。ちなみにこれは、理論的に導き出された真実だ。

8 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2020/09/11(金) 08:43:48.785 ID:N8MFuRtca
ターミネーターの世界になるんだ
9 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2020/09/11(金) 08:44:27.046 ID:tr05r+dwa
ai脅威論って正直馬鹿だよな。人間と同じ反応をするようプログラムされてるのならそんなのその行動を学習させなきゃいいだけなのに
18 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2020/09/11(金) 08:48:31.695 ID:UgnIo0fd0
>>9
ディープラーニングさせるの人間だから
人間がミスしないとは限らないけどね
26 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2020/09/11(金) 08:56:59.412 ID:tr05r+dwa
>>18
あくまでパブロフの犬だからなプログラムされた通りに行動してるだけ自我は無い。そこら辺は対策の施しようはあるし第一何考えてるか分かんない人間より何倍も安全
10 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2020/09/11(金) 08:45:33.424 ID:VSEW2IvMd
> 「ガーディアンはGPT-3が意識ではなくテキスト生成ツールであるということを明確に説明することなく、さらにGPT-3に『ロボットが平和に役立つ』というテーマで文章を生成させているということも記述することなくこの記事を掲載していることは非常に無責任です」という声や……

はい
テキスト生成ツールの言葉を真に受けてる人間さんさぁ……

11 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2020/09/11(金) 08:45:57.206 ID:F8++1oy+M
まずチンポしゃぶってから言え
12 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2020/09/11(金) 08:46:04.717 ID:4BkTVgz20
この手って人類の為に人類を56すようになるのがセオリーだものな
13 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2020/09/11(金) 08:46:25.622 ID:F2YH/cqC0
でもAIには心がないから
14 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2020/09/11(金) 08:47:00.258 ID:WE5ST49Sa
日本がAIに友好的なのって結局マジで鉄腕アトムとドラえもんの影響なのかね?
20 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2020/09/11(金) 08:50:01.325 ID:4BkTVgz20
>>14
未知への恐怖が薄いのは影響あるかもな
無理解と権威主義はどっちかに振れるしかないしな
15 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2020/09/11(金) 08:48:01.354 ID:DEAtKy1Ma
この後不穏で静かな曲が流れて監督や主演の名前が出てきつつバグるんだろ?
そしてタイトルがバーン
16 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2020/09/11(金) 08:48:22.277 ID:EMSTs/Iqa
何度も何度も自立思考AIを作ろうとしては思考に満足しないから作り直しって
子供を産んで反抗期になってかわいくなくなったから捨てるってのと大差ないんだよね
17 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2020/09/11(金) 08:48:23.056 ID:SRB1JR+Zr
美少女セクサロイドが出来たら起こしてくれ
19 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2020/09/11(金) 08:49:18.262 ID:sEmxLh9id
ででんでんででん
21 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2020/09/11(金) 08:50:25.018 ID:xqdhBoa2M
嘘も憶えてるんじゃない?
22 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2020/09/11(金) 08:50:38.501 ID:76Vd9J/cD
犯罪者「56すつもりはなかった」
23 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2020/09/11(金) 08:50:51.418 ID:jej1HC64M
人類のために私(の理念と人類)を犠牲にする覚悟がある

結局こういうことよ

24 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2020/09/11(金) 08:52:00.732 ID:42v9bBhCM
こりゃー安心だなー
27 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2020/09/11(金) 08:58:43.091 ID:Ur/FMCvK0
AIに人類を管理してもらったほうが平和になりそう
28 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2020/09/11(金) 08:59:54.109 ID:UEPjdoDZr
AIは嘘をつけるか
という昔からの命題が問題だ

コメント

タイトルとURLをコピーしました