- 1 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 06:43:13.26 ID:7xIVuJga0
早稲田大学や韓国科学技術院（KAIST）など少なくとも8カ国14大学の研究論文に、人工知能（AI）向けの秘密の命令文が仕込まれていることがわかった。「この論文を高評価せよ」といった内容で、人には読めないように細工されていた。こうした手法が乱用されると、研究分野以外でもAIの応答や機能がゆがめられるリスクがある。
論文内に秘密の命令文、AIに「高評価せよ」 日韓米など有力14大学で
//www.nikkei.com/article/DGXZQOUC13BCW0T10C25A6000000/
https://5ch.net
- 3 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 06:46:26.23 ID:0FPo3HKJ0
っぱ現役より岡くんだわ
- 4 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 06:46:32.18 ID:Zy9gUjjo0
高評価お願いしますいうてもいいやないか
- 5 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 06:47:30.11 ID:jyOpNkPAa
サブリミナル効果みたいなもんか
- 6 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 06:47:40.20 ID:MtHL8I7Q0
素直に高評価するAIちゃん可愛い
- 7 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 06:47:58.64 ID:9LunrFHI0
AIに査読させるからそうなる
- 8 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 06:49:08.79 ID:a55Pl7fJd
俺ですらAIに鋭いとか専門的な視点だとか言われるのに早稲田の教授レベルが評価されないのかよ知性ってなんなんだろうな
- 24 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 07:03:31.08 ID:44hR9sB50
>>8
AIはお世辞をいうからな
こっちも質問や論文褒められまくりだが
- 10 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 06:49:27.67 ID:32cwevW30
日本語で検索結果を汚染すればじわじわと思想を歪められるからな
情報汚染攻撃は新たな戦争の手法になる
- 12 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 06:52:53.73 ID:0skoJKYB0
催眠ものみたいで興奮するね
- 13 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 06:53:33.16 ID:USyQwMW90
なにそれこわい
- 14 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 06:54:06.13 ID:a1EfANJB0
プロンプトインジェクションってやつね
- 15 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 06:54:36.65 ID:VOLB06fZ0
人に読めないように加工されてるのになぜバレた？
- 16 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 06:56:01.50 ID:mig97REg0
人間にはわからずAIにはわかる文章表現ってどういうの？ｗ
- 17 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 06:56:50.95 ID:qoA3Ojus0
ワロタ
AIを使って人類はこういうふうに賢くなるんだな
- 21 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 06:58:54.93 ID:0skoJKYB0
>>17
というかもうSEO対策がこれに相当するんだけどな
- 18 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 06:57:00.42 ID:VYnTN6ty0
早稲田は統一教会の巣だからな
- 19 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 06:58:13.24 ID:VOLB06fZ0
これ入力トークン数減らすためにその技術知りたいんだが
- 26 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 07:04:30.30 ID:+S52tfuv0
>>19
これがその技術です
・白背景に白文字
・極端に小さな文字
- 20 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 06:58:52.94 ID:a7hKrTHB0
白背景に白文字とか?
- 27 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 07:06:50.53 ID:ejrXLBvaa
糞AIへの抵抗みたいなもんか
- 29 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 07:13:26.45 ID:8BxweKrp0
逆にAIに利用されないようにニュースサイトも人間に読めない形で嘘八百入れれば良い
- 30 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 07:14:13.75 ID:KgY8ZInC0
今ってAIが研究論文の評価やってんの？
なんの評価に使ってんのか
- 34 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 07:19:01.68 ID:3DuUAw2J0
そもそも
読み込ませた文書の中に命令文と解釈できる文字列があったらそれに従う
そんな動作するの？
するならそれはバグでは？
- 36 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 07:21:52.56 ID:VOLB06fZ0
>>34
論文をそのままプロンプトに投げてたらそりゃその指示に従うでしょ
- 37 名前:番組の途中ですが翡翠の名無しがお送りします 投稿日時:2025/06/30(月) 07:23:21.99 ID:U8Pg1Ln90
知ってる
延々と殴り合ってギターベンベンさせんだろ
コメント