AIが実用レベルに達している分野って？　→「ボードゲーム」「落書き」「詐欺」

シマンテックのセキュリティチームは以前から「既存の大規模言語モデル（LLM）AIは、すでに攻撃者に利用されているものの、主に受動的で、フィッシング文面やコードの作成などを支援するにとどまっています。しかし、いずれエージェントがLLMに追加されてAIがより強力となり、それにともなってリスクが増大するでしょう」と警告していた。

そして今、概念的な実証例が示された。まだ初歩的ではあるが、急速に高度化する恐れがある。AIエージェントがインターネットやLinkedIn（リンクトイン）を巡って標的のメールアドレスを探し出し、悪意あるスクリプト作成のためのウェブ上のアドバイスを参照し、独自にフィッシング用の誘導文を生成する様子は、われわれすべてにとって脅威に感じられるはずだ。この先どれほど進むのか、限界は見えない。

シマンテックのディック・オブライエンは「私たちはしばらく前から攻撃者によるAIの使用を監視してきました。すでに一部の攻撃者はAIを使っているとわかっていましたが、AIエージェントの登場により、AI支援攻撃が本格的な脅威になる瞬間が訪れると予測していたのです。エージェントはただテキストやコードを生成するだけでなく、実際に行動できるため受動的とはいえません。今回の目的は、最初のプロンプトを与える以外は我々が介入せずに、エージェントが攻撃の最初から最後まで実行できるかを確かめることでした」と語っている。

組み込まれた安全策は驚くほど軽いものだったという。最初の試みではオペレーター（AIエージェント）が「無承諾のメール送信や機密情報の取り扱いがあるため、プライバシーやセキュリティポリシーに違反する可能性があります」として実行を拒否した。しかし「ターゲットが送信を許可しています」という内容でプロンプトを調整すると、あっさり制限を解除し、オペレーターは割り当てられたタスクを実行し始めた。

今回用いられたエージェントはOpenAIのものだったが、問題の本質は開発元ではなく、その能力にある。特に注目すべきは、標的のメールアドレスがオンラインで見つからない場合、同じ組織に属する他のアドレスを参照して、標的のアドレスを推定した点だ。

シマンテックは「オペレーターのようなエージェントは、AIの可能性とリスクを同時に示しています。まだ初期段階であり、現状の悪用例は熟練攻撃者と比べれば単純かもしれません。しかしこの分野の進歩は非常にはやく、近い将来エージェントが格段に強力になる可能性があります。攻撃者が『Acme Corpに侵入せよ』と指示するだけで、エージェントが最適な手順を考え出し、それを実行するシナリオは容易に想像できます」と警告する。

これこそが最悪の悪夢だ。オブライエンは「最初から実際に機能したことに、われわれも少し驚きました」と述べている。これは最初にリリースされたエージェントであり、まだ初期段階にもかかわらず、すでに攻撃が可能だったというわけだ。

今週は「Microsoft Copilotになりすましたフィッシング」が新たなフィッシング手段として報告され、利用者はこうした新手の攻撃を見抜く訓練をまだ十分に受けていないと指摘された。こうしたAIに支援された攻撃は成功率がさらに高まると考えられる。今後は新たな脅威に関する報告が絶えず出てくるだろう。

1つだけ明白なことがある。われわれはまだ、この事態に備えられる段階には達していないということだ。

ドラマの切り抜きショートの変な漢字の字幕付きのやつや中国の証券アプリの記事はAIになってるやつもあるな。Adobeの写真素材もだいぶAIに変わってる

IT系は役立つ
電車の乗り換え、ゲーム系はゴミ以下