GMOインターネットグループの熊谷正寿代表は、11月2日の記者会見で、AIの悪用によって攻撃の頻度は従来の100倍に達していると考えている、と述べました。会見の第2部では、AIの脅威の説明に時間を割いています。
ただし、この「100倍」は熊谷代表の見方として語られたもので、報道で確認できる範囲では、根拠の数字は示されていません。また、「お名前.com デスクトップクラウド」(FXの取引ソフトを24時間動かすために借りる、インターネット上のWindowsのパソコン)への攻撃にAIが使われたかどうかも、明らかになっていません。熊谷代表自身も、AIの話は今回の攻撃とは別の話だと述べています。
では、AIは実際に、攻撃にどう使われているのか。この記事では、AIのClaudeを開発しているAnthropicが、9月10日に公開した悪用の報告書を読んで確かめます。自社のAIが悪用された例を、作った会社自身がまとめたものです。11月4日時点の情報です。
Anthropicの報告書とは
Anthropicは、Claudeが悪いことに使われていないかを調べるチームを持っていて、見つけた例を定期的に公開しています。9月の報告書は、2025年12月から2026年8月までに見つけて止めた例をまとめたものです。サイバー攻撃のほか、世論の誘導、監視、詐欺などが含まれています。
AIは攻撃の「人手のかかる部分」を引き受けている
報告書に出てくる例では、AIは次のような作業に使われていました。
- 狙う相手のメールや、リモート接続の仕組み(社外から社内のシステムに入るための仕組み)を調べ、だましのメールを送る相手の一覧を作る
- 盗んだ数百ギガバイトのデータを、仕分けして整理する
- ウイルス対策ソフトなど、守る側のソフトに見つかった不正なプログラムを、見つからなくなるまで書き換え続ける
- ネットに出てしまっているパスワードや鍵(システムやサービスを使うための、合言葉のような文字列)を探し、使えるかどうか確かめる
どれも、以前は人手と時間がかかった作業です。AIの関わり方にも幅があります。人が相手を選び、1台に入り込んだあと、AIがそこから社内のほかのパソコンやサーバーへ次々に入っていく例もあれば、複数のAIが、調べる、入り込む、盗むを、ほとんど人の手を借りずに、複数の相手に同時に進める例もありました。それでも、誰を狙うか、盗んだものをどうお金に換えるかといった大事な判断は、人がしていたと報告書は書いています。
報告書は、技術の高さだけでは、国が後ろにいる集団か、個人の犯罪者かを見分けられなくなったとも書いています。
手口は新しくない、変わったのは速さと数
報告書の中で、私がいちばん大事だと思ったのは次の点です。攻撃そのものは、盗んだパスワード、更新されていない機器、インターネットから誰でも入れる状態で放っておかれたサービス、だましのメールなど、昔からある手口でした。報告書は「まったく新しい手口に頼ったものはなかった」と書いています。
変わったのは、攻撃にかかる手間と速さです。報告書には、侵入が2〜3時間で終わった例や、1人の攻撃者が数十の相手を同時に扱っていた例が出てきます。
「100倍」という数字を確かめる材料は、この報告書にはありません。それでも、1人の攻撃者がこなせる量が増えている、という方向は、作った会社自身の報告と合っています。
Anthropicはどう止めているか
報告書によると、Anthropicは悪用に使われたアカウントを停止し、似た動きを見つけるための監視を足しています。政府機関や業界の仲間とも、必要に応じて情報を共有しています。
一方で、AIの会社が止められるのは、自社のAIを使った分だけです。攻撃者は別のAIを使うこともできます。守る側の手当てを、AIの会社に任せきりにはできません。
小さな会社が守る側でできること
手口が昔からあるものなら、守り方も昔からあるものが効きます。報告書を読んで、私が自分の環境で見直したのは次の3つです。
- ソフトや機器の更新を後回しにしない
- 管理者のアカウントに、多要素認証(パスワードに加えて確認コードを求める仕組み)をかける
- AIのサービスの鍵(APIキー。自分で作ったプログラムからAIを使うときの合言葉で、盗まれると他人に使われ、利用料が自分に請求される)を、パスワードと同じくらい大事に扱う
3つ目は、報告書がわざわざ書いていることです。攻撃者はAIのサービスの鍵を盗んで、転売したり、ただでAIを使ったりしています。報告書は、AIの利用は正規の窓口から買い、「割引」をうたう怪しい仲介を通さないように、とも勧めています。私も、試しに作った小さなプログラムの設定ファイル(プログラムの設定を書いておくファイル)に、鍵をそのまま書いていたのを見つけて、使い終わった鍵を止めました。
LiteLLM(複数のAIをまとめて使うための部品)のように、AIの部品が鍵を預かることの危うさは、別の記事にまとめています。
数字より、自分の足元を
「100倍」が正確な数字かどうかより大事なのは、攻撃する側の手間が減っている以上、狙われる回数は増えると考えて備えることです。GMOの会見でわかったことは、別の記事で整理しました。
