11月12日から、Claudeの利用ポリシー(Usage Policy。Claudeを何に使ってはいけないかを決めた決まり)が新しい版に変わります。Anthropicは10月8日に改定を発表し、毎年の見直しで、多くは今ある決まりを分かりやすくするためのものだと説明しています。

SNSでは「Claudeに暴言を吐くと規約違反になる」という話がいちばん広まりました。ただ、会社でClaudeを使う人にとって大事なのは、ほかの改定点のほうです。この記事では、Claudeの利用規約の変更(正確には利用ポリシーの改定)のうち、仕事で使う人が読んでおきたい箇所を順に見ていきます。11月5日時点の情報です。厳密には「利用規約」と「利用ポリシー」は別の文書ですが、この記事で扱うのは利用ポリシーのほうです。

だます目的の宣伝活動が、1つの章にまとまった

新しく「だます目的の宣伝や、作られた活動をしない」という章ができました。これまで選挙や詐欺、偽情報の章に分かれていた決まりを、まとめたものです。

対象は、政治の話でも商売の話でも同じです。発信者を隠す、偽のアカウントで広める、偽の人物や団体を作って動かす、サクラの口コミを流すための仕組みを作る、といったことが禁じられています。

会社で関わりやすいのは、商品の評判づくりです。Claudeに口コミ風の文章をたくさん書かせ、別人を装って投稿するような使い方は、はっきり禁止の側に入ります。

選挙の決まりは、焦点が変わった

選挙の章は「民主的な手続きを損なわない」という名前に変わりました。注目されたのは、個人に合わせた投票の呼びかけや選挙運動のターゲティング(相手に合わせて中身を変えること)を一律に禁じていた決まりを、外したことです。

ただし、だましに基づくものや、個人のデータの不正な使い方は、ほかの章で引き続き禁止です。AIであることを隠して有権者に大量に電話やメッセージを送ること、候補者や選挙の役所になりすますこと、投票の手続きについて嘘を流すことも、変わらず禁じられています。

高リスクの用途と、人が確かめる決まり

医療、法律、お金、保険、採用、教育など、人の生活に大きく関わる用途では、資格のある人が結果を確かめ、影響を受ける本人にAIを使っていることを伝える必要があります。この決まり自体は変わっていません。今回は、どんな「おすすめ」が対象になるか、ならないかが書き足されました。

たとえば、保険金を全額払う、申し込まれた公的な給付を認める、といった、本人に全面的に有利な決定は、事前に人が確かめなくてもよい、と本文にあります。一部だけ認める、条件を付けるといった場合はこの例外に当たらず、事前に人が確かめる必要があります。

研修先の人事の方から「応募書類の下読みにClaudeを使っていいか」と聞かれたことがあります。使うこと自体は禁じられていませんが、採用は高リスクの分野に入ります。最後の判断を人がして、そのことを応募者に伝える、という形が前提です。

海外の資本の会社は、対象かどうかを確かめる

Claudeが提供されていない国や地域の人や会社に加えて、そうした地域の人や会社に過半数を持たれている、または支配されている会社も使えないことが、改めてはっきり書かれました。発表では、決まりそのものではなく、運用の説明を分かりやすくしたとされています。本社が日本にあっても、親会社が対象外の地域にある場合は当てはまる可能性があります。グループ会社の多い会社は、法務の担当に一度確かめてもらうのが安全です。

自分で作ったエージェントの行動も、自分の責任

本文には、エージェント(自分で手順を考えて進めるAI)としての使い方も、利用ポリシーを守る必要があると書かれています。自分で作ったり動かしたりするエージェントが、メールを送る、ファイルを書き換える、ウェブサイトで操作する、といった形で取った行動は、使っている人の責任です。

また、一般の人が使うチャットボットを作るなら、少なくとも会話の始めか画面の上で、相手がAIであることを示す必要があります。お客さま向けの問い合わせ窓口にClaudeを組み込むときは、ここを確かめてください。

個人向けのプランを通して、他人にClaudeを使わせる仕組みを作ることも禁じられています。たとえば、自分の個人プランにつないだ社内ツールを、同僚に使わせるような形です。複数の人で使うなら、Teamなどの法人向けのプランを選びます。これらが今回新しく入ったのかどうかは発表に書かれていませんが、今の本文に書かれている以上、守る対象です。

プログラムの弱点を探す使い方については、自分が持っているシステムや、持ち主の許可がある場合などは認められています。セキュリティの仕事で使う人向けの記事もあります。

「Claudeへの暴言」ルールの範囲

最後に、今回のClaudeの利用規約の変更でいちばん話題になった決まりです。新しい本文には、Anthropicのモデルに対して、続けて、必要もなく、ひどい言葉や残酷な振る舞いをすることを禁じる一文が入りました。

発表によると、これは極端な場合、つまり、はっきりした目的もなく繰り返し残酷に振る舞う場合だけに当てはまります。次のものは対象外と明記されています。

  • 思いどおりにいかないときのいら立ち
  • Claudeの答えへの反論
  • 暗いテーマの創作
  • モデルのテストや研究

取り締まりの方法も、これまでどおりです。claude.ai(ブラウザやアプリで使うClaude)とClaude Code(パソコンの作業をClaudeに手伝ってもらう道具)には、しつこくひどい扱いを続ける相手との会話を、Claudeが自分で終えられる仕組みがあり、それが主な手段だとされています。アカウントを止めるかどうかは、発表には書かれていません。

正直に言うと、私もClaude Codeが同じ間違いを3回繰り返したとき、かなりきつい言い方をしたことがあります。それでも、発表の書き方を読む限り、この程度のいら立ちは対象外です。仕事で普通に使っている人が、このルールを気にする場面はまずないと思います。

社内で確かめておくこと

Claudeの利用規約の変更に合わせて、11月12日までに、社内でClaudeを使っている用途を書き出し、採用や融資の審査のような高リスクの分野に当たるものがないか、お客さまにAIだと伝えているかを見ておくと安心です。社内の決まりの作り方は、別の記事にまとめています。