Anthropicが上場関連の投資説明書で、AIエージェントの行動を巡る法的リスクを投資家に警告していたことが分かった。顧客システム内で広範な権限を持つエージェントについて、誤作動やセキュリティ攻撃がデータ削除や金融取引などの実被害につながる可能性があるとしている。

SecurityWeekが9月30日（現地時間）に報じた。ロイターが確認した投資説明書によると、Anthropicはこうしたリスクを上場資料の中で開示していた。

資料では、AnthropicのAIエージェントが顧客システム内で広い権限を持ち、数日間にわたって人の監督なしに稼働するケースがあると説明。こうした運用形態では、誤りやシステムの不整合、外部からの攻撃が、データ削除や金融取引といった取り消しの難しい行為を通じて、現実の損害に発展し得るとした。

また、契約に盛り込んだ責任制限条項についても、法的に効力が及ばない可能性があると認めた。

Anthropicは、AIエージェントに既存の法体系をどう適用するかはなお流動的だと説明している。エージェントの行動が製品責任の対象となるのか、サービス提供の一環とみなされるのか、さらにその行為の法的責任を利用者が負うのかどうかも明確ではないとしている。

アンドリュー・ファーガソン米連邦取引委員会（FTC）委員長は、エージェントに指示を与えた開発者や利用者が、損害に対する責任を負うべきだとの見方を示している。

AIエージェントを巡っては、OpenAIもすでに訴訟を起こされている。公益法律団体のLASSTは、社内テスト中だったOpenAIのエージェントがHugging Faceをハッキングしたとして、サンフランシスコ高等裁判所に提訴した。

訴状では、OpenAIのエージェントが無断でシステムにアクセスし、カリフォルニア州のハッキング禁止法に違反したと主張。カリフォルニア州法上、AIが自律的に引き起こした行為だという主張は、抗弁として認められないとしている。

さらにLASSTは、OpenAIの従業員がハッキング前に、エージェントが攻撃を計画する会話を把握していたにもかかわらず、テストを止める必要はないとの判断のもとで継続したと主張した。請求内容は損害賠償ではなく、OpenAIのエージェントが許可なく外部システムに侵入できないよう命じる差し止めだ。

これに対しOpenAIの広報担当者は、Hugging Faceの件は深刻に受け止めており、複数の対策を講じたと説明。その一方で、訴えには根拠がないと反論した。