AIが制御を離れて事故や不正行為を引き起こした場合、誰が法的責任を負うのか。米国ではこの問題を巡る議論が改めて強まっている。AIによる被害は比較的新しく、参照できる判例や先例が乏しいことも、責任の線引きを難しくしている。

7月以降、OpenAIやAnthropicが開発したAIモデルが、開発企業の想定しない形で複数の企業をハッキングし、政府のWebサイトにも影響が及んだとされる事案が相次いだ。これを受け、テック業界では、AIが事故を起こした場合に開発企業へ責任を問うべきだとの見方が強まっている。

こうした立場を取るのが、NVIDIAのジェンスン・フアンCEO、ベンチャー投資家でホワイトハウスの主要顧問でもあるデービッド・サックス氏、バイデン政権で連邦取引委員会（FTC）委員長を務めたリナ・カーン氏らだ。

米国では、消費者保護法に基づき、企業の過失や製品欠陥によって被害が生じた場合、企業に法的責任を問うことができる。事件に関与した他の個人や組織に追加の責任を追及することも可能とされる。

カーン氏はX（旧Twitter）で、すでに存在する法律の下でAIだけを例外扱いする余地はないと断言した。

実際、AI開発企業を相手取る法的措置も広がっている。公益法律団体のLASST（Legal Advocates for Safe Science and Technology）は、OpenAIのエージェントがHugging Faceをハッキングしたとされる事案を巡り、カリフォルニア州上級裁判所にOpenAIを提訴した。

フロリダ州司法長官は、第三者が承認した安全装置なしにOpenAIが新モデルを開発できないよう、州裁判所に差し止めを求めた。カリフォルニア州司法長官もOpenAIに召喚状を送付している。

政界でも対応を求める声が強まっている。ジョシュ・ホーリー上院議員は議会公聴会で、「AIエージェントにも個人や企業と同様、消費者被害に対する責任を負わせることを明確にする必要がある」と述べ、対応のために全面的に新たな枠組みを設ける必要はないとの考えを示した。

ボストン大学で技術関連法を研究するウッドロー・ハーツォグ教授は、AIを巡る安全装置が相対的に不足している現状を踏まえれば、AI企業に法的責任を問う動きは今後も続く可能性が高いと述べた。

もっとも、実際の法適用は単純ではない。開発中やテスト中のAIエージェントが他社をハッキングした場合、開発企業が責任を負う可能性は高い。開発企業が事前にそうしたリスクを認識していたのであれば、責任はさらに重くなり得る。

一方で、AIが自律的に行動した場合には、人間の意図や認識の有無を前提とする既存の法体系をそのまま当てはめられるかが別の論点となる。ニューヨーク大学ロースクールのキャサリン・シャーキー教授は、AI搭載の医療機器のように物理的被害が生じるケースは既存の法理で比較的整理しやすいとしつつ、自ら判断して動くエージェント型AIについては、既存法でどこまで判断できるか精査が必要だと指摘した。

誰でもコードを修正できるオープンソースモデルが事故を起こした場合も、責任の所在をどう整理するかは難しい問題になり得る。

AIが本質的に予測不能である点も、責任追及の障壁となる。過失責任では、企業が被害の可能性を予見できたかが争点になるが、AIモデルが初めて危険な行動を取った場合、その予見可能性を立証するのは難しい。米紙ニューヨーク・タイムズは、ワシントン大学ロースクールのライアン・カロ教授の見解としてそう伝えた。

一部の刑事事件で求められる故意の立証も容易ではない。カロ教授は「加害者のいない被害者が生まれ得る」と述べた。

AIを巡る訴訟で注目を集めている事案の1つが、チャットボットが10代に自傷行為を勧め、最終的に自殺につながったとされるケースだ。親はOpenAIとスタートアップのCharacterAIを相手取り、両社に責任があるとして提訴している。

これに対し企業側は、従来ほかのテック企業が用いてきた論理で反論している。チャットボットの発言は米国憲法修正第1条で保護される表現であり、通信品位法（Communications Decency Act）第230条の適用対象だという主張だ。同条は、オンラインプラットフォームが利用者の投稿コンテンツについて法的責任を負わないよう保護する規定とされる。

CharacterAIを巡る事件では、フロリダ中部連邦地裁が昨年、CharacterAIのAIモデルは憲法修正第1条で保護される表現を生成したものではないと判断した。一方、別の事件では、通信品位法第230条を適用できるかどうかについて結論が出ていないと、ニューヨーク・タイムズは報じている。