大学でAI時代の倫理を教えていると、議論はどうしても利用者の責任に傾きやすい。受講者の多くがAIの利用者である以上、それ自体は自然な流れだろう。現在のAIは偏りや限界を抱えており、使い方次第で結果は大きく変わる。意図しない被害を生む可能性がある以上、利用者に一定の責任が伴うのは確かだ。

しかし、AIを巡る責任論が利用者側に偏りすぎてはいないだろうか。そうした見方が広がった背景には、開発者と利用者の間にあるAI理解の大きな隔たりがある。大規模言語モデルを基盤とする生成AIは、未完成な部分を残したまま急速に普及し、利用者1億人到達まで1週間とかからなかったという記録的な広がりも見せた。

ChatGPTの「P」は「Pre-Trained（事前学習済み）」を指す。あらかじめ収集したデータで学習したモデルであり、あらゆる状況で最適な答えを返す万能の仕組みではない。にもかかわらず、現実にはAIの問題が社会的弱者に集中して表れやすいことが、次第に明らかになっている。

この点は、AIが社会に及ぼす影響を追ってきたジャーナリスト、カレン・ハオの著書『帝国 権力、資本、労働（2026）』でも多角的に論じられている。問題は個人レベルにとどまらない。社会制度の中で、より深刻なかたちで現れている。例えば、警察や金融機関が導入する自動化ソフトウェアが、人種や性別、階級による差別を固定化している事例が確認されてきた。米国の刑事司法で使われたアルゴリズムが、無実の黒人を、犯罪歴の多い白人よりも高リスクに分類していたと独立系メディアが報じた例もある。

利用者とAIサービス提供企業の間で起きる問題は、比較的可視化されやすい。実際に事故やトラブルが起きれば、短期間で広く知られる。一方で、AIを開発する企業の内部でどのような論理的・倫理的な衝突が起きているのか、OpenAI、Google、Microsoftなどがサービスの完成度を高めるために水面下で何をしているのかは見えにくい。利用者に「倫理的な利用」の責任を求めるのと同じ重みで、供給側にも責任が問われているのか。そこは依然として不透明だ。

歴史を振り返れば、こうした構図は珍しくない。前世紀には、シエラレオネ、アンゴラ、コンゴで児童労働を伴うダイヤモンド採掘が明るみに出て、サプライチェーン全体の倫理が問われた。TikTokについても、アルゴリズムが中毒性を高めるよう設計され、利用者の時間と注意を過度に奪い、若年層のメンタルヘルスに悪影響を及ぼし得るとの指摘がある。英Cambridge Analyticaは、数千万人規模のFacebook利用者データを同意なく収集し、政治広告のターゲティングに利用した。個人情報の無断利用と民主主義プロセスへの影響が問題となり、最終的にCambridge Analyticaは破産、Facebookには50万ポンドの罰金が科された。AIを巡る分野でも、同じような問題がすでに起き始めている。

AIを競争的に開発し、事業として成立させるには、GPUサーバーを大量に備えたデータセンターが欠かせない。高性能GPUサーバーは騒音が大きく、膨大な熱を処理するために冷却水も必要になる。AI向けデータセンターの消費電力は、都市の電力需要に匹敵する規模に達する場合もある。そこで生じる炭素排出は、地球環境に無視できない影響を及ぼし得る。

米シリコンバレーの企業は、チリやボリビアなどにデータセンターを建設しようとしている。これらグローバルサウスの国々では、企業誘致が政治的成果として語られやすい。一方で、長年の干ばつに苦しむ地域住民にとっては、限られた水資源がデータセンターの冷却に回るのではないかという不安がある。人為的な環境災害につながりかねないとの懸念は小さくない。

同じくグローバルサウスに属するケニアやベネズエラでは、失業やハイパーインフレに追い込まれた人々が、欧州の自動車メーカーや米AI企業向けにデータ整備業務を担っている。自動運転やAI学習に使うデータを作るための「コンテンツモデレーション」で、性的、暴力的、侮辱的な内容を繰り返し選別・除去する仕事だ。時給は約2ドルにとどまり、精神的負担は重い。それでも非正規雇用であるため、十分な治療や支援を受けにくい。

OpenAIが当初掲げた「全世界をAIで利する」という理念とは逆行する現実が広がっている。AIのサプライチェーン全体で生じる倫理問題は、いまこの瞬間も進行中だ。しかもその負担は、途上国や社会的弱者に集中しやすい。遠い国の出来事のように見えても、AIエコシステムの倫理的なゆがみは、最終的には社会全体のリスクとして跳ね返ってくる。AI倫理は、もはや利用者だけの問題ではない。