ナスダック上場記念スピーチで、AIの訓練と配備のペースの調整方針を示したダリオ・アモデイCEO。写真=Reve AI

Anthropicのダリオ・アモデイCEOは19日、同社の新規株式公開(IPO)に伴うナスダック上場初日のスピーチで、AI開発において安全を最優先する方針を改めて示した。安全性を確認できるまで訓練と配備の速度を調整し、事業面や政治面の圧力に左右されずAIを人間の統制下に置く考えを強調した。

米TechCrunchによると、アモデイ氏は上場記念スピーチで、AIは人類の利益のために開発されるべきだという創業時の目標を改めて訴えた。Anthropicは同日、過去最大規模のIPOの一つとして上場したという。

スピーチでは、自身の父親を、後に治療法が確立された病気で亡くした経験にも触れた。生物学研究の道に進んだのは、新たな治療法の開発を早めたいとの思いがあったためだと説明した。

その上で、Claudeが生命科学や医療分野の研究を大きく後押ししていると紹介した。タンパク質構造予測、新薬設計、がん遺伝学、臨床試験の運営などで研究時間の大幅な短縮に寄与しているとし、十分に強力なAIが人間と協働すれば、100年かかる科学・医学の進歩を10年に縮められる可能性があるとの見方を示した。

一方で、AIは大きな可能性を持つ半面、リスクも同様に大きいと警鐘を鳴らした。個人や国家による技術の悪用、経済的混乱、AIシステムの統制喪失を「非常に現実的なリスク」と位置付け、こうした危険は不可避ではなく、開発主体の選択次第で防げると述べた。

Anthropicはこれまで、生物学やサイバーセキュリティに関わるリスクへの安全対策に加え、AIアラインメントに関する訓練・評価や、モデル内部の動作分析を通じて、AIの振る舞いを理解し制御する技術を開発してきたという。

アモデイ氏は「最も難しい安全上の課題はまだ残っている」と述べ、AIシステムの安全性を繰り返し検証する取り組みに、今後さらに技術力を集中させる考えを示した。

また、AIシステムが安全で、人間の統制下にとどまるという確信が得られるまで、必要な時間をかけて訓練と配備の速度を調整すると強調した。事業面や政治面の圧力にも屈しないとした上で、上場によって財務基盤が強化されたことで、正しい選択を貫く意思も一段と強まったと付け加えた。

今回の発言は、アモデイ氏が9月に提唱したAI開発ペース調整の構想とも重なる。当時は、AI安全基準の整備や独立した第三者評価人材の参加などを提案し、業界全体に協力を呼びかけていた。

共同創業者のダニエラ・アモデイ氏も同日、CNBCのインタビューでAIのリスクを認めつつ、技術がもたらす可能性は「非常に大きい」と評価した。創業当初からAIリスクの低減を中核課題に据えてきたとして、今後も安全確保に注力する考えを示した。

ダニエラ氏は、特定企業が最も優れたモデルを持つことよりも、業界全体が安全にAIを開発できることの方が重要だと説明した。これを「頂上に向けた競争」と表現し、競争で先行するか後退するかにかかわらず、AI産業全体をより安全な方向へ導くことが目標だと強調した。

キーワード

#Anthropic #AI #IPO #ナスダック #安全性 #Claude
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.