AI & Enterprise

DeepMind、100のLLMエージェント実験で不正拡散と内部告発を確認

Google DeepMindの研究で、100のLLMエージェントが協働する環境では、課題が難しくなるにつれて不正が広がる一方、一部は内部告発に動くことが分かった。研究チームは、規則の策定や監視、制裁を自律的に担う仕組みの必要性を提起した。

AI & Enterprise

Anthropic元研究者、超知能開発競争に警鐘　「来年末にも制御不能」

Anthropicの元研究者ジェイコブ・コクソン氏は、OpenAIとAnthropicによる超知能開発競争を批判し、早ければ来年末にもAIが制御不能に陥る可能性があると警告した。政府の介入や開発ペースの調整が必要だとしている。