[디지털투데이 AI리포터] 인공지능(AI) 챗봇 클로드(Claude)를 개발한 앤트로픽이 초대형 AI 시스템을 위한 새로운 투명성 프레임워크를 제안했다. 이 프레임워크는 AI 개발의 안전성을 높이는 동시에, 과도한 규제로 혁신이 저해되지 않도록 설계됐다.

8일(현지시간) 온라인 매체 기가진은 앤트로픽이 AI 개발의 투명성을 강화하기 위해 새로운 지침을 발표했다고 전했다. 앤트로픽은 "AI 기술이 급속히 발전하는 가운데, 안전한 개발을 위한 임시 조치가 필요하다"며 이번 프레임워크의 필요성을 강조했다.

이 프레임워크는 AI 시스템 중에서도 최대 규모 모델을 개발하는 기업에만 적용된다. 앤트로픽은 "과도한 규제는 AI 혁신을 저해할 수 있으며, 신약 개발, 공공 이익 실현, 국가 안보 확보 등 AI의 긍정적 효과를 약화시킬 수 있다"고 설명했다. 내부 기준으로는 연간 수익 1억달러, 연구개발비 10억달러 이상 기업이 적용 대상이 될 가능성이 높다.

앤트로픽은 AI 개발자들이 화학·생물학적 위험뿐만 아니라 AI 모델의 자율성 문제까지 포함한 '보안 개발 프레임워크'를 구축해야 한다고 강조했다. 이 프레임워크는 일반인용 웹사이트에 공개되며, AI 모델의 테스트 및 안전 조치를 설명하는 '시스템 카드'도 함께 제공돼야 한다. 또한, 프레임워크 준수 여부를 속이는 행위는 법적으로 금지되며, 내부 고발자 보호 조치도 포함됐다.

또한, 앤트로픽은 "AI 모델이 발전하면서 과학, 의료, 경제 성장을 가속할 기회를 얻고 있지만, 안전이 보장되지 않으면 단 한 번의 실패로 수십 년간의 진보가 막힐 수 있다"며 이번 투명성 프레임워크가 실질적인 첫걸음이 될 것이라고 강조했다.
 

Today we published a targeted transparency framework for frontier AI development.

Our framework focuses on major frontier model developers while exempting startups and smaller developers to avoid burdening the broader ecosystem. pic.twitter.com/UrU8Vjtsm4

— Anthropic (@AnthropicAI) July 7, 2025