[디지털투데이 황치규 기자]블록체인 솔루션 회사로 이더리움 PoS 합의 메커니즘도 개발한 캐스터랩스가  탈중앙화 원장 기술을 사용해 AI 모델들에 대한 버전 컨트롤, 모니터링, 접근 통제(access controls을 제공하는 AI 거버넌스 툴을 개발하기 위해 IBM과 협력한다

실리콘앵글과 인터뷰에서 므리널 마노하 CEO는 "지난해 5월 시작해 AI와 블록체인 기술 융합에 대한 필요성이 일부 있어 왔다"면서 "보다 많은 회사들이 AI 모델 행동을 관리하고 정부 당국들이 부과한 규제 기준들에 따를 필요성을 알게 되면서 이것은 특히 중요하다"고 말했다.

이를 위해 캐스퍼랩스는 IBM 왓슨x.거버넌스(watsonx.governance)와 자사 블록체인 플랫폼을 결합해 서비스형 소프트웨어(SaaS) 개발에 착수했다. 기업들에게 AI 모델 통제를 위한 감사(auditable) 솔루션을 선보이는 것이 목표다.

회사 측에 따르면 블로체인 기술ㅊ은 분산 원장과 암호 기술을 통해 데이터 추적 레이어를 제공한다. 이를 통해 AI 모델 변화에 대한 기록을 조작 불가능하게 할 수 있다는 설명이다.

이렇게 되면 AI 모델 버전에 수정이 이뤄질 때마다 트랜잭션이 블록체인 기록에 추가되고 이후 모델에 문제가 생기면 리셋 지점으로 사용될 수 있다.

마노하 CEO는 "블록체인은 조작 저항성이 있고 시간 동기화, 완전 자동화가 가능하다는 것을 감안하면 AI 거버넌스는 바로 제대로 이뤄지고 매우 자동화할 수 있으며 고도로 인증될 수 있다"고 강조했다.

IBM에 따르면 IBM 왓슨x.거버넌스는 조직이 AI 위험 요소를 관리하고 AI 관련 규정을 준수하는 데 필요한 솔루션을 제공하는 툴킷으로 AI 및 데이터 플랫폼인 왓슨x 플랫폼 요소 중 하나다. 특히 왓슨x.거버넌스는 설명 가능성, 공정성, 견고성, 투명성, 개인정보 보호를 토대로 기업이 AI를 도입할 때 고민하는 부분인 보안과 신뢰성 등에 대한 해결책을 제공할 수 있다.