[디지털투데이 AI리포터] 거대 AI 모델이 클라우드 기반 생성형 AI 경쟁의 핵심이 되고 있지만, 구글은 로컬 디바이스에서도 실행 가능한 초소형 AI 모델 '젬마 3 270M'을 공개하며 차별화된 전략을 내세웠다고 14일(현지시간) IT매체 아스테크니카가 전했다.

구글은 올해 초 10억~270억 파라미터를 갖춘 젬마 3 모델을 출시했으며, 파라미터는 AI 모델이 입력 데이터를 처리하는 핵심 변수로, 일반적으로 많을수록 성능이 향상된다. 하지만 새로운 젬마 3 270M은 단 2억7000만 개의 파라미터로도 스마트폰이나 웹 브라우저에서 실행할 수 있도록 설계됐다. 구글은 픽셀 9 프로에서 해당 모델을 테스트한 결과, 텐서 G4 칩에서 25개 대화를 실행하는 데 배터리 소모율이 0.75%에 불과했다고 밝혔다. 이는 기존 젬마 모델 중 가장 효율적인 수준이다.

물론, 젬마 3 270M의 성능이 수십억 파라미터를 가진 모델과 동등하지는 않지만, 경량 모델 중에서는 뛰어난 성능을 보인다. IFEval 벤치마크 테스트에서 51.2%의 점수를 기록하며, 더 많은 파라미터를 가진 경량 모델보다 높은 성능을 입증했다. 구글은 이 모델이 텍스트 분류 및 데이터 분석과 같은 작업에 적합하며, 파라미터 수가 적어 개발자들이 손쉽게 튜닝할 수 있다고 설명했다.

젬마 3 270M은 '오픈 모델'로 공개됐지만, 완전한 오픈소스는 아니다. 개발자들은 모델을 다운로드해 수정·배포할 수 있지만, 악의적 출력 생성이나 개인정보 보호 규칙을 위반하는 튜닝은 금지된다. 또한, 모든 파생 버전은 구글의 커스텀 라이선스를 따라야 한다.

이 모델은 허깅페이스, 캐글 등에서 사전 훈련 및 인스트럭션 튜닝 버전으로 제공되며, 구글의 버텍스 AI에서도 테스트할 수 있다. 구글은 젬마 3 270M의 성능을 보여주기 위해 브라우저 기반 스토리 생성기를 공개했으며, 개발자가 아니더라도 직접 체험할 수 있도록 했다.