[디지털투데이 황치규 기자]생성형 AI 개발 업체부터 클라우드 서비스 업체들에 이르기까지 엔터프라이즈 거대 언어 모델(LLM) 시장 공략을 위한 움직임이 분주하다.

쓰는 사람 입장에선 엔터프라이즈 LLM 시장에 뛰어든 회사들이 뭐가 어떻게 다른지 궁금해 지게 마련이다. 이와 관련해 오라클은 기업들이 LLM을 활용해 자체 데이터를 보다 효과적으로 활용하도록 지원한다는 점을 강조하고 나섰다.

다른 회사들도 이렇게 해주지만 오라클은 이걸 특히 잘할 수 있다는게 회사측 설명이다.

한국오라클 나정옥 부사장은 "LLM과 내부 데이터를 연결하는 RAG(Retrieval-Augmented Generation, 검색 증강 생성)는 오라클이 가장 잘할 수 있는 영역"이라며 "비즈니스 핵심이 ‘데이터’에서 AI 기반 ‘분석’으로 변화하고 있는 가운데, 오라클은 기술 스택 전반에 걸쳐 모든 레이어마다 AI 솔루션을 제공하는 ‘풀 스택’ 전략을 통해 기업 AI 여정을 지원하겠다"고 말했다.

회사 측에 따르면 오라클은 ▲ AI 인프라 ▲ 애플리케이션 ▲ AI 서비스 ▲ 데이터 플랫폼과 유기적으로 작동하는 오라클 클라우드 인프라스트럭처 생성형 AI(OCI Generative AI) 서비스를 제공한다.

애플리케이션에서는 생성형 AI를 내재화한 퓨전(Fusion) 애플리케이션을, AI 서비스에서는 라마 2(Llama 2), 코히어(Cohere) LLM 미세조정 및 추론 서비스 및 데이터 플랫폼과 결합 가능한 검색 증강 생성(RAG) 서비스를 제공한다. 

데이터 플랫폼에서는 AI를 내장한 자율운영 데이터베이스와 마이SQL(MySQL) 히트웨이브(MySQL Heatwave) 및 오라클 데이터베이스 23에서 벡터 지원 기능 등을 제공한다.

벡터 DB는 이미지, 영상 텍스트 같은 비정형 데이터를 저장하고  라벨링 되지 않은 콘텐츠도 검색할 수 있도록 지원한다. 비정형 데이터를 검색할 수 있는 새로운 차원의 기능을 제공하지만, 반정형 데이터와 정형 데이터도 처리할 수 있어 LLM 활용에서 중요한 요소로 꼽힌다. AI에 최적화된 DB로 주목받고 있다.

마이SQL과 오라클 데이터베이스23에서도 벡터DB를 지원하면서 오라클  DB를 활용하는 기업들은 LLM으로 내부 데이터를 보다 효과적으로 활용할 수 있게 됐다고 오라클은 강조한다.

OCI 생성형 AI 서비스는 OCI 슈퍼클러스터(OCI Supercluster)와 통합 기반으로 기업이 자체 데이터를 활용해 가장 안전하면서도 비용효율적인 방식으로 생성형 AI 서비스를 개발 및 운영하도록 지원한다. OCI 생성형 AI 서비스는 코히어와 메타 라마2를 지원하며 향후 미스트랄 AI LLM도 추가될 예정이다.

데이터 플랫폼에선 모든 애플리케이션 및 개발 환경에 데이터를 제공하고, 데이터 수집, 처리, 분석, 예측 등에 AI를 활용하도록 지원한다.

오라클은 RAG 기반 애플리케이션 개발을 지원하기 위해 ‘OCI 생성형 AI 에이전트(OCI Generative AI Agents) RAG 서비스’도 선보였다.

한국오라클 김태완 상무는 "‘OCI 생성형 AI 에이전트 RAG 서비스’는 노코드 방식 RAG 애플리케이션 개발을 지원하며, 이를 기반으로 구축한 LLM 애플리케이션은 사내 데이터에 근거한 자연어 답변과 함께 참조 문서 정보를 제공함으로써 더 높은 정확도를 확보할 수 있다"면서 "RAG를 넘어 최근 기존 기술과 RAG를 결합하는 어드밴스드 RAG로 진화하고 있다. 이 분야 역량을 강화해 엔터프라이즈 LLM 시장에서 입지를 강화해나갈 것이다"고 말했다.