[디지털투데이 황치규 기자]생성형 AI를 겨냥한 대형 IT서비스 업체들 행보가 연초부터 공격적이다.

SK C&C는 멀티 거대언어모델(LLM)과 연계해 기업에서 즉시 사용 가능한 맞춤형 생성형 AI 서비스 13종을 내놨다고 5일 밝혔다. 회사 측에 따르면 선보인 서비스들은 AI 챗팅∙코딩∙보고서 제작 등 일반 범용 AI 서비스 3종을 비롯해, 인사∙재무/회계∙법무∙규제준수(Compliance)∙구매/물류∙생산관리∙연구개발(R&D)∙IT개발∙마케팅∙고객관리 등 직무 영역별 전문 AI 서비스로 구성됐다.

SK C&C는 AI 프롬프트, 사내 데이터 저장소, AI 오케스트레이터(Orchestrator)로 구성된 AI 오케스트레이션(Orchestration) 플랫폼과 국내외 LLM, 그리고 금융∙제조 분야에서 수요가 많은 sLLM(경량화 거대언어모델)을 연계해 이들 서비스를 개발했다. 생성형 AI 오케스트레이션 플랫폼에 AI 채팅 서비스인 ‘마이챗(MY CHAT)’을 기본 서비스로 탑재해 일반 사무 활용도를 높였다고 SK C&C는 강조했다.

마이챗을 설치하면 사내 데스크톱 가상화(VDI) 업무 환경에서도 보안 상태를 유지하며 국내외 LLM을 사용할 수 있다는게 회사 측 설명이다.

직무별 전문 AI 서비스는 실제 산업 적용 사례를 기본 모델로 개발했다. SK C&C는 제조 장비∙설비 이상 징후를 탐지하고 장애 대응한 사례 외에도, 대내외 데이터를 활용한 고객 상담 FAQ(자주 묻는 질문) 및 영업 상담 스크립트 추천, AI 기반 언더라이팅(보험 계약 심사) 등 실제 생성형 AI 서비스 적용 사례를 반영했다

SK C&C는 생성형 AI 도입으로 인한 비용 증가, 정보오류∙환각(Hallucination), 내부 데이터 유출과 같은 우려를 없애는데 노력했다는 점도 부각했다.

생성형 AI 오케스트레이션 플랫폼에서 ▲파인 튜닝(Fine-Tuning, 미세 조정) ▲프롬프트 엔지니어링 ▲데이터 보안 및 권한 관리 등을 거치며 최적화된 LLM 및 sLLM 적용과 함께 보안 안정성도 확보할 수 있다고 회사 측은 설명했다. 특히 외부 LLM과 기업 내부 정보 검색 시스템을 실시간으로 결합하는 RAG(Retrieval Augmented Generation, 검색증강생성) 기반 스마트 에이전트 방식을 적용해 결과값에 대한 정확도도 높인다고 강조했다.

SK C&C 차지원 G.AI그룹장은 “생성형 AI는 현재 기업 내에서 일어나는 모든 업무 영역을 재창조할 수 있는 잠재력을 보유하고 있다” 며 “기업들이 SK C&C의 맞춤형 생성형 AI 서비스를 활용하면 구성원들이 효율적으로 업무에 활용할 수 있고, 비즈니스 밸류를 높이는 지렛대 역할을 할 수 있을 것”이라고 말했다.

삼성SDS도 올해 생성형 AI에 보다 공격적으로 퉂아한다. 우선 생성형 AI 플랫폼인 패브릭스(FabriX)는 올해 상반기 내에 공식 출시할 예정이다. 

패브릭스는 다양한 데이터, 지식 자산, 업무 시스템 등 IT 자원을 한곳에 모아 임직원들이 공유하고 사용할 수 있는 비즈니스 플랫폼으로 기업들이 생성 AI와 업무 시스템을 보다 쉽게 연결할 수 있도록 지원한다.

ㆍ"생성AI로 RPA 한계 넘는다"...삼성SDS, LLM 기반 하이퍼오토메이션 베팅

회사 측에 따르면 삼성SDS는 현재 임직원들을 대상으로 패브릭스를 테스트 중이고 생성형AI 도입을 원하는 고객과 개념검증(PoC)도 진행 중이다. 검증을 완료한 후에 상품화해 삼성SDS 클라우드 플랫폼인 삼성클라우드플랫폼 ‘SCP’를 통해 고객에게 제공할 예정이다.

삼성SDS는 생성형 AI 사업 확대 일환으로 인수합병도 적극 검토한다는 방침이다. 삼성SDS는 지난달말 4분기 실적 발표후 가진 컨퍼런스콜에서 "M&A는 항상 적극적으로 검토하고 있지만, 올해는 더 적극적으로 클라우드 사업뿐만 아니라 생성형 AI 관련 기술과 역량 확보를 위해 M&A 준비를 해야 한다"고 강조했다.

LG CNS도 올해들어 생성형 AI 사업에 확대애 적극적ㄷ이다.  지난 1월에는 AI 분야 기술연구, 사업발굴·수행 조직을 통합해 엔터프라이즈 AI 전문 조직 ‘AI센터’를 신설했다.

ㆍLG CNS, ‘AI센터’ 출범...엔터프라이즈 생성형 AI 사업 본격화