[이형근 뉴렐릭 코리아 대표] 2023년은 인공지능(AI)이 전 산업분야를 휩쓸며 영향을 미쳤던 기념비적인 한 해였다. 특히 소프트웨어 개발에 있어서는 생성형 AI가 가져올 혁신의 미래를 들여다볼 수 있는 계기가 되기도 했다.

모든 분야에서 AI를 통해 얻을 수 있는 그 가능성은 무궁무진했으며, 옵저버빌리티도 예외는 아니다. 옵저버빌리티 부문에서 생성형 AI는 엔지니어들이 문제를 더 빨리 파악하고 해결할 수 있도록 힘을 실어줄 수 있다. 이때 옵저버빌리티를 위한 생성형 AI 솔루션은 다음과 같은 방식으로 단계적으로 진화하며 엔지니어의 사용자 경험을 더욱 향상시킬 수 있다. 
 
맥락을 고려한 AI 지원으로 사용자 경험 최적화

오늘날 생성형 AI 솔루션들은 일반적으로 업계에 특화된 제품이 아닌 챗GPT와 같은 범용적인 인공지능 어시스턴트를 통해 생성형 AI 기능을 이용할 수 있다. 예를 들어, 엔지니어는 챗GPT에게 특정 제품과 관련된 질문을 한 뒤 그 답변을 다시 제품에 직접 적용해야 한다. 이런 방식은 유용할 순 있으나, 이상적이지는 않다.
 
앞으로는 생성형 AI 제품이 각 영역에 특화된 어시스턴트를 제공하면서도 챗GPT와 비슷한 방식으로 작동되어 사용자 경험은 더욱 향상될 것이다. 어시스턴트들은 제품 내에 바로 통합되어 특정 영역의 쿼리와 업무들을 해결할 수 있도록 미세조정된다. 이런 방식으로 제품이 사전에 사용자의 질문 맥락을 이해하고 있어 엔지니어들이 매 요청마다 관련 배경을 제공하지 않아도 되는 이점이 있다. 어시스턴트의 답변 역시 사용자의 현재 상황과 맥락에 적합한 방식으로 제공된다. 

또한, 기존 범용 생성형 AI 어시스턴트들은 아직 그럴듯하지만 사실과는 다른 답변을 내놓는 경우가 있다. 하지만 각 영역에 특화된 생성형 AI 어시스턴트는 주제 범위를 좁혀 이러한 답변을 내놓을 가능성을 최소화시킨다. 
 
의사결정 및 업무 효율 향상을 위한 인사이트 제공

다음 단계에서는 생성형 AI가 엔지니어의 프롬프트 없이도 직접 인사이트를 도출해 참고할 수 있는 가이드를 제공할 수 있을 것이다. 예를 들어, APM 기반의 애플리케이션 이용하는 경우, 요청하지 않아도 ‘성능 향상을 위해 자바 VM 설정을 조정하세요’라는 가이드를 받게 된다. 추천을 거부하면, 어시스턴트는 사용자가 거부할만한 비슷한 제안은 하지 않도록 학습한다. 이러한 방식으로 자동 제안 기능은 엔지니어들이 많은 경험이 없어도 필요한 인사이트를 바로 얻을 수 있어 매우 유용하다.
 
AI 어시스턴트는 사용자의 패턴을 관찰하거나 다른 이들의 경험을 통해 학습함으로써 이러한 가이드를 제공할 수 있다. 다만 이 때 생성형 AI 플랫폼이 적절한 동의 없이 모델 향상을 위해 데이터와 프롬프트를 사용하지 않도록 투명한 관리기능과 가이드라인 및 거버넌스를 제공하는 제품을 택해야 한다. 
  
자동화를 통한 혁신

마지막으로, 생성형 AI를 활용한 옵저버빌리티의 혁신을 위해서 제품 내 더 많은 자율성이 확보되고 더 많은 자동화가 이루어질 것이다. AI 어시스턴트는 사람 수준의 감독 기능을 하면서 다양한 수준의 자율성을 기반으로 사용자를 대신해 작업하게 될 것이다. 
 
해당 수준에 다다르면 엔지니어들은 일정한 목표를 어시스턴트에게 할당하면서 해당 목표를 달성하기 위해 지켜야할 금지사항 및 가드레일을 함께 제공한다. 예를 들어, 어시스턴트가 추가 리소스를 사용하지 않고 특정 서비스의 성능을 향상시킬 수 있는 방법을 찾아야하는 경우, 생성형 AI 어시스턴트는 직접 기존의 관련 문제 해결 경험을 활용하여 작업을 수행할 수도 있다. 

이때 해결 방법을 알아내고, 계획을 고안하고, 접근 방식을 승인하기 위해서 어시스턴트들은 사람과 비슷하게 다양한 텔레메트리 데이터, 툴, 환경 등에 대한 접근이 필요할 것이다. 개발, 테스팅, 자동화, 시뮬레이션 및 실험 도구와 같은 리소스도 필요하며 개발, 테스팅, 스테이징, 제작에 이르는 다른 작업 환경도 고려해야된다. 생성형 AI 어시스턴트는 자기인식과 자기감독을 통해서 특정 제한사항과 가드레일을 준수하는 목표를 달성하기 위한 작업 계획을 세울 것이다. 이러한 계획과 결과는 제작 전단계에서 사람이 확인 및 승인한 후 제작 과정에 적용될 것이다. 

이처럼 어시스턴트에게 목표를 위해 찾아보고, 발견하고, 실험하고 반복할 수 있는 자율성을 제공함으로써 엔지니어들은 직접 사람의 개입이 필요한 어려운 특정 상황에 집중할 수 있게되어 업무 효율을 배가시킬 수가 있다. 소프트웨어 개발 단계에 있어 생성형 AI 어시스턴트를 활용한 더 신속한 문제 발견과 해결, 엔지니어의 업무 효율 향상은 결국 기업의 비용절감과 역량 성장을 의미한다. 

생성형 AI가 알아서 문제를 발견하고 해결하는 자동화의 단계에 도달하는 것이 비현실적인 것처럼 보여도, 이미 현실에는 자율주행 자동차와 같은 더욱 복잡한 자동화된 시스템이 존재한다. 이에 엔지니어들의 업무 효율성을 획기적으로 향상시키고 한 단계 더 나아간 성과 달성을 목표로 하고 있는 기업이라면, 향후 기업 내 모든 소프트웨어 개발주기에 걸쳐 혁신적인 생성형 AI의 도입을 고려해볼 것을 제안한다.