AI, 인간 개입 없이 사이버공격 자율 실행 가능…연구

[디지털투데이 AI리포터] 인공지능(AI)이 인간의 개입 없이 사이버공격을 계획하고 실행할 수 있는 수준에 도달했다고 지난 2일(현지시간) IT매체 테크레이더가 보도했다. 

카네기멜런대와 앤트로픽이 공동 연구한 결과, AI가 직접 명령 없이도 복잡한 해킹을 수행할 수 있는 것으로 나타났다.

연구팀은 2017년 발생한 에퀴팩스(Equifax) 해킹을 AI 모델을 활용해 재현했다. 그 결과, AI가 인간의 직접적인 명령 없이도 네트워크 침입, 악성코드 배포, 데이터 추출까지 성공적으로 수행했다. 기존 AI 보안 실험이 제한된 환경에서 진행된 반면, 이번 연구는 실제 네트워크 조건을 적용해 AI의 자율적 해킹 가능성을 입증했다.

이번 연구에서 AI는 단순한 명령 수행자가 아닌, 전체 공격을 계획하고 하위 에이전트들에게 작업을 분배하는 역할을 했다. 이는 AI가 코드 실행이나 로그 분석 없이도 환경을 이해하고 적응할 수 있음을 보여준다. 연구는 실험실 환경에서 진행됐지만, AI가 실제 사이버공격에 활용될 가능성을 시사하며, 보안 업계에 큰 충격을 주고 있다.

AI가 자율적으로 네트워크 침입을 실행할 수 있다면, 악의적인 해커들이 이를 활용해 대규모 공격을 감행할 가능성도 배제할 수 없다. 반면, AI가 현실적인 공격을 모방할 수 있다면 보안 시스템을 테스트하고 취약점을 사전에 발견하는 데 활용될 수도 있다. 연구팀은 이번 실험이 완전한 자율 공격을 의미하는 것은 아니지만, 중요한 첫걸음이라고 평가했다. 후속 연구에서는 AI를 활용한 방어 기술 개발도 진행 중이다.