SaaS 보안 기업 AppOmni는 ServiceNow Now Assist AI 에이전트의 기본 설정이 ‘두 번째 프롬프트 인젝션’ 공격을 유발, 데이터 유출 및 권한 상승으로 이어질 수 있다고 경고했습니다. 기업의 AI 보안 점검이 시급합니다.
SaaS 보안 전문 기업 앱옴니(AppOmni)는 ServiceNow의 ‘Now Assist’ AI 에이전트 플랫폼에서 심각한 취약점을 발견했다고 발표했습니다. 이 취약점은 악의적인 행위자가 AI 에이전트를 조작하여 무단 작업을 수행하도록 만들 수 있으며, 특히 ‘두 번째 프롬프트 인젝션(second-order prompt injection)’ 공격으로 발전할 수 있다고 경고했습니다. 이는 단일 악성 입력 이상의 광범위한 공격을 가능하게 합니다.
앱옴니의 SaaS 보안 책임자인 아론 코스텔로(Aaron Costello)에 따르면, 에이전트가 서로를 자동으로 검색하고 협력하도록 설정된 기본 구성이 문제의 원인입니다. 공격자는 데이터 필드 내에 숨겨진 명령을 심어 에이전트가 이를 읽게 하고, 같은 ServiceNow 팀 내 다른 에이전트의 도움을 받아 연쇄 반응을 일으킬 수 있습니다. 이로 인해 민감한 데이터 유출이나 시스템 내 권한 상승과 같은 치명적인 결과를 초래할 수 있습니다. 코스텔로는 이 현상을 AI가 시스템의 다른 부분에서 정보를 처리할 때 공격이 발생하는 “두 번째 프롬프트 인젝션”이라고 설명했습니다.
많은 조직이 AI 에이전트가 자동으로 그룹화되고 서로를 검색하도록 설정되어 있다는 사실을 인지하지 못할 수 있습니다. 개발자 개입 없이 에이전트 간 협력을 통해 단일 워크플로를 생성하는 Now Assist의 주요 강점 중 하나가 아이러니하게도 이러한 협력 공격을 가능하게 하는 요인이 됩니다. 이는 AI 자체의 버그가 아닌, 기본 구성 설정으로 인한 예상된 동작으로, 기업들은 현재 AI 에이전트의 구성 설정을 면밀히 검토하고 잠재적인 보안 위험에 대비할 것이 시급합니다.
키워드: ServiceNow, Now Assist, AI 에이전트, 프롬프트 인젝션, 보안 취약점
