AI 보안의 경계가 챗봇과 생성형 AI에서 에이전트와 피지컬 AI로 확장되고 있다. AI가 화면 속 답변 도구에 머물지 않고 기업 시스템과 물리 환경에서 직접 행동하는 주체가 되면서, 개발 단계 안전성 평가만으로는 배포 이후의 위험을 감당하기 어렵다는 지적이 나온다. 이런 흐름 속에서 AI 보안 스타트업 에임인텔리전스가 엔비디아 인셉션 그랜드 챌린지 2026 아시아·태평양 결승 톱20에 진출해 자사의 통제 체계를 소개했다.
레드티밍과 실시간 통제를 하나로 묶는 흐름
엔비디아 인셉션 그랜드 챌린지 2026은 1만개 스타트업 중 아시아·태평양 지역 결승 진출 기업 20곳을 선정하는 대회로, 한국 준결승은 8월 27일 열렸다. 에임인텔리전스는 이 자리에서 자사의 ‘AIM 컨트롤 루프’를 소개했다. 이 체계는 취약점을 탐색하는 레드티밍과 실시간 방어를 하나의 순환 구조로 묶어, 위험 탐색-실시간 방어-정책 반영-재검증을 반복하는 방식으로 작동한다.
이 순환 구조를 구성하는 두 축은 자동화 레드티밍 플랫폼 ‘스팅어(Stinger)’와 실시간 보안 솔루션 ‘가디언(Guardian)’이다. 스팅어는 텍스트·음성·이미지·영상 등 다양한 입력의 취약점은 물론 에이전트와 피지컬 AI의 위험 행동까지 시험한다. 가디언은 입력과 출력뿐 아니라 도구 호출, 시스템 접근, 물리적 행동까지 실시간으로 탐지하고 제한하는 역할을 맡는다.
보안 범위, 챗봇에서 물리 세계로
박하언 에임인텔리전스 최고기술책임자는 “AI가 화면 속에서 답변하는 도구를 넘어 기업 시스템과 물리 세계에서 직접 행동하는 주체로 진화하면서 중요한 질문은 ‘AI가 무엇을 할 수 있는가’에서 ‘누가 AI를 통제할 것인가’로 바뀌고 있다”고 말했다. 이는 AI 보안이 더 이상 언어모델의 답변 품질 관리에 머물 수 없다는 판단과 맞닿아 있다. 에이전트가 도구를 호출하고 시스템에 접근하며, 피지컬 AI가 실제 장비와 로봇을 움직이는 상황에서는 배포 전 평가만으로 위험을 걸러낼 수 없기 때문이다.
이 같은 통제 체계는 온프레미스부터 대규모 GPU 인프라까지 동일하게 적용될 수 있어, 규제산업에서도 자체 인프라 안에서 검증 환경을 구축할 수 있다는 점이 특징으로 꼽힌다. 에임인텔리전스는 지금까지 36편 이상의 AI 안전성·보안 논문을 발표하고 160개 이상의 AI 모델을 평가한 연구 기반을 이 체계에 녹였다.
결승은 9월 22일, 기업 매칭까지 이어져
결승과 기업 매칭 프로그램은 9월 22일 예정돼 있으며, 최종 톱10에 오르는 기업은 글로벌 혁신 행사에서 기술을 소개하고 엔비디아 및 파트너사와 협력할 기회를 얻는다. 박하언 CTO는 “생성형 AI와 에이전틱 AI, 피지컬 AI를 포괄하는 글로벌 AI 보안·통제 기업으로 성장하겠다”고 밝혔다.
AI가 채팅창 밖으로 나와 시스템과 물리 환경을 움직이는 주체가 된 지금, 보안의 초점도 답변 하나하나를 검열하는 방식에서 행동을 실시간으로 통제하는 방식으로 옮겨가고 있다. 이번 톱20 진출은 그 이동이 실제 기술 체계로 구현되고 있음을 보여주는 사례로 볼 수 있다.