국가 AI 경쟁력의 무게중심이 모델 개발에서 실제 서비스 운영으로 옮겨가고 있다. 우수한 AI 모델을 만드는 것과 이를 국민 다수가 실제로 쓰는 서비스로 안정적으로 구동시키는 것은 전혀 다른 문제라는 인식이 정부 사업 설계에도 반영되고 있다.
과학기술정보통신부와 정보통신산업진흥원이 추진하는 '모두의 AI' 사업이 대표적이다. 이 사업은 국민 누구나 일상에서 AI를 활용할 수 있도록 공공·생활 서비스에 AI를 적용하고, 향후에는 실행형 AI로 발전시키는 것을 목표로 한다. 여러 AI 모델과 에이전트를 동시에 운영해야 하는 환경이 늘어나면서 연산량·메모리·응답속도를 관리하는 역량의 중요성도 함께 커지고 있다.
모델에서 인프라로, 역할 분담의 흐름
이 흐름 속에서 AI 모델 경량화·최적화 기업 노타(대표 채명수)가 SK텔레콤 컨소시엄에 참여해 AI 모델 인프라 분야를 담당한다. 노타는 자체 플랫폼 '넷츠프레소(NetsPresso)'를 활용해 모델 특성과 하드웨어 환경을 분석하고 연산량·메모리 사용량을 절감시켜, 데이터센터·기업 서버·엣지 디바이스 등 다양한 인프라에서 모델이 구동되도록 지원한다.
노타는 앞서 '독자 AI 파운데이션 모델(독파모)' 사업에도 참여한 바 있다. 모델 개발 단계에서 서비스 운영 단계로 이어지는 국가 AI 생태계 전 과정에 관여하고 있는 셈이다. 채명수 대표는 “국가 AI 경쟁력은 우수한 모델 개발을 넘어 국민이 실제 사용하는 서비스를 구현하고 이를 대규모 환경에서도 빠르고 안정적으로 운영하는 역량에서 완성된다”고 말했다.
채 대표는 이어 “'모두의 AI'에서도 모델 개발부터 실제 서비스 운영까지 최적화 역량을 폭넓게 적용해 대한민국이 독자적인 AI 기술과 활용 기반을 갖추는 데 기여하겠다”고 밝혔다. 모델 개발과 인프라 최적화가 분리된 역할로 자리 잡으면서, 국가 단위 AI 사업에서도 이 두 축을 함께 설계하는 방식이 자리를 잡아가는 모습이다.