AI 개발 속도를 일률적으로 늦추는 방식은 현실성이 떨어지고, 위험 수준에 따라 안전장치와 검증 체계를 달리 두어야 한다는 제안이 정부 세미나에서 나왔다. 에이전틱 AI 기업 포티투마루의 김동환 대표는 10월 1일 서울 중구 서울스퀘어에서 열린 국가인공지능전략위원회 ‘AI 개발 속도조절론 관련 세미나’ 패널 토론에 참여해 이같이 주장했다.
국가AI전략위 보안특별위원회가 이 세미나를 마련한 목적은 글로벌 프런티어 AI의 개발 속도조절론과 국내 대응 방향을 논의하는 것이었다. 프런티어 AI 역량 확보와 위험평가·안전검증·통제 체계 강화를 함께 다뤘다.
속도 조절 대신 위험 수준별 관리
김 대표는 개발 속도를 일률적으로 조절하는 방식의 현실성에 의문을 나타냈다. 대신 위험 수준과 활용 분야별로 관리하는 위험 기반(Risk-based) 체계를 제안했다.
김 대표는 국가AI전략위 공공AX분과 위원이기도 하다. 그는 이날 발언에서 속도 조절론 자체에 선을 그었다.
“글로벌 프런티어 모델 속도조절론 논쟁에 휩쓸려 대한민국의 AI 혁신이 흔들려서는 안 된다”며 “지금 필요한 것은 속도 조절이 아니라 안전성과 신뢰성을 검증할 수 있는 안전장치를 강화하는 것”
안전장치 구축과 국제 협력
포티투마루는 생성형 AI의 환각과 데이터 유출 같은 위험을 평가·통제할 기술적 안전장치를 공공·산업 현장에 구축해야 한다고 제안했다. 검증 가능한 범위에서 에이전틱 AI 활용을 넓히자는 주장도 폈다.
국제기구를 통한 다자 협력과 국제 AI 안전 규범 논의에서 한국이 적극적 역할을 해야 한다는 점도 강조했다.
행사 참석자와 포티투마루 제품
세미나에서는 하정우 국가AI전략위 상근 부위원장이 인사말을 했고, 이원태 보안특별위원장이 기조발제를 맡았다. 숭실대 AI안전성연구센터 최대선 센터장, 업스테이지 김성훈 대표, 에임인텔리전스 이한울 부사장은 각각 발표를 했고, 패널 토론에도 참여했다. AI안전연구소 김명주 소장도 패널로 나섰다.
포티투마루의 LLM42 v.1.1과 RAG42 v.1.3은 지난 9월 인공지능 제품·서비스 확인제 확인을 받았다. 포티투마루는 공공 AX 시장을 공략하고 있다.