양자컴퓨터 성능을 가르는 기준이 큐비트 수에서 연산 속도와 정확성으로 옮겨가고 있다. 연세대학교와 IBM은 4일 인천 송도 국제캠퍼스 양자컴퓨팅센터에서 차세대 양자컴퓨팅 플랫폼을 공개했다. IBM 퀀텀 시스템 원의 프로세서를 127큐비트 이글(Eagle)에서 120큐비트 나이트호크(Nighthawk)로 교체한 것이다.
큐비트 수보다 연산 능력
기존 시스템의 핵심 프로세서를 바꿔 연산 성능을 높이는 방식이다. 새 프로세서는 120개 프로그래머블 큐비트와 고속 큐비트 리셋 아키텍처를 기반으로 한다. 큐비트는 127개에서 120개로 줄었지만, 연세대 양자컴퓨터가 실행할 수 있는 양자회로는 초당 10만 개 이상이다. IBM이 제시한 회로 처리량 기준으로 기존 이글 시스템보다 25배 높다.
다만 양자컴퓨터 성능은 큐비트 수만으로 판단하기 어렵다. 양자 상태를 안정적으로 유지하면서 얼마나 많은 연산을 정확하고 빠르게 수행하느냐가 실제 연구 성능을 좌우한다. 회로 처리량이 높아지면 연구자가 같은 시간에 더 많은 실험을 진행하고 결과를 빠르게 확보할 수 있다.
IBM 펠로우 겸 양자중심슈퍼컴퓨팅 최고기술책임자(CTO)인 제리 차우(Jerry Chow)는 “양자 컴퓨팅에서 샘플은 발전을 이끄는 핵심 요소”라고 말했다. 그는 또 “나이트호크 r2를 통해 연세대학교의 양자컴퓨터는 초당 10만 개 이상의 회로를 실행할 수 있으며, 이는 IBM 퀀텀 이글 대비 25배 높은 회로 처리량”이라고 설명했다.
나이트호크 관련 수치는 더 있다. 관측 가능량을 정확하게 추정하는 기술적 목표를 달성한 회로는 게이트가 7,500개 이상이다. 양자 우위 후보 회로를 대상으로 한 초기 테스트에서는 정확도를 유지하면서 실행 속도가 최대 10배 빨라졌다.
IBM 퀀텀 네트워크 기관 최초의 자체 운영
연세대는 2024년 IBM 퀀텀 시스템 원을 도입했고, 약 2년 만에 첫 번째 프로세서 업그레이드를 마쳤다. 도입 당시에는 국내에 양자컴퓨터를 구축했다는 사실 자체가 주목받았다. 2년이 지난 지금은 같은 인프라의 계산 속도와 정확성, 그리고 연구·산업 성과로의 연결이 과제다.
IBM 퀀텀 네트워크 참여 기관이 자체 시설에서 나이트호크를 운영하는 것은 이번 연세대 사례가 세계 최초다. IBM은 양자 프로세서와 기존 고성능 컴퓨팅을 결합하는 양자중심 슈퍼컴퓨팅 전략을 제시하고 있다.
바이오 연구와 인재 양성
연세 바이오-퀀텀 이니셔티브(Yonsei Bio-Quantum Initiative)에 참여하는 연구진은 고전-양자 하이브리드 컴퓨팅 방식으로 복잡한 생물학적 시스템을 분석하는 연구를 추진하고 있다. 이 프로그램에서는 미토콘드리아 전자전달계 변이와 리 증후군(Leigh Syndrome)의 연관성을 공동 연구하고 있다.
새 프로세서는 연세대 양자정보학과 석·박사 과정 학생들의 연구와 교육에도 활용된다. 양자생태계운영센터, 양자컴퓨팅기술지원센터, 양자컴퓨팅센터를 중심으로 연구·교육 프로그램을 운영하고, IBM은 산업 전문가의 정기 강연 등 기술 지원을 이어간다.
정재호 연세대학교 양자사업단장은 “이번 나이트호크 프로세서 도입은 IBM과의 협력을 바탕으로 우리 대학이 세계적 양자 연구 및 산학협력의 핵심 허브로 자리매김하는 중요한 계기”라고 말했다. 정 단장은 바이오 등 산업계·연구기관과의 협력을 넓히고 차세대 인재를 키우겠다는 뜻도 밝혔다.
연세대는 이번 업그레이드를 바탕으로 국내 연구진과 기업이 최신 양자 인프라를 활용할 수 있는 협력 기반을 넓혀 갈 계획이다. 이번 업그레이드가 바이오 연구, 산업계 기술 검증, 인재 양성으로 이어지며 국내 양자 생태계에 새로운 실험의 기회가 열리고 있다.