[더테크 이지영 기자]  빛(광학)을 기반으로 동작하는 양자컴퓨터는 빠른 속도와 높은 확장성을 강점으로 차세대 컴퓨팅 기술의 핵심으로 주목받아 왔다. 그러나 여러 빛 신호가 동시에 얽혀 움직이는 복잡한 양자 연산을 실험적으로 규명하는 것은 난제로 여겨져 왔다. KAIST 연구팀이 이 한계를 뛰어넘어 다중 광학모드 양자연산을 CT처럼 시각화하는 세계 최초 기술을 개발했다.

KAIST 물리학과 라영식 교수 연구팀은 다중 광학모드를 기반으로 작동하는 양자컴퓨터 내부 연산을 빠르고 정확하게 파악할 수 있는 ‘양자연산 토모그래피’ 기술을 개발했다고 17일 밝혔다. 기존에는 5개 이상의 광학 모드를 분석하는 것조차 어려웠으나, 이번 성과는 최소한의 데이터로도 대규모 양자 연산을 정밀하게 복원할 수 있는 돌파구를 열었다.

토모그래피는 의료 CT처럼 내부에서 어떤 변화가 일어나는지를 다각도로 관찰해 구조를 복원하는 기술이다. 양자컴퓨팅에서도 동일한 개념이 필요하지만, 조작 가능한 큐빗 또는 광학 모드 수가 증가할수록 분석에 필요한 실험 횟수가 기하급수적으로 늘어나 기존 방식으로는 확장이 불가능했다. 연구팀은 새로운 수학적 표현과 데이터 분석 프레임워크를 도입해 이 과제를 해결했다.

핵심은 양자연산을 ‘증폭 행렬’과 ‘잡음 행렬’ 두 가지 틀로 분리해 해석하는 방식이다. 비선형 광학 과정으로 인해 빛의 양자 상태가 어떻게 증폭되고 변화했는지를 증폭 행렬로, 외부 환경에 따른 손실·잡음이 얼마나 섞였는지를 잡음 행렬로 각각 따로 분석한다. 이를 통해 이상적 연산과 비이상적 현실적 변화를 독립적으로 추적할 수 있는 양자 상태 지도가 완성됐다.

연구팀은 다양한 종류의 빛 신호(양자 상태)를 입력해 출력 변화를 정밀 관측한 뒤, 최대우도추정 기반 통계 기법을 활용해 실제 내부 연산을 역추적하는 방식으로 기술을 완성했다. 그 결과 기존보다 훨씬 적은 데이터로 16개 광학 모드까지 정확한 양자연산 복원이 가능함을 입증했다.

이번 연구는 광학 기반 양자컴퓨팅, 양자통신, 고정밀 양자센싱 기술의 확장성 문제를 해결할 수 있는 기반 기술로 평가된다. 복잡한 양자 연산을 실험적으로 빠르게 확인할 수 있게 되면서, 차세대 양자 디바이스 개발 속도 역시 크게 가속될 전망이다.

연구 성과는 향후 대규모 광학 양자컴퓨터 검증 프로세스, 고차원 양자 네트워크 안정성 확보, 양자 오류 보정 구조 연구 등 다양한 분야로 확장될 것으로 기대된다.