빛의 속도를 프로그래밍하다 — AI 서버 병목을 풀 국내 광집적회로 연구 심층 분석

생성형 AI와 초거대 모델의 확산은 데이터센터와 서버에 감당하기 어려운 수준의 연산 부담을 지우고 있다. 기존 전자 반도체는 이 부담을 따라가는 데 한계를 드러내고 있는데, 데이터를 처리하고 옮기는 과정에서 소비되는 전력량이 급격히 늘어나고 있는 데다 데이터 전송 속도 자체도 물리적 한계에 가까워지고 있기 때문이다. 이런 상황에서 전기 신호 대신 빛을 이용해 정보를 처리하는 광컴퓨팅이 유력한 대안으로 떠오르고 있다. 빛은 이론적으로 훨씬 빠르고 적은 에너지로 대량의 데이터를 옮길 수 있지만, 여기에는 오히려 빛이 가진 근본적인 성질이 걸림돌이 된다. 빛은 정해진 속도로 움직이기 때문에 신호를 일부러 늦추거나 잠시 붙잡아두는 일이 대단히 어렵고, 이런 지연·버퍼링 기능이야말로 여러 신호를 정확한 시점에 맞춰 처리해야 하는 컴퓨팅 시스템에는 필수적이다.

서울대학교 전기·정보공학부의 박남규·유선규 교수 연구팀은 서울시립대학교 전자전기컴퓨터공학부의 표시안 교수와 함께 이 문제에 정면으로 도전했다. 연구팀이 국제학술지 '어드밴스드 사이언스(Advanced Science)'에 발표한 논문은 빛의 속도를 필요에 따라 실시간으로 늦출 수 있는 프로그래머블 광집적회로를 제시한다. 이 기술은 여러 개의 광공진기 사이에서 일어나는 간섭 현상을 이용해 특정 주파수 대역의 빛만 선택적으로 통과시키면서 동시에 그 속도를 늦추는 '결합공진기 유도 투명성(CRIT)' 원리를 기반으로 한다. 문제는 기존 CRIT 소자가 한 번 제작되면 지연 시간이나 작동 주파수 대역이 고정돼 버린다는 점이었다. 새로운 기능이 필요할 때마다 소자를 처음부터 다시 설계하고 제작해야 했고, 이는 광통신 장비와 데이터센터 인프라의 개발 비용과 기간을 늘리는 고질적인 걸림돌로 지적돼 왔다.

연구팀이 제시한 해법은 발상의 전환에 가깝다. CRIT 시스템에는 '밝은 모드'와 '어두운 모드'라 불리는 두 가지 광학 상태가 존재하는데, 연구팀은 이 둘을 서로 별개로 다루지 않고 하나의 통합된 자유도로 재해석했다. 여기에 전기적으로 제어 가능한 두 개의 루프 결합기를 추가함으로써, 한 번 만들어진 회로라도 지연 시간과 대역폭, 신호의 형태까지 실시간으로 바꿀 수 있는 구조를 완성했다. 이는 마치 소프트웨어를 업데이트하듯 하드웨어의 동작 방식을 바꿀 수 있다는 뜻이며, 연구팀은 이를 통해 신호 동기화, 가변 지연선, 광 버퍼, 주파수 변환처럼 그동안 별도의 장치가 각각 담당하던 기능들을 하나의 칩에 통합할 수 있는 가능성을 열었다고 설명한다.

연구팀은 이 설계가 실제로 작동할 수 있는지를 검증하기 위해 실리콘 질화물(Si3N4) 기반 광집적회로 플랫폼을 대상으로 3차원 전자기 시뮬레이션을 수행했다. 단순히 이상적인 조건에서의 성능만 확인한 것이 아니라, 소재의 손실, 공진기 품질의 편차, 빛의 후방산란, 결합 세기의 미세한 변동, 루프 결합기의 위상 오차, 그리고 주변 회로에서 발생하는 열이 인접 부품에 영향을 주는 열간섭 현상까지 폭넓게 고려했다. 시뮬레이션 결과, 제안된 구조는 이런 실제 제작·운용 환경에서도 처리 성능 저하 없이 안정적으로 신호 지연 시간을 조절할 수 있는 것으로 나타났으며, 별도의 전용 부품 없이도 빛의 주파수를 변환하는 기능까지 구현 가능하다는 점이 확인됐다.

연구를 이끈 박남규 교수는 "광집적회로 내부에서 빛의 흐름을 필요에 따라 재구성할 수 있도록 하는 새로운 설계 원리를 제시했다는 점에서 의미가 있으며, 앞으로 실리콘 포토닉스와 포토닉 AI 기술을 기반으로 한 대규모 프로그래머블 광집적회로로 이 기술을 확장해 나갈 계획"이라고 밝혔다. 이론적 프레임워크와 수치 해석을 주도한 박승균 박사와 채범준 박사과정생은 "기존의 광공진기 물리학을 다른 관점에서 재해석하는 것이 광집적회로의 새로운 기능을 발견하는 출발점이 될 수 있다는 것을 이번 연구를 통해 깨달았다"며 "실제 소자 구현과 실험적 검증으로 연구를 더 발전시켜 나갈 것"이라고 덧붙였다. 박승균 박사는 KAIST InnoCORE PICORE 센터 소속으로 서울대 광시스템연구실에서 포토닉 AI와 양자광학을 연구 중이며, 이번 연구는 과학기술정보통신부의 혁신연구센터(IRC), 기초연구실(BRL), 신진연구자 지원 사업의 지원을 받아 수행됐다.

이번 성과가 곧바로 상용 제품으로 이어지는 것은 아니다. 논문 자체도 시뮬레이션을 통한 이론적 검증 단계이며, 연구팀 스스로 실제 소자 제작과 실험 검증이 다음 과제라고 밝히고 있다. 그럼에도 이 연구가 주목받는 이유는 명확하다. AI 서버와 데이터센터가 요구하는 신호 처리 용량이 기하급수적으로 늘어나는 상황에서, 하나의 칩이 여러 광학적 기능을 프로그래머블하게 수행할 수 있다면 장비의 소형화와 비용 절감, 나아가 에너지 소비 감소로 이어질 수 있기 때문이다. 연구팀이 밝혔듯 이런 설계 원리는 CRIT 시스템을 넘어 공진기를 기반으로 하는 다양한 광집적회로에도 적용될 수 있어, 장기적으로는 자율주행, 차세대 통신, 양자 기술 등 초고속 정보 처리가 필요한 여러 산업 분야로 파급될 잠재력을 지니고 있다.