microLED: 헤드램프부터 데이터 센터까지

학습 및 추론용 AI의 수요가 급증하면서 장비 제조업체는 시스템의 컴퓨팅 용량을 늘려야 하는 압박에 시달리고 있습니다. 오늘날 주요 병목 현상의 문제는, 고성능 가속기(GPU 및 NPU(신경망 처리 장치와 같은 'xPU' 장치)가 AI 데이터 입력을 놀라울 정도로 빠른 속도로 처리하기 때문에 컴퓨팅 기능 자체에 있다고 볼 수 없습니다. 문제는 xPU 간, xPU와 메모리 간, 그리고 랙 내 서버 간 데이터 전송 속도입니다.

익숙하고 저렴하며 전기 회로에 쉽게 통합할 수 있는 기존의 구리 전기 인터커넥트는 확장성이 떨어집니다. AI 컴퓨팅 시스템을 확장하는 데 필요한 거리(최대 30m)에서 구리 인터커넥트는 더 높은 전송 에너지, 더 강력한 이퀄라이제이션, 그리고 전자기 간섭(EMI) 문제를 해결하기 위한 더 복잡한 신호 조정이 필요합니다. 이로 인해 구리 링크는 더 많은 전력을 소비하고 더 많은 열을 발생시키게 됩니다. 이는 장비 제조업체가 대역폭 밀도(기가비트/초/mm)를 높이고 시스템 효율과 안정성을 향상시키려는 노력을 무산시킵니다.

따라서 데이터 센터는 네트워크 대역폭을 늘리기 위해 광 인터커넥트 기술로 눈을 돌렸습니다. 이를 위해 데이터 센터는 인터넷 백본 기술을 도입했습니다. 대륙 간 인터넷 트래픽을 제한된 수의 (설치 및 유지 관리가 매우 어렵고 비용이 많이 드는) 해저 케이블을 통해 전송하는 기업들은 케이블당 처리량을 극대화하는 기술을 터득했습니다. 오늘날의 대륙 간 광 전송 네트워크는 레인당 최대 1.6테라비트/초의 높은 속도로 작동하는 링크를 가지고 있습니다.

이것이 대역폭을 극대화하는 '빠르고 좁은' 접근 방식으로, 각 광 '파이프'를 통해 가능한 한 많은 데이터를 최대한 빠르게 전송하는 방식입니다. 하지만 이러한 고주파 시스템은 복잡하고 전력 소모가 많으며 비용이 많이 듭니다. 게다가 각 링크는 시스템 가용성에 심각한 위험을 초래하는 단일 장애 지점입니다. 그 밖에도, 레인당 속도와 처리량을 늘릴 때마다 구현이 기하급수적으로 어려워지고 비용이 많이 들기 때문에 빠르고 좁은 아키텍처를 얼마나 더 확장할 수 있을지는 불분명합니다.

인터넷 인프라에서 케이블링 비용이 높다는 것은 운영자가 케이블당 데이터 처리량을 극대화할 수밖에 없다는 것을 의미합니다. 하지만 데이터 센터는 이러한 제약에 직면해 있지 않습니다.