엔비디아가 보는 AI 서버의 다음 병목

“진짜 비용은 칩 안이 아니라 칩 사이에서 샌다”

 

AI 서버의 숨은 병목을 뚫다 : 엔비디아가 '빛'에 투자하는 이유

 

 

최근 엔비디아가

루멘텀, 코히어런트, 마벨, 코닝

광통신·광학 부품 기업들과 잇달아 투자 및 협력 소식을 발표했습니다.

 

 

 

빛의 설계도 : 엔비디아는 왜 빛에 투자하는가?

 

 

겉으로 보면 단순히 광통신 부품 회사를 챙기는 뉴스처럼 보이지만,

더 깊게 보면

AI 데이터센터의 다음 병목이

어디인지를 보여주는 중요한 신호입니다.

 

 

GPU 밖으로 향하는 천문학적 투자 : Lumentum, Coherent, Marvell, Corning

 

1. AI 서버의 경쟁 축이 바뀌고 있다

 

지금까지 AI 인프라의 핵심은 주로 다음 네 가지였습니다.

더 좋은 GPU,

더 큰 HBM,

더 미세한 공정,

더 많은 전력

 

하지만 AI 모델이 커지고

GPU 수가 수천 개 단위로 늘어나면서

새로운 문제가 생겼습니다.

 

AI 공장의 진짜 병목 : 멈춰버린 컨베이어 벨트

 


바로 칩과 칩 사이의 데이터 이동 비용입니다.

 

GPU 하나가 빠른 것과

GPU 수천 개가 동시에 효율적으로 일하는 것은 전혀 다른 문제입니다.

 

기다림의 비용과 전력의 위기


GPU들이 서로 계산 결과를 주고받아야 하는데,

이 연결이 느리면 아무리 비싼 GPU라도 기다리게 됩니다.

 

즉, AI 데이터센터에서 가장 비싼 낭비는 장비가 없는 것이 아니라,
이미 산 장비가 놀고 있는 시간입니다.


구리선의 한계 : 좁은 복도의 교통 체증

 

2. 왜 ‘광통신’이 중요해졌나?

 

기존 데이터센터 내부 연결은

주로 전기 신호, 즉

구리선 기반이었습니다.


짧은 거리에서는

구리선이 싸고 편합니다.

 

하지만 데이터 전송 속도가 빨라지고

거리가 길어지면

문제가 생깁니다.

 

전기 신호는

거리가 길어질수록 약해지고,

잡음이 생기고,

열이 발생합니다.


이를 보정하기 위해

리타이머, 앰플리파이어 같은 장치가 필요하고,

이 장치들이 다시 전기를 먹고 열을 만듭니다.

 

AI 데이터센터에서는

연산 장치뿐 아니라 메모리, 냉각, 네트워크, 전력 변환, 데이터 이동까지 모두 비용입니다.

 

그래서 이제는 데이터를 옮기는 전력 비용 자체가

중요한 문제가 되었습니다.

 

이 틈으로 들어오는 기술이 바로 광학 인터커넥트, 즉

빛을 이용한 연결 기술입니다.


빛은 '멀리, 많은 데이터'를 보낼 때 전기 신호가 치르는 비용을 없애기 때문에 중요합니다.

 

 

3. 빛은 왜 유리한가?

 

빛이

모든 면에서

전기보다 좋다는 뜻은 아닙니다.


가까운 거리에서는

여전히 전기 신호가 싸고 효율적입니다.

 

실리콘 포토닉스 : 전자와 광자의 완벽한 역할 분담

 

 

하지만 더 멀리, 더 빠르게, 더 많은 데이터를 보내야 할 때는

빛의 장점이 커집니다.

 

전기 신호가 좁은 복도에서

사람들이 부딪히며 이동하는 방식이라면,

 

 

 

내부 도로폭의 진화 : 스펙트럼-x와 409.6Tbps

 

광신호는

전용 터널을 통해 데이터를 보내는 방식에 가깝습니다.

 

초기 구축 비용은 있지만,

일정 규모 이상에서는 손실과 전력 부담을 줄이는 데 유리합니다.

 

핵심은 이것입니다.

빛이 중요한 이유는 멋있어서가 아니라,

대규모 AI 서버에서 데이터 이동 비용을 줄일 수 있기 때문입니다.


4. CPO란 무엇인가?

이번 흐름에서 자주 등장하는 개념이 CPO(Co-Packaged Optics)입니다.

 

 

CPO (Co-Packaged Optics) : 빛을 칩이 심장부로 당기다

 

 

쉽게 말하면,

광학 부품을 스위치 칩 가까이에 붙이는 구조입니다.

 

기존 방식에서는 스위치 칩에서 나온 전기 신호가

보드 위를 지나

플러그형 광트랜시버에 도착한 뒤

빛으로 바뀌었습니다.


즉, 빛을 쓰긴 했지만

전기 신호가 꽤 긴 거리를 이동해야 했습니다.

 

CPO는 이 변환 지점을

칩 가까이로 당깁니다.

 

“어차피 빛으로 바꿀 거라면,

멀리 가서 바꾸지 말고

칩 옆에서 바로 바꾸자”는 개념입니다.

 

이렇게 되면 전력 효율과 네트워크 안정성이 좋아질 수 있습니다.

 

다만 고장 대응, 제조 난이도, 열 관리, 수율, 유지보수는 훨씬 까다로워집니다.


빛의 밸류체인 : 엔비디아 투자의 거대한 퍼즐이 맞춰지다

 

5. 엔비디아가 광통신 기업에 투자하는 이유

 

엔비디아가

루멘텀, 코히어런트, 마벨, 코닝 등과

협력하는 이유는

단순히 부품을 사기 위해서만은 아닙니다.

 

각 회사의 역할을 보면 그림이 명확해집니다.

 

 

빛의 밸류체인 : 엔비디아 투자의 거대한 퍼즐이 맞춰지다

 

 

루멘텀코히어런트

레이저와 광학 부품 쪽입니다.


마벨

커스텀 XPU와 고속 네트워킹에 강점이 있습니다.


코닝

광섬유와 유리 소재라는 물리적 기반을 담당합니다.

 

이를 하나로 묶으면

엔비디아가 보고 있는 방향은 분명합니다.

 

AI 서버의 중심축이

연산 장치에서

연결 장치로 확장되고 있다는 것입니다.

 

이제는 “누가 가장 빠른 GPU를 만드느냐”뿐 아니라,
그 GPU들을 얼마나

손실 없이 묶어낼 수 있느냐가 경쟁력이 되고 있습니다.


 

6. AI 데이터센터는 ‘거대한 공장’이다

AI 데이터센터를 공장으로 비유하면 이해가 쉽습니다.

 

GPU 하나하나는

매우 빠른 기계입니다.


하지만 기계 사이를 오가는

컨베이어 벨트가 느리면 공장 전체 생산량은 떨어집니다.

 

 

AI 공장의 진짜 병목 : 멈춰버린 컨베이어 벨트

 

 

기계 하나의 성능이 아무리 좋아도,

중간 이동 구간이 막히면 전체 처리량은 가장 느린 구간에 의해 결정됩니다.

 

AI 서버도 마찬가지입니다.

GPU가 계산을 끝냈는데

다른 GPU의 데이터가 아직 도착하지 않으면,

먼저 끝낸 GPU는 기다릴 수밖에 없습니다.


그 시간에도

전력은 들어가고,

냉각은 계속되고,

장비 감가상각도 진행됩니다.

 

그래서 연결 기술은 단순한 보조 장치가 아니라
AI 데이터센터의 운영 효율을 좌우하는 핵심 인프라가 되고 있습니다.


 

 

7. 국내 광통신 기업을 볼 때 주의할 점

이 흐름 때문에

국내에서도 광통신, 실리콘 포토닉스, CPO 관련 기업들이 다시 주목받고 있습니다.

 

하지만 여기서 중요한 주의점이 있습니다.

광통신이라는 키워드 하나로

모든 기업을 같은 수혜주로 묶으면 위험합니다.

 

광섬유 회사,

광트랜시버 회사,

레이저 소자 회사,

실리콘 포토닉스 설계 회사,

CPO용 광엔진 회사는

모두 위치가 다릅니다.

 

특히 CPO는

기존 플러그형 광트랜시버와 구조가 다릅니다.


플러그형은

USB처럼 문제가 생기면 뽑아서 교체할 수 있지만,

CPO는

핵심 칩 가까이에 내장되는 방식이라

유지보수와 제조 난이도가 훨씬 높습니다.

 

빛의 시대를 가로막는 3가지 물리적 장벽

 

 

따라서 단순히 “광통신 테마”로 접근하기보다는,
해당 기업이

AI 데이터센터 내부 연결 구조에서

실제로 어떤 역할을 맡을 수 있는지를 봐야 합니다.


AI가 커질 수록 진짜 비용은 칩 내부가 아니라, 칩 사이에서 샌다

 

8. 아직 확정된 미래는 아니다

CPO와 실리콘 포토닉스는

매우 중요한 방향이지만, 아직 완성된 결론은 아닙니다.

 

앞으로 확인해야 할 요소가 많습니다.

고객 인증,

장기 신뢰성,

수율,

열 관리,

먼지와 진동 대응,

교체성,

실제 데이터센터 적용 여부가 모두 중요합니다.

 

특히 AI 서버 주변은

이미 매우 뜨겁습니다.


빛을 쓴다고 해서

열 문제가 사라지는 것이 아니라,

오히려 더 정교한 열 관리가 필요해질 수 있습니다.

 

따라서 투자 관점에서는 발표 자료나 키워드만 볼 것이 아니라,
실제 고객 시스템에 얼마나 들어가는지를 확인해야 합니다.


9. 앞으로 봐야 할 체크포인트

앞으로 AI 인프라 시장을 볼 때는 다음 질문이 중요해집니다.

 

첫째, 엔비디아의 포토닉스 기반 스위치가
실제 고객 시스템에 얼마나 채택되는가.


둘째, 광학 부품이 서버 바깥 장비에 머무는가,

아니면 스위치 칩과 패키지 근처까지 들어오는가.


셋째, CPO 도입으로

실제 전력 효율과 네트워크 안정성이 얼마나 개선되는가.


넷째, 광통신 기업 중

누가 단순 테마가 아니라

실제 공급망에 들어가는가.

 

이 네 가지가 확인되어야

광통신과 실리콘 포토닉스의 진짜 수혜 기업을 구분할 수 있습니다.


결론: AI가 커질수록 돈은 ‘칩 사이’에서 샌다

엔비디아의 이번

광통신 투자는

단순한 주변 부품 투자가 아닙니다.


AI 서버의 다음 병목이 어디인지

미리 보고 움직이는 전략적 포석에 가깝습니다.

 

지금까지 AI 인프라의 질문은 주로 이것이었습니다.

누가 가장 빠른 칩을 만드느냐?

 

하지만 앞으로는 질문이 하나 더 추가됩니다.

그 빠른 칩들을 누가 가장 효율적으로 연결하느냐?

 

AI 모델이 커지고 데이터센터가 거대해질수록

진짜 비용은 칩 내부가 아니라


칩과 칩 사이,

서버와 서버 사이,

랙과 랙 사이에서 발생할 가능성이 큽니다.

 

그래서 광통신, CPO, 실리콘 포토닉스는 단순한 기술 키워드가 아니라
AI 인프라의 다음 전쟁터로 봐야 합니다.

 
 
 
 

+ Recent posts