최근 저는 AI Summit Seoul & Expo 참석을 위해 한국을 방문해 고객, 협력사 및 업계 리더들과 AI(인공 지능) 인프라가 얼마나 빠르게 발전하고 있는지에 대해 이야기를 나눌 기회가 있었습니다. 또한 행사에서는 업계 전반에서 점점 더 중요해지고 있는 한 가지 질문, 즉 이 모든 AI 투자가 네트워크에 어떤 의미를 갖는지에 대해 발표했습니다.

한국은 이러한 논의를 나누기에 특히 흥미로운 곳이었습니다. 한국은 AI 역량을 빠르게 확대하고 있으며, 이러한 성장을 뒷받침하는 데 필요한 인프라에도 큰 관심을 기울이고 있습니다. 행사에서 특히 인상적이었던 점은 한국에서 나눈 논의가 전 세계에서 나타나는 흐름과 매우 밀접하게 맞닿아 있었다는 것입니다. 여러 조직은 컴퓨팅 자원에 대규모 투자를 진행하고 AI를 실질적인 비즈니스 가치로 전환할 방법을 모색하는 한편, 다음 단계에 대비해 네트워크가 준비되어 있는지 질문하기 시작했습니다.

시장이 어디로 향하고 있는지 이해하는 한 가지 유용한 방법은 자금의 흐름을 살펴보는 것입니다. AI 투자는 급증하고 있으며, 투자가 늘어나는 곳에는 인프라도 뒤따르는 경향이 있습니다. 2026년에는 AI에 1조 달러 이상이 투자될 예정이며, 이는 소비자 AI, 코로케이션, GPU-as-a-Service, 토큰 팩토리, 애플리케이션, 도구 및 서비스를 중심으로 새로운 시장이 형성되는 데 기여할 것입니다. 클라우드와 마찬가지로, 더 큰 파급 효과는 이러한 인프라를 중심으로 형성되는 경제 생태계에서 나타날 수 있습니다. AI가 같은 경로를 따른다면 네트워크도 함께 진화해야 합니다.

기존네트워크에서 AI 인프라로

통신사업자들은 원래 모빌리티, 가정용 브로드밴드 및 기업 서비스를 지원하기 위해 네트워크를 구축했습니다. 클라우드 도입이 확대되면서 이러한 네트워크는 데이터 센터를 연결하고 코로케이션, Infrastructure as a Service, Software as a Service 및 Platform as a Service를 지원하는 방향으로 진화했습니다.

AI는 이제 네트워크 진화의 다음 단계를 이끌고 있습니다. AI 인프라에는 방대한 컴퓨팅 자원을 연결하고, 점점 더 커지는 데이터 세트를 전송하며, 분산 워크로드를 지원하고, 궁극적으로 AI 서비스를 기업, 소비자 및 디바이스에 더 가깝게 제공할 수 있는 연결성이 필요합니다. 이에 따라 연결성은 지속적인 AI 성장의 중심에 놓이게 됩니다.

구체화되는 기업용 AI 시장

AI 수익화는 소비자 시장과 기업 시장 모두에서 진행되고 있지만, 가장 큰 인프라 기회 중 일부는 기업 시장에서 나타나고 있습니다. 코로케이션 사업자는 고밀도 AI 환경에 필요한 공간과 전력을 제공하고, GPU-as-a-Service 사업자는 주문형 컴퓨팅 자원을 제공하며, 하이퍼스케일러, 네오스케일러 및 신규 시장 참여자들은 이러한 자원을 기반으로 서비스를 구축하고 있습니다.

기업은 또 하나의 기본적인 질문에 직면합니다. AI를 임대할 것인지, 직접 구축할 것인지입니다. 그 답은 경제성, 보안, 제어, 워크로드 요구사항 및 규모에 따라 달라집니다. 일부 조직에는 AI 인프라를 서비스 형태로 이용하는 것이 적합할 수 있습니다. 다른 조직은 자체 환경을 구축하면 비용, 데이터 및 성능을 더 세밀하게 제어할 수 있다고 판단할 수 있습니다.

학습, 네트워크를 컴퓨팅의 변수로

대규모 AI 학습 환경은 하나의 위치만으로 필요한 모든 GPU를 지원할 충분한 전력을 확보하기 어려울 수 있기 때문에 여러 데이터 센터에 분산해야 할 수 있습니다. 이는 scale-up, scale-out 및 scale-across 연결에 대한 수요를 창출하며, 이 가운데 scale-across 링크는 데이터 센터 간 AI 인프라를 연결합니다.

연결 속도가 빨라질수록 고가의 컴퓨팅 자원을 더 효율적으로 활용할 수 있습니다. 조직이 GPU에 수백만 달러, 심지어 수십억 달러를 투자하는 상황에서는 이 차이가 중요합니다. GPU가 네트워크 때문에 대기하고 있다면 가치를 창출하지 못합니다. 따라서 네트워크 성능은 AI 컴퓨팅의 경제성을 구성하는 요소가 됩니다.

추론이 만드는 새로운 트래픽 모델

학습은 AI 이야기의 한 측면일 뿐입니다. 모델이 구축된 후에는 기업, 소비자, 애플리케이션, 에이전트, 로봇 및 기타 디바이스와 연결되어야 합니다. 바로 이 지점에서 추론이 트래픽 특성을 바꾸기 시작합니다.

사람은 한 작업에서 다음 작업으로 넘어갈 때 많은 맥락을 스스로 유지합니다. 반면 AI 에이전트는 각 트랜잭션마다 더 많은 맥락 정보를 주고받아야 할 수 있습니다. AI 에이전트는 또한 하루 24시간, 주 7일, 연 365일 운영될 수 있습니다. 이러한 특성이 결합되면 많은 네트워크가 전제로 설계된 버스트형 사용 패턴보다 훨씬 더 지속적인 트래픽이 발생할 수 있습니다.

트래픽의 방향도 바뀌고 있습니다. 현재 네트워크 트래픽의 상당 부분은 콘텐츠가 최종 사용자에게 이동하는 다운스트림 트래픽입니다. AI는 사용자, 디바이스, 애플리케이션 및 에이전트가 지속적으로 정보를 AI 시스템으로 전송하면서 업스트림 트래픽을 늘릴 것입니다. 워크로드가 더욱 분산됨에 따라 데이터 센터와 컴퓨팅 환경 사이의 East-West 트래픽도 계속 증가할 것입니다.

AI가 늘수록 네트워크 부담도 커진다

이러한 변화는 네트워크 요구사항이 단순한 용량을 훨씬 넘어선다는 의미입니다. 민감한 AI 워크로드를 운영하는 조직은 특히 독점 데이터, 모델 및 지적 재산을 전송할 때 공유 네트워크보다 전용 연결을 선호할 수 있습니다.

대규모의 고가 컴퓨팅 자원이 일관된 네트워크 성능에 의존하게 되면 복원력과 서비스 수준 계약의 중요성은 더욱 커집니다. 민첩성도 중요합니다. AI 인프라는 빠르게 구축되고 있으며, 고객은 새로운 용량을 주문한 뒤 실제 서비스에 투입하기까지의 시간이 단축되기를 기대할 것입니다. 연결성은 이를 뒷받침하는 인프라의 속도를 따라가야 합니다.

양자 기술이 발전함에 따라 장기적인 보안 계획의 중요성도 커질 것입니다. 결과적으로 네트워크에는 고용량과 함께 보안, 복원력, 예측 가능한 성능 및 신속한 확장 능력이 요구됩니다.

가시화되는 petabit-scale 연결성

대역폭 요구사항은 이미 변화하고 있습니다. 한때 초당 수백 테라비트 단위로 측정되던 네트워크 및 케이블 시스템 용량을 넘어, 이제 AI 연결성에는 petabit-scale이 요구되고 있습니다.

이러한 요구사항은 북미와 유럽에서 나타나기 시작했습니다. 한국이 GPU 인프라를 계속 확대함에 따라 한국에서도 유사한 연결성 요구가 나타날 것으로 예상합니다. 한국의 촘촘한 디지털 인프라와 증가하는 AI 투자를 고려하면 컴퓨팅과 연결성의 관계는 특히 중요합니다.

그러나 이러한 규모의 용량을 장거리 및 주요 AI 거점 간에 효율적으로 전송하려면 광 네트워킹이 필수적입니다. AI는 단순히 더 많은 대역폭 수요를 만들어내는 데 그치지 않습니다. 새로운 규모의 네트워크와 그 용량을 효율적으로 제공할 수 있는 네트워크에 대한 수요를 만들어내고 있습니다.

통신사업자의 중요한 역할

AI 인프라는 더욱 분산될 것입니다. 하이퍼스케일러와 네오스케일러는 한 국가 내 제한된 수의 주요 거점을 연결할 수 있겠지만, 수천 개의 기업 사이트, 엣지 위치 및 최종 사용자까지 연결하는 것은 전혀 다른 과제입니다. 통신사업자는 이미 시장 곳곳으로 연결성을 더 깊이 확장하는 데 필요한 네트워크 도달 범위를 갖추고 있습니다.

추론이 확대되면 통신사업자는 AI 인프라를 기업, 소비자, 디바이스 및 엣지 환경과 연결하는 데 기여할 수 있습니다. 더 많은 추론이 사용자 가까이에서 수행될 수도 있으며, 이에 따라 사업자가 엣지에서 AI 인프라를 지원하고 컴퓨팅 자원과 이에 의존하는 애플리케이션 사이의 거리를 줄일 수 있는 기회가 생깁니다.

이는 네트워크 사업자에게 중요한 기회를 제공합니다. AI 성장은 필요한 용량을 늘리는 데 그치지 않습니다. 해당 용량이 어디에 제공되어야 하는지, 얼마나 빠르게 프로비저닝되어야 하는지, 얼마나 안정적으로 성능을 제공해야 하는지도 바꾸고 있습니다. 중앙집중형 AI 인프라와 분산된 사용자 및 워크로드를 연결하는 역량은 추론이 확장될수록 더욱 가치가 커질 것입니다.

AI 기회를 뒷받침하는 연결성

AI 인프라 구축은 아직 진행 중이지만 네트워크에 미치는 영향은 점점 분명해지고 있습니다. 학습에는 분산된 컴퓨팅 환경 간 막대한 용량이 필요합니다. 추론은 더 지속적이고 양방향인 트래픽을 만들어냅니다. 피지컬 AI는 더 많은 에이전트, 로봇, 애플리케이션 및 디바이스를 네트워크에 연결할 것입니다. 각 단계는 네트워킹을 나중에 추가하는 계층이 아니라 처음부터 AI 아키텍처의 일부로 고려해야 할 이유를 하나씩 더하고 있습니다.

Ciena는 대규모 학습 환경 간 연결부터 분산 추론 지원에 이르기까지 AI 라이프사이클 전반에 필요한 연결성에 주력하고 있습니다. AI에 유입되는 투자는 시장이 어디로 향하고 있는지를 보여줍니다. 이제 다음 질문은 시장이 그 단계에 도달했을 때 네트워크가 준비되어 있을지 여부입니다.