AI 도입으로 지속적인 학습 수요가 이어지고 추론 영역이 급격히 성장함에 따라, 기업의 트래픽은 더욱 분산되고 역동적이며 예측 불가능해지고 있습니다. Ciena의 Paulina Gomez는 서비스 제공업체가 진화하는 AI의 요구사항을 새로운 성장 기회로 전환하기 위해 보다 민첩한 주문형 연결성으로 어떻게 대응할 수 있는지 살펴봅니다.
AI는 새로운 국면에 들어서고 있습니다. 지난 몇 년간 업계의 관심은 더 나은 인사이트를 제공할 수 있는 초거대 모델을 학습시키기 위한 AI 인프라 구축에 주로 집중되어 왔습니다. 초대형 기업들은 AI 학습 인프라에 수십억 달러를 투자해 왔으며, 이로 인해 대규모 GPU 클러스터 내부와 클러스터 간 대용량 광 연결성에 대한 수요가 전례 없이 증가했습니다. 이제 이러한 흐름은 추론 단계로 옮겨가고 있으며, 추론 단계에서는 직원과 고객, 애플리케이션, 그리고 점점 늘어나는 자율형 AI 에이전트가 의사결정을 내리고 작업을 수행하기 위해 AI 모델을 적극적으로 활용합니다.
AI 도입이 모델 개발 단계를 넘어 프로덕션 단계로 접어들면서, 새로운 네트워킹 기회가 부상하고 있습니다. 몇몇 기업에만 국한되는 모델 학습과 달리, 추론은 전 세계 모든 사람에게 영향을 미치며 산업과 기업, 지역을 막론하고 어디서나 이루어집니다. 개별 작업 단위의 추론 워크로드는 상대적으로 가벼울 수 있지만, 추론 수요는 광범위하게 확산되고 더욱 분산되며 그 비중도 계속 커지고 있습니다.
이는 서비스 제공업체에 단순히 또 한 번의 대역폭 성장 기회 이상의 의미를 지닙니다. 이는 기업의 AI 디지털 변신에서 훨씬 더 큰 역할을 수행할 기회, 그리고 기업 내 연결성이 제공되는 방식을 재고할 기회를 만들어 줍니다. 최근의 서비스 제공업체 대상 설문조사에 따르면, 응답자의 47%는 기업들이 AI 프로세스 처리를 위해 클라우드 환경들 간에 대규모 데이터세트를 이동시키면서 유연한 대용량 클라우드 연결성에 대한 수요를 견인할 것으로 예상하고 있습니다. 서비스 제공업체들은 분산된 환경 전반의 데이터 흐름을 더욱 원활하게 만들어 주는 역동적인 고대역폭 광 서비스를 제공함으로써, 기업들이 더 많은 데이터를 AI에 활용하고 AI 이니셔티브를 가속화하도록 기여할 수 있습니다.
최근 서비스 제공업체를 대상으로 한 Ciena의 설문조사는 그러한 AI 기반 네트워킹의 수익 잠재력을 분명히 보여줍니다. Censuswide와 협력해 진행된 이번 설문조사는 12개국의 1,200명이 넘는 전기통신, 도매, 지역 서비스 제공업체 전문가들을 대상으로 실시되었습니다. 전체 결과는 당사 보도자료에서 확인하실 수 있습니다.
트래픽 패턴을 재편하고 있는 기업용 AI
기업용 AI 워크로드는 기존의 기업용 애플리케이션과는 다르게 작동합니다. 조직들이 에이전틱 AI를 도입하면서, 이제 더 이상 단일 클라우드에 하나의 애플리케이션만 배치하지 않습니다. 대신, 전체 라이프사이클 동안 서로 다른 AI 모델, 클라우드 제공업체, 데이터 소스, 컴퓨팅 플랫폼을 활용할 수 있는 특화된 AI 에이전트를 구축하고 지속적으로 고도화하고 있습니다.
이러한 에이전트의 개발, 맞춤화 및 운영에는 스토리지 환경, AI 개발 플랫폼, 학습 및 미세 조정 환경, 프로덕션 추론 인프라 간의 대량 데이터 이동이 필요합니다. 이러한 데이터 전송은 간헐적으로 발생하지만 대역폭 집약적이며, 짧은 시간에 대량의 데이터를 이동해야 하는 폭발적인 트래픽을 발생시킵니다. 이를 통해 조직은 AI를 활용해 비즈니스 요구사항에 대응할 수 있습니다.
동시에 AI 인프라 자체도 점점 더 분산되고 있습니다. 새로운 AI 데이터 센터들이 건설되고 있으며, 서로 다른 각 거점마다 특화된 컴퓨팅 역량, 가속기, AI 서비스를 제공하는 경우가 늘고 있습니다. 이는 기업이 "클라우드"에 연결하는 것 그 이상을 점점 더 필요로 하게 될 것이라는 의미입니다. 앞으로 기업은 애플리케이션에 필요한 성능, 지연 시간, 가용성을 충족하기 위해 적절한 AI 리소스가 배치된 특정 위치에 연결할 수 있어야 합니다. 워크로드는 사업 우선순위, 자원 가용성, 애플리케이션 요구조건에 따라 클라우드와 AI 데이터 센터와 기업 사업장들 간에 옮겨 다닐 수 있습니다. 이는 기업의 트래픽 패턴을 근본적으로 변화시킬 것입니다.
추론 규모가 확장될수록 더욱 중요해지는 네트워크 민첩성
조직들이 AI 시범 단계에서 프로덕션 단계로 이동함에 따라, 추론 요구조건은 계속 커질 것입니다. AI 애플리케이션의 증가는 분산형 추론 인프라의 증가를 의미하는 동시에, 업데이트된 모델 배포와 정보 동기화 및 갈수록 고도화되는 AI 워크플로 지원을 위해 AI 데이터 센터들 간에 이동하는 데이터의 양도 증가할 것임을 의미합니다. 아울러, 더 많은 사용자가 AI 애플리케이션과 상호작용하면서 기업과 AI 클라우드 환경 간에 추가적인 트래픽이 발생할 것입니다. 그러나 대역폭 증가는 일부에 불과합니다. 더 큰 과제는 AI 트래픽 자체가 점점 더 역동적으로 변하고 있다는 점입니다.
기존의 연결성 모델은 비교적 예측 가능한 트래픽 패턴을 중심으로 설계되었으며, 서비스가 프로비저닝되면 몇 달 또는 몇 년 동안 거의 바뀌지 않고 그대로 유지되었습니다. AI는 다르게 작동합니다. 프로젝트는 빠르게 진화합니다. 컴퓨팅 자원은 여러 위치 간에 옮겨 다닙니다. 새로운 에이전트가 배치됩니다. 추가 연결성 구축에 며칠, 심지어 몇 주를 기다리는 것은 이러한 속도와 맞지 않습니다. 기업들은 네트워킹이 이미 이용 중인 클라우드 인프라처럼 작동하기를 점점 더 기대하고 있습니다. 즉, 필요할 때 사용 가능하고, 요구대로 확장 가능하며, 필요한 시간만큼 쓸 수 있기를 원합니다.
연결성을 좀 더 클라우드처럼 구현하기
이러한 AI 시대의 기대에 부응하려면 단순히 광 용량을 추가하는 것 이상의 노력이 필요합니다. 연결성을 제공하는 데 있어 새로운 방식이 요구됩니다. 수동 프로세스와 고정된 프로비저닝 사이클 및 요구조건 변화에 잘 적응하지 못하는 서비스로 인해 발생하는 마찰을 줄일 수 있어야 합니다. 개념은 간단합니다. 연결성이 거의 클라우드 인프라처럼 작동하게 만드는 것입니다.
주문형 광 대역폭 할당을 통해 서비스 제공업체는 고객이 요구사항 변화에 맞춰 광 용량을 유연하게 확장하거나 축소할 수 있도록 지원할 수 있습니다. 즉, 기존의 프로비저닝 사이클을 가만히 기다리는 대신, 필요할 때 바로 연결성을 활성화하고 이용할 수 있게 해줄 수 있습니다. 프로그래밍 가능한 광 인프라, 지능형 네트워크 제어 소프트웨어, 그리고 개방형 API는 이런 프로세스 자동화에 기여하며, 대용량 서비스의 실시간에 가까운 프로비저닝, 모니터링과 관리를 가능하게 합니다.
이 클라우드 방식의 서비스 이용 모델은 관련된 모든 이에게 이익을 가져다줍니다.
이 클라우드 방식의 서비스 이용 모델은 관련된 모든 이에게 이익을 가져다줍니다. 기업은 AI 워크로드에 맞춰 연결성을 확장하고, 필요할 때 필요한 용량만 사용하고 비용을 지불할 수 있는 유연성을 확보하게 됩니다. AI 프로젝트는 네트워킹이 제약 요인이 아닐 때 더 빠르게 추진 가능합니다. 니오스케일러 역시 분산된 AI 인프라를 연결하고 변화하는 고객 수요에 대응하면서 이와 동일한 모델의 혜택을 누릴 수 있습니다. 서비스 제공업체들에 이러한 유연성은 새로운 수익 기회를 창출해 줍니다. 연결성을 주로 고정 용량으로 판매하던 방식에서 벗어나, 고객이 클라우드 및 AI 인프라를 점점 더 이용하는 방식에 맞춘 차별화된 이용량 기반 서비스를 도입할 수 있습니다.
이미 현실이 되고 있는 역동적인 연결성 서비스
또한 이것은 기업의 연결성이 나아가야 할 방향에 대한 단순한 비전에 그치는 것이 아닙니다. 이미 실제 일어나고 있는 일입니다. Cirion Technologies는 최근 라틴 아메리카 전역에서 자사의 서비스형 네트워크(Network-as-a-Service) 제품군의 첫 단계를 발표했습니다. Ciena의 네트워킹 플랫폼, 다계층 네트워크 제어 소프트웨어, 개방형 API를 Carma의 오케스트레이션 기능과 결합하여 주문형 기업 연결성 서비스를 제공하게 되었습니다. Cirion은 서비스 프로비저닝을 자동화하고 고객 셀프서비스를 가능하게 함으로써, 제공업체들이 어떻게 운영을 단순화하는 동시에 고객에게 필요한 연결성을 훨씬 더 빠르게 제공할 수 있는지 보여주고 있습니다. 이는 서비스 제공업체가 대역폭을 고정 자원으로 취급하는 기존 방식에서 벗어나, 변화하는 비즈니스 요구사항에 맞춰 조정할 수 있는 동적 연결성 서비스로 전환할 수 있음을 보여주는 중요한 사례입니다.
이런 유형의 서비스를 제공하려면 전용 고속 다중 클라우드 접속을 위한 모든 지점 간 보안 연결을 지원하는 유연한 광 스위칭 인프라가 필요합니다.
Ciena는 업계를 선도하는 WaveLogicTM 코히어런트 옵틱스, 프로그래밍 가능 포토닉스, 그리고 개방식 주문형 대역폭 API를 탑재한 Navigator Network Control Suite를 결합해 서비스 제공업체가 서비스 제공을 자동화하고 용량을 동적으로 확장할 수 있도록 지원합니다. 이러한 기반을 통해 이용량 기반 대역폭 및 전용 고속 다중 클라우드 연결을 중심으로 하는, 한층 강화된 서비스 수준 계약(SLA) 옵션을 포함한 새로운 차별화된 서비스를 제공할 수 있습니다.
AI 속도로 움직이는 연결성
기업의 AI 이니셔티브가 실험 단계에서 대규모 프로덕션 단계로 이동함에 따라, 기업 연결성도 고정 용량 방식에서 변화하는 워크로드, 위치, 비즈니스 요구에 유연하게 대응할 수 있는 동적이고 프로그래밍 가능한 광 서비스로 진화하고 있습니다. 서비스 제공업체에게 이 기회는 단순히 더 많은 트래픽을 움직이는 것 그 이상의 의미를 지닙니다. 즉, AI가 요구하는 속도, 유연성, 반응성을 갖춘 연결성을 제공하는 동시에 새로운 수익 기회와 성장 경로를 창출하는 것입니다. 서비스 제공업체가 신뢰할 수 있는 파트너로서, 당사는 새로운 AI 시대가 요구하는 민첩성, 확장성, 지능성을 갖춘 네트워크를 제공해 온 인사이트와 경험을 바탕으로 AI의 가능성을 비즈니스 가치로 전환할 수 있도록 지원할 준비가 되어 있습니다. 이 주제에 대해 더 자세히 알고 싶으신가요? 다가오는 다음 웨비나에 참여해 보세요. AI 연결성의 다음 단계: 통신사업자(CSP)가 NTT, Omdia, Ciena와 함께 부상하는 수요를 수익 창출의 기회로 삼는 방법.