엔비디아(CEO 젠슨 황)가 전 세계 고객들에게 소버린 AI(sovereign AI) 솔루션을 제공하기 위해 오라클(Oracle)과의 협력을 확대한다고 발표했다.

오라클의 분산형 클라우드, AI 인프라, 생성형 AI 서비스는 엔비디아의 가속 컴퓨팅과 생성형 AI 소프트웨어와 결합해 정부와 기업이 AI 팩토리를 구축할 수 있도록 지원한다.

이러한 AI 팩토리는 다양한 운영 제어를 통해 국가 또는 조직의 안전한 시설에서 클라우드 서비스를 로컬로 실행할 수 있으며, 경제 성장을 다각화하고 촉진하려는 국가 목표를 지원한다.

오라클 CEO 사프라 캣츠(Safra Catz)는 "AI가 전 세계의 비즈니스, 산업, 정책을 재편함에 따라 국가와 조직은 가장 가치 있는 데이터를 보호하기 위해 디지털 주권을 강화해야 한다. 엔비디아와의 지속적인 협력과 클라우드 리전을 로컬에 신속하게 배포할 수 있는 오라클의 독보적인 능력은 사회가 보안을 약화시키지 않고도 AI를 활용할 수 있도록 보장할 것"이라고 말했다.

엔비디아의 창립자 겸 CEO 젠슨 황(Jensen Huang)은 "생성형 AI가 혁신을 주도하는 시대에 데이터 주권은 문화적, 경제적 필수 요소이다. 오라클의 통합 클라우드 애플리케이션과 인프라는 엔비디아 가속 컴퓨팅과 생성형 AI 서비스와 결합해 국가와 지역이 스스로의 운명을 통제하는 데 필요한 유연성과 보안을 제공한다"고 말했다.

고객의 데이터 주권 실현을 지원하는 턴키(Turnkey) 솔루션

엔비디아 풀스택 AI 플랫폼은 오라클 엔터프라이즈 AI와 결합해 고객에게 운영, 위치, 보안에 대한 제어력을 강화해 디지털 주권을 지원하는 최첨단 AI 솔루션을 제공한다. 오라클 엔터프라이즈 AI는 OCI 전용 리전(OCI Dedicated Region), 오라클 알로이(Oracle Alloy), 오라클 EU 소버린 클라우드(Oracle EU Sovereign Cloud), 오라클 정부 클라우드(Oracle Government Cloud)에 배포 가능하다.

전 세계 국가들은 자국의 문화적, 경제적 목표 달성에 도움이 될 AI 인프라에 투자를 늘리고 있다. 26개국 66개 클라우드 리전에서 고객들은 인프라와 애플리케이션을 아우르는 100개 이상의 클라우드와 AI 서비스에 액세스해 IT 마이그레이션, 현대화, 혁신을 달성할 수 있다.

양사의 통합 솔루션은 퍼블릭 클라우드 또는 특정 위치의 고객 데이터센터에 유연한 운영 제어를 통해 배포할 수 있다. 오라클은 어디서나 로컬로 AI와 전체 클라우드 서비스를 제공할 수 있는 유일한 하이퍼스케일러(Hyperscaler)이다. 배포 유형에 관계없이 일관적인 오라클 서비스와 가격은 계획, 이동성, 관리를 간소화한다.

오라클 클라우드 서비스는 엔비디아 가속 컴퓨팅 인프라와 엔비디아 AI 엔터프라이즈 소프트웨어 플랫폼을 비롯한 다양한 엔비디아 스택을 활용한다. 또한, 새로 발표된 엔비디아 NIM 추론 마이크로서비스는 엔비디아 텐서RT(TensorRT), 엔비디아 텐서RT-LLM, 엔비디아 트리톤 추론 서버(Triton Inference Server)와 같은 엔비디아 추론 소프트웨어를 기반으로 구축된다.

소버린 AI의 선두주자

자산 관리 기술 분야의 선두주자인 아발로크(Avaloq)는 자체 데이터센터에 완전한 OCI 클라우드 리전을 운용하기 위해 OCI 전용 리전을 선택했다. 

아발로크의 최고기술책임자 마틴 부치(Martin Büchi)는 "OCI 전용 리전은 최신 클라우드 인프라에 대한 액세스를 제공하면서 데이터 보존을 최대한 제어하려는 우리의 노력과 일치한다. 이는 은행과 자산 관리사의 디지털 혁신을 지속적으로 추진하는 데 큰 도움이 될 것"이라고 말했다.

뉴질랜드의 선도적인 정보관리서비스 제공업체인 팀 아이엠(TEAM IM)은 뉴질랜드 최초의 현지에서 소유하고 운영되는 하이퍼스케일 클라우드인 팀 클라우드(TEAM Cloud)를 구축하기 위해 오라클 알로이를 선택했다.

팀 아이엠의 CEO 이안 로저스(Ian Rogers)는 "뉴질랜드 기업들은 고유한 하이퍼스케일 클라우드 솔루션을 활용해 자국 내에서 데이터의 무결성을 보호하면서 클라우드의 강력한 기능을 활용하고자 하는 요구가 점점 더 커지고 있다. 오라클 알로이와 클라우드 서비스에 엔비디아 AI 플랫폼을 통합함으로써 우리는 공공, 상업 부문 그리고 이위 부족(iwi)등 여러 조직이 복잡한 디지털 환경을 탐색하고 디지털 혁신을 최적화하도록 지원할 수 있는 클라우드 서비스 제공업체로 거듭날 수 있었다"고 말했다.

이앤(e&) 그룹의 통신 계열사인 이앤UAE(e& UAE)는 AI 역량을 강화하기 위해 오라클과 협력하고 있다. 이들은 OCI 전용 리전 내에 엔비디아 H100 텐서 코어(Core) GPU 클러스터를 구축할 계획이다.

이앤UAE의 최고 기술 및 정보 책임자(CTIO)인 칼리드 무르셰드(Khalid Murshed)는 "OCI는 이앤UAE 데이터센터에 호스팅된 자체 OCI 전용 리전 내에 엔비디아 H100 GPU 클러스터를 배포할 수 있게 해줄 것이다. 이러한 유형의 현지화를 통해 UAE 전역에서 AI 혁신을 가속화하고 새로운 세대의 AI 애플리케이션과 사용 사례를 대규모로 개발할 수 있다. 이는 혁신을 선도하고 기술의 미래를 설계하려는 이앤UAE의 혁신 노력과 일치한다. 우리는 탁월한 고객 경험을 제공하기 위해 AI의 우수성을 높이는 데 중점을 둘 것"이라고 말했다.

엔비디아 그레이스 블랙웰(Grace Blackwell)로 OCI 슈퍼클러스터(Supercluster)와 OCI 컴퓨트(Compute) 강화

오라클은 고객들이 지속적으로 증가하는 AI 모델에 대한 요구사항을 충족할 수 있도록 GTC에서 발표된 최신 엔비디아 그레이스 블랙웰 컴퓨팅 플랫폼을 OCI 슈퍼클러스터와 OCI 컴퓨트에 활용할 계획이다. OCI 슈퍼클러스터는 새로운 OCI 컴퓨트 베어 메탈 인스턴스, 초저지연 RDMA 네트워킹, 고성능 스토리지를 통해 훨씬 더 빨라질 것이다. OCI 컴퓨트에는 엔비디아 GB200 그레이스 블랙웰 슈퍼칩과 엔비디아 블랙웰 B200 텐서 코어 GPU가 모두 탑재될 예정이다.

엔비디아 GB200 그레이스 블랙웰 슈퍼칩은 컴퓨팅의 새로운 시대를 열 것이다. GB200은 이전 세대의 GPU에 비해 최대 30배 빠른 실시간 대규모 언어 모델(LLM) 추론, 25배 낮은 TCO(총소유비용), 25배 적은 에너지를 제공해 AI 훈련, 데이터 처리, 엔지니어링 설계, 시뮬레이션 등을 대폭 강화한다. 엔비디아 블랙웰 B200 텐서 코어 GPU는 고난이도 AI, 데이터 분석, HPC(고성능 컴퓨팅) 워크로드를 위해 설계됐다.

또한 검색 증강 생성(RAG) 추론 배포를 위한 엔비디아 네모 리트리버(NeMo Retriever)를 포함한 엔비디아 NIM과 쿠다-X(CUDA-X) 마이크로서비스도 활용된다. 이는 OCI 고객들이 자체 데이터를 사용해 생성형 AI 코파일럿과 기타 생산성 도구에 더 많은 인사이트와 정확성을 제공하는 데 도움이 될 것이다.

엔비디아 그레이스 블랙웰, DGX 클라우드 온 OCI(DGX Cloud on OCI)에 추가

점점 더 복잡해지는 AI 모델에 대한 고객 수요 증가에 부응하기 위해, 양사는 엔비디아 DGX 클라우드 온 OCI에 엔비디아 그레이스 블랙웰을 추가한다. 고객들은 조 단위 매개변수 LLM 시대에 에너지 효율적인 훈련과 추론을 위해 설계된 이 공동 엔지니어링 슈퍼컴퓨팅 서비스를 통해 새로운 GB200 NVL72 기반 인스턴스에 액세스할 수 있다.

전체 DGX 클라우드 클러스터 구축에는 20,000개 이상의 GB200 가속기와 엔비디아 CX8 인피니밴드(Infiniband) 네트워킹이 포함돼 확장성과 성능이 뛰어난 클라우드 인프라를 제공할 것이다. 이 클러스터는 5세대 NV링크(NVLink)가 탑재된 72개의 블랙웰 GPU NVL72와 36개의 그레이스 CPU로 구성된다.

이용 정보

엔비디아와 오라클의 소버린 AI 솔루션은 즉시 사용 가능하다. 여기에서 오라클 소버린 AI에 대해 자세한 내용을 확인할 수 있다.