|
전 산업 분야에서 인공지능(AI)을 활용한 효율성 확보가 중요해지면서, 더 빠른 결정을 내리기 위해 AI 모델을 어디에 배치해야 할지가 이슈다.
특히 AI와 사물인터넷(IoT), 5G 인프라가 융합되면서 기업은 데이터 센터를 넘어 엣지에 이르기까지 수십억 개의 센서가 데이터를 스트리밍하고 실시간 의사결정을 하는 모델을 구축할 수 있게 됐다.
5G 상용화에 따른 모바일엣지컴퓨팅(MEC, Mobile Edge Computing)때문이다. 네트워크의 가장자리(엣지·Edge)에 있는 기업 고객과 가까운 기지국이나 교환국에 소규모 데이터센터를 설치해 데이터 전송 구간을 줄여 5G 핵심인 초저지연 서비스를 원활하게 제공할 수 있게 된 것이다.
기업들은 보통 자체 데이터센터와 남의 전산 자원을 빌려 쓰는 클라우드를 결합해 AI 모델을 데이터가 수집되는 위치로 불러오고 있다. 데이터 센터에 대한 IT 전문 지식이 없는 경우, 소매점이나 주차장과 같은 엣지에 위치한 워크로드를 배치하는 일은 어려울 수 있다.
EGX 엣지 플랫폼으로 수천 개 애플리케이션 관리
회사는 “엔비디아 EGX는 대규모 하이브리드 클라우드 및 엣지 운영을 가능하게 하고 이를 효율적으로 수행할 수 있게 하도록 설계된 클라우드 네이티브 소프트웨어 정의 플랫폼”이라고 했다.
플랫폼 내에는 엔비디아 드라이버, 쿠버네티스 플러그인, 엔비디아 컨테이너 런타임 및 GPU 모니터링 도구가 포함된 EGX 스택이 있으며, 엔비디아 GPU 오퍼레이터(Operator)를 통해 제공된다.
GPU 오퍼레이터는 GPU 지원 쿠버네티스 시스템 프로비저닝에 필요한 모든 구성 요소의 배포를 표준화하고 자동화하기 위한 헬름 차트(Helm Chart)가 구축돼 있는 클라우드 네이티브 방식이다. 엔비디아와 클라우드 네이티브 커뮤니티에 속한 레드햇(Red Hat)등은 GPU 오퍼레이터를 만들기 위해 협력했다.
GPU 오퍼레이터는 또한 IT 팀이 CPU 기반 시스템을 관리하는 것과 동일한 방식으로 원격 GPU 파워 서비스를 관리할 수 있도록 해준다.
NGC-레디 포 엣지 시스템으로 AI 검증
이는 GPU 최적화된 컨테이너용 소프트웨어 허브인 NGC에서 AI 소프트웨어의 기능과 성능을 검증한다.
검증된 NGC-레디 포 엣지 시스템은 어드밴텍(Advantech), 알토스 컴퓨팅(Altos Computing), 애즈락 랙(ASRock Rack), 아토스(Atos), 델 테크놀로지스(Dell Technologies), 후지쯔(Fujitsu), 기가바이트(GIGABYTE), 휴렛팩커드 엔터프라이즈(HPE), 레노버(Lenovo), 미텍(MiTAC), QCT, 슈퍼마이크로(Supermicro), 타이안(TYAN)을 포함한 세계 주요 제조업체에서 제공된다.
NGC는 현재 AI 소프트웨어 배포와 관리를 위한 헬름 차트 레지스트리를 제공한다.





![[포토] 겨울 과일 '석류' 출시](https://image.edaily.co.kr/images/Photo/files/NP/S/2026/11/PS26112000721t.jpg)
![[포토] 크리스마스 맞이하는 롯데타운](https://image.edaily.co.kr/images/Photo/files/NP/S/2026/11/PS26111900800t.jpg)
![[포토]'모두발언하는 장동혁 대표'](https://image.edaily.co.kr/images/Photo/files/NP/S/2026/11/PS26111900565t.jpg)
![[포토]잘하고 와](https://image.edaily.co.kr/images/Photo/files/NP/S/2026/11/PS26111900485t.jpg)
![[포토]코브(Kove), 모터스포츠 DNA를 담았다](https://image.edaily.co.kr/images/Photo/files/NP/S/2026/11/PS26111701091t.jpg)
![[포토]청와대 앞에서 열린 국민의힘 현장 최고위원회의](https://image.edaily.co.kr/images/Photo/files/NP/S/2026/11/PS26111600393t.jpg)
![[포토]가을의 끝자락](https://image.edaily.co.kr/images/Photo/files/NP/S/2026/11/PS26111500330t.jpg)
![[포토]수험생 응원 메시지가 가득 담긴 조계사 소원지](https://image.edaily.co.kr/images/Photo/files/NP/S/2026/11/PS26111500310t.jpg)
![[포토]기름값 26주 하락](https://image.edaily.co.kr/images/Photo/files/NP/S/2026/11/PS26111500292t.jpg)
![[포토]'표정 어두운 김민석 대표'](https://image.edaily.co.kr/images/Photo/files/NP/S/2026/11/PS26111300806t.jpg)


