커뮤니티
 
뉴스 > 하드웨어 +크게 | -작게 | 메일| 프린트
엔비디아 A100 텐서코어 GPU, 아마존 EC2 P4d 인스턴스에 채택
2020년 11월 03일 11시 45분 IT매일
AI 컴퓨팅 기술 분야의 선두주자인 엔비디아(www.nvidia.co.kr, CEO 젠슨 황)는 아마존웹서비스(Amazon Web Services)의 새로운 EC2 P4d 인스턴스에 엔비디아 A100 텐서코어(Tensor Core) GPU가 탑재된다고 밝혔다.


<아마존 EC2 P4d 인스턴스는 8개의 엔비디아 A100 GPU로 구동된다>

AWS의 첫 GPU 인스턴스는 엔비디아 M2050과 함께 10년전에 출시됐다. 당시는 인공지능(AI)과 딥 러닝이 부상하기 전으로, 쿠다(CUDA) 기반 애플리케이션은 주로 과학 시뮬레이션을 가속화하는데 초점이 맞춰졌다. 이후 AWS는 K80, K520, M60, V100 및 T4를 포함하는 안정적인 클라우드 GPU 인스턴스를 추가했다.

새로운 P4d 인스턴스는 머신러닝 훈련 및 고성능컴퓨팅(HPC) 애플리케이션을 위해 AWS의 최고 성능과 비용 효율성을 제공하는 GPU 기반 플랫폼을 지원한다. 이는 기본 FP32 정밀도 대비 각각 FP16에서 최대 3배, T432에서 머신러닝 모델 훈련 시간을 최대 6배 단축한다. 또한 P4d 인스턴스는 탁월한 추론 성능을 제공한다. 지난달 MLPerf 추론 벤치마크에서 엔비디아 A100 GPU는 CPU 대비 최대 237배 빠른 성능을 보였다.

각각의 P4d 인스턴스는 8개의 엔비디아 A100 GPU로 구동되며, AWS 울트라클러스터즈(AWS UltraClusters)를 통해 고객은 AWS EFA(Elastic Fabric Adaptor)를 사용하여 한번에 4,000개 이상의 GPU에 대한 확장 가능한 온-디맨드 액세스를 얻을 수 있다. 또한, P4d는 400Gbps 네트워킹을 제공하고, NV링크(NVLink), NV스위치(NVSwitch), NCCL, GPUDirect RDMA 등의 엔비디아 기술을 통해 딥 러닝 훈련 워크로드를 더욱 가속화한다. AWS EFA를 통한 엔비디아 GPUDirect RDMA 기술로 CPU와 시스템 메모리를 통과하지 않고도 서버 간 GPU에서 GPU로 데이터를 전송해 낮은 레이턴시(지연시간) 네트워킹을 보장한다.



P4d 인스턴스는 아마존 ECS(Amazon Elastic Container Service), 아마존 EKS(Elastic Kubernetes Service), AWS 패러렐클러스터(AWS ParallelCluster), 아마존 세이지메이커(Amazon SageMaker) 등의 AWS 소프트웨어를 활용한다. 이 외에도 P4d 인스턴스는 HPC 애플리케이션, AI 프레임워크, 사전 훈련된 모델, 헬름 차트 및 텐서RT(TensorRT)와 트리톤 추론 서버(Triton Inference Server)와 같은 소프트웨어를 포함한 NGC에서 사용할 수 있는 최적화된 컨테이너형 소프트웨어를 모두 활용할 수 있다.

P4d 인스턴스는 현재 미국 동부와 서부에서 사용할 수 있으며, 곧 이용가능 지역이 추가될 예정이다. 세이빙 플랜(Savings Plans), 리저브드 인스턴스(Reserved Instances)와 함께 온-디맨드 또는 스팟 인스턴스(Spot Instances)로 구매할 수 있다.

GPU 클라우드 컴퓨팅의 역사가 시작된 10년 동안 100엑사플롭 이상의 AI 컴퓨팅이 시장에 출시됐다. 엔비디아 A100 GPU 기반의 아마존 EC2 P4d 인스턴스가 출시됨에 따라 새로운 GPU 클라우드 컴퓨팅 시장이 열릴 예정이다. 엔비디아와 AWS는 다양한 애플리케이션들의 AI 경계가 계속 확장하도록 지원하고 있다.

IT매일 서정덕 다른기사보기 jdseo@itmaeil.com
- Copyrights ⓒ IT매일 무단 전재 및 재배포 금지 - 

 

 
기획
HP, CES 2021에서 미래 PC 혁신 이끌어갈 ..
‘클럽대전’으로 유저들에게 한발짝 더 ..
넥슨 2020 지스타 게임본연의 재미 위해 ..
로스트아크 정식 론칭 2주년…금강선 디렉..
‘카운터사이드’, 스토리+음원+아트 내세..
인텔, 씬앤라이트 노트북용 최고의 프로세..
조이시티, 신작 라인업 5종 공개…9월 3일..
온 국민 레이싱 열풍 부른 ‘카트라이더 ..
좀비 명가 ‘카스온라인’, 신규 모드 ‘..
최불암부터 궁중 악사까지···게임광고..
‘서든어택’, FPS장르 본연의 재미 내세..
온라인 액션 장르 독보적 1위 ‘던전앤파..
행사/취재
AMD CEO 리사 수 박사, CES 2021기조연..
‘온택트’로 막을 올린 제16회 국제게..
라인게임즈, ‘창세기전: 회색의 잔영..
‘지스타 2020’, 온-오프라인 병행 개..
“새로운 게임 세상속으로 시작”,’지..
인텔, 10세대 코어 프로세서 국내 첫 ..
넥슨, 게임 음악회 ‘국악외전<바람의..
리그 오브 레전드, 자체 PC방 일간 최..
V4, 11월 7일 출시 대작들과 승부 자신
AMD 7나노로 경쟁사보다 확실한 우위
엔씨(NC), 모바일 게임의 혁신 '리니지..
넥슨, ‘엘소드’ 엘스타 프로젝트 세 ..
가장 많이 본 뉴스
금융·게임·자동차…경계 허문 ’컬..
지분 5%↑ 보유‘소띠 큰 손’81명…6..
이건희 회장, 3개 最高 기록 남겼다
올해 재계 이슈 키워드 ‘HAPPINESS’
중국 전기차 업체 니오, 엔비디아와 ..
국내 기업 절반 “코로나 탓에 올해 ..
인텔, 테크놀로지 오픈하우스 2020 1..
인텔, 차세대 메모리 및 스토리지 제..
새로운 광고 플랫폼의 성장으로 찾아..
‘With all RPG fans’ 약속 지킨 로..
 
· 발행일 :2021-01-15 오후 05:46:30
· 등록일 : 2009년 12월 9일 (재등록일 : 2016년 10월 18일)
· 편집인 : 김태일
· 발행인 : (주)아이티매일 김태일
CONTACT US
· 전화 : 02-501-2766
· 정기간행물 등록번호 : 서울 아01053
· 청소년보호책임자 : 서정덕
· 이메일 : jdseo@itmaeil.com
· 주소 : 서울시 구로구 구로동 603-9번지 스타팰리스 623호
· 팩스번호 : 02-501-2754
INFORMATION