Mellanox는 가장 효율적인 머신 러닝 플랫폼을 구현함

경쟁 우위 강화에 필요한 중대한 실시간 의사 결정을 AI가 실행하도록 허용함

Mellanox 솔루션은 다수의 세계 유수 인공 지능(AI) 플랫폼과 머신 러닝 플랫폼을 가속화합니다. 머신 러닝은 오늘날의 기술 세계를 받치는 기둥으로, 대량의 데이터를 수집하여 보다 우수하고 보다 정확한 의사 결정을 내릴 수 있는 솔루션을 제공합니다. 머신 러닝은 보안, 금융, 이미지 및 음성 인식에서 자율 운전 차량, 헬스케어 및 스마트 도시에 이르기까지 광범위한 애플리케이션을 아우릅니다. Baidu, Facebook, JD.com, NVIDIA, PayPal, Tencent, Yahoo 외 다수 기업이 Mellanox 솔루션이 제공하는 머신 러닝 플랫폼을 활용하여 경쟁 우위를 강화하고 있습니다.

머신 러닝 애플리케이션은 깊은 신경망의 교육에 기반을 두고 있으므로 복잡한 계산과 빠르고 효율적인 데이터 전달이 필수적입니다. Mellanox 솔루션을 사용하면 RDMA 및 GPUDirect® 및 네트워크 내 컴류팅 역량의 오프로딩이 가능하므로 신경망의 교육 성과와 전반적인 머신 러닝 애플리케이션의 성능이 극적으로 향상됩니다.

Mellanox는 TensorFlow, Paddle, Caffe 및 RDMA 탑재 Apache Spark와 같은 인기 있는 프레임워크를 가속화했으며, 크고 강력한 모델 교육을 신속하고 확장 가능한 형태로 분산 실행하는 솔루션을 지속적으로 혁신하고 가속화하고 있습니다. 짧은 대기 시간, 고대역폭, 높은 메시지 속도 및 스마트 오프로드를 제공함으로써 Mellanox 인터커넥트 솔루션은 교육 및 추론 시스템 모두에서 대규모 머신 러닝 적용 시 가장 많이 배포되는 고속 인터커넥트 솔루션입니다. Mellanox 기술을 활용한 성공 사례를 몇몇 소개하자면 다음과 같습니다. Yahoo는 이미지 인식에서 18배 빠른 효과를 얻었습니다. Tencent는 데이터 정렬에서 세계 신기록의 성능을 달성했습니다. PayPal은 부정 행위를 실시간으로 탐지해왔습니다. NVIDIA는 Mellanox 솔루션을 자체 머신 러닝 DGX1 장비 안에 통합하여 400Gb/s의 데이터 처리량을 구현하는 한편 가장 전력 효율적인 기계 학습 슈퍼컴퓨터를 구축했습니다.

Mellanox 솔루션

Mellanox 어댑터, 스위치, 케이블 및 소프트웨어는 완전한 고성능 머신 러닝 인프라에 필요한 세계에서 가장 빠르고 가장 강력한 InfiniBand 및 이더넷 네트워킹 솔루션을 구현합니다. 이러한 역량은 다음의 기능과 조합을 이뤄 최적의 애플리케이션 성능을 보장합니다.

  • 빅 데이터 전반에 걸친 빠른 교유 및 액세스, 최대 200Gb/s의 처리량
  • RDMA 기술로 TensorFlow, Paddle, Caffe 및 Apache Spark와 같은 머신 러닝 프레임워크 가속화
  • 최저 1us의 애플리케이션 대기 시간
  • GPUDirect® 기술로 GPU 대 GPU 커뮤니케이션 가속화
  • SHARP™ 기술로 머신 러닝 알고리즘 가속화

BulletOCP Big Sur 인공 지능 플랫폼 Facebook
Bullet실시간 부정행위 감지 Paypal
Bullet400Gb/s 성능의 머신 러닝 Nvidia
Bullet이미지 인식 속도 18배 증가 Flickr
Bullet이미지 인식 속도 4배 증가 Baidu
Bullet데이터 분석 이미지 인식 JD.com
Bullet데이터 정렬 세계 신기록 수립, 속도 3배 개선 Tencent