TensorFlow™

TensorFlowTensorFlow는 데이터 흐름 그래프를 사용하여 수치 계산을 하는 오픈 소스 소프트웨어 라이브러리입니다. 그래프의 노드는 수학 연산을 나타내는 한편, 그래프 가장자리는 노드 간에 전달되는 다차원 데이터 배열(텐서)을 나타냅니다.

이 유연한 아키텍처를 사용하면 단일 API로 데스크탑, 서버 또는 모바일 장치에 탑재된 하나 이상의 CPU나 GPU에 계산 기능을 배포할 수 있습니다. TensorFlow는 원래 머신 러닝 및 심층 신경 네트워크 연구를 수행하기 위해 Google의 머신 지능 연구 조직 내 Google Brain Team에서 연구원과 엔지니어가 사용할 목적으로 개발되었지만, 이 시스템은 언어 번역, 의료 연구, 자율 차량, 이미지 인식, 보안 등 다양한 다른 영역에 적용 할 수 있을 만큼 범용적입니다.

RDMA 기술은 분산 시스템의 성능 경계를 확장했습니다. TensorFlow는 고성능의 오픈 소스 범용 RPC 프레임워크(gRPC)를 사용하여 데이터를 전송하고 TCP 기반 gRPC보다 약 322% 더 우수한 RDMA 기반 gRPC를 활용합니다.

TenserFlow
TensorFlow에서 RDMA를 활용하는 또 다른 방법은 MPI(Message Passing Interface)를 이용하는 것입니다. TensorFlow의 MPI 버전은 고성능 머신 러닝 및 데이터 마이닝(MLDM) 알고리즘 컬렉션인 MaTEx(극한 스케일을 위한 머신 러닝 도구 키트)와 함께 사용할 수 있습니다.



Mellanox® 솔루션

.Mellanox I/O 어댑터는 1마이크로초 미만의 대기 시간으로 최대 200Gb/s의 안정적인 무손실 연결을 제공하여 프로세싱 병목 현상을 제거합니다. 하나의 어댑터가 전체 블레이드 서버 시스템에 최적화된 연결성을 제공하여 데이터 센터에서 사용되는 여러 이더넷 어댑터의 유지 관리 비용을 절감합니다. 분산형 머신 러닝 프레임워크에 최적화된 Mellanox만이 RDMA, GPUDirect® RDMA 및 SHARP™ v2 같은 네이티브 가속 엔진을 제공하여 인지형 컴퓨팅 애플리케이션 전반에 걸쳐 성능을 획기적으로 향상시킵니다. Mellanox InfiniBand 스위치와 게이트웨이는 데이터 센터 패브릭 통합을 통해 성능을 더욱 향상시킵니다.