Технологии Mellanox лежат в основе самых эффективных платформ машинного обучения

ИИ получает возможность принимать критически важные решения в реальном времени для повышения конкурентного преимущества

Решения Mellanox ускоряют многие из ведущих мировых платформ искусственного интеллекта и машинного обучения. Машинное обучение — фундаментальная основа современного технологического мира, позволяющая создавать системы для принятия более точных и верных решений на основе огромного объема собираемых данных. Системы машинного обучения применяются в самых разных областях, от безопасности, финансов и распознавания изображений и речи до самоуправляемых автомобилей, здравоохранения и интеллектуальных городских решений. Решения Mellanox позволяют таким компаниям и организациям как Baidu, Facebook, JD.com, NVIDIA, PayPal, Tencent, Yahoo и многие другие использовать платформы машинного обучения для повышения конкурентных преимуществ.

Приложения машинного обучения основаны на обучении нейросетей, для чего требуются сложные вычисления и быстрая и эффективная доставка данных. Решения Mellanox поддерживают интеллектуальные технологии разгрузки, включая RDMA и GPUDirect®, а также возможности вычислений в сети для повышения производительности обучения нейросетей и приложений для машинного обучения.

Решения Mellanox использовались для ускорения таких популярных инфраструктур как TensorFlow, Paddle, Caffe и Apache Spark с помощью RDMA, и компания продолжает создавать новые решения и ускорять существующие для быстрого и масштабируемого распределенного обучения больших и мощных моделей. За счет низкой задержки, высокой пропускной способности, высокой скорости передачи сообщений и интеллектуальной разгрузки, решения интерконнектов Mellanox стали самыми широко используемыми в крупномасштабных средах машинного обучения для обучения и оптимизации систем. Используя технологии Mellanox, компания Yahoo ускорила распознавание снимков в 18 раз; компания Tencent поставила мировой рекорд производительности сортировки данных; компания PayPal получила возможности обнаружения мошенничества в реальном времени; а компания NVIDIA включила решения Mellanox в систему машинного обучения DGX1 для достижения пропускной способности 400 Гбит/с и создания самого энергоэффективного суперкомпьютера для машинного обучения.

Решение Mellanox

Адаптеры, коммутаторы, кабели и программное обеспечение Mellanox лежат в основе самых производительных и надежных сетевых решений InfiniBand и Ethernet, позволяя создавать полные высокопроизводительные инфраструктуры машинного обучения. Эти возможности обеспечивают оптимальную производительность приложений и дают следующие преимущества:

  • Более быстрое обучение и доступ к большим данным со скоростью до 200 Гбит/с
  • Технология RDMA для ускорения таких инфраструктур машинного обучения как TensorFlow, Paddle, Caffe и Apache Spark
  • Задержка приложений до 1 мкс
  • Технология GPUDirect® для ускорения связи между графическими процессорами
  • Технология SHARP™ для ускорения алгоритмов машинного обучения

Пункт Платформа искусственного интеллекта OCP Big Sur Facebook
Пункт Обнаружение мошенничества в реальном времени Paypal
Пункт Система машинного обучения с пропускной способностью 400 Гбит/с Nvidia
Пункт Ускорения распознавания изображений в 18 раз Flickr
Пункт Ускорение распознавания изображений в 4 раз Baidu
Пункт Аналитика данных и распознавание изображений JD.com
Пункт Мировой рекорд скорости сортировки данных, в 3 раз быстрее Tencent