На GTC в Японии NVIDIA анонсировала TensorRT5 и платформу Clara

Коротко:
На прошедшей 12 сентября в Японии конференции GTC компания NVIDIA анонсировала новую версию ускорителя инференции TensroRT 5, службу "сервер инференции TensorRT", и платформу NVIDIA Clara для медицинских задач. Подробности внутри новости.

На состоявшейся 12 сентября в Японии конференции по технологиям графических ускорителей (GPU Technology Conference, GTC) компания NVIDIA анонсировала новую версию TensorRT - высокопроизводительного оптимизатора и ускорителя инференции систем глубокого обучения. TensorRT 5 поддерживает новые архитектуру Turing и подходы оптимизации INT8, которые, по заявлениям разработчиков, ускоряют инференцию до 40 раз быстрее, чем на платформах из одних центральных процессоров.

Как заявили в NVIDIA, последняя версия TensorRT показала особый рост скорости инференции в приложениях нейронного машинного перевода, распознавания речи и обработки естественного языка.

Разработчики выделяют три основных особенности TensorRT5:

  • Ускорение инференции до 40 раз относительно решений на центральных процессорах для моделей с использованием смешанной точности на ядрах Turing Tensor;
  • Оптимизация моделей инференции с помощью INT8;
  • Поддержка платформ NVIDIA DRIVE на базе Xavier и ускорителей глубокого обучения NVIDIA для чисел половинной точности FP16.
Вторым анонсом от NVIDIA стал сервер инференции TensorRT (TensorRT inference server) - это контейнеризированная микрослужба, которая максимизирует использование графического ускорителя и запускает на узле параллельно несколько моделей из разных программных платформ (фреймворков). Использует технологии Docker и Kubernetes для бесшовной интеграции в рамках архитектуры DevOps. Поддерживается на операционных системах Windows и CentOS.

Также представители NVIDIA объявили о грядущем выходе платформы Clara - вычислительная архитектура на базе модулей NVIDIA Xavier и NVIDIA Turing GPU. Платформа предназначена для вычислений и решения задач нового поколения в сфере медицины.

Платформа Clara предназначена для решения важнейшей задачи по предоставлению медицинского инструментария: обработки огромного моря данных, генерируюемых каждую секунду объёмом от десятков до тысяч гигабайт, для их последующего анализа докторами и учёными.
Кимберли Пауэлл
Вице-Президент NVIDIA по направлению медицинского обслуживания

Платформа Clara будет включать в себя CLARA AGX (единая архитектура на базе графических ускорителей, которая предоставляет быструю инференцию на ядрах NVIDIA Tensor), комплект разработчика Clara SDK, набор библиотек для вычисления, графики и искуственного интелекта.

Среди областей применения были перечислены обработка и воспроизведение изображений, обработка вычислений для компьютерной и магнитно-резонансной томографии, работы с ультразвуком.

Подписывайтесь на наши социальные сети и добавляйте новостной раздел в закладки, чтобы ничего не пропустить. По вопросам консультации и приобретения обращайтесь к нашим специалистам:
+7 (495) 981-60-70
sales@t-mash.ru

Коротко:
На прошедшей 12 сентября в Японии конференции GTC компания NVIDIA анонсировала новую версию ускорителя инференции TensroRT 5, службу "сервер инференции TensorRT", и платформу NVIDIA Clara для медицинских задач. Подробности внутри новости.
Последние Новости
База знаний
subNew
05.09.2022
Обзоры

Обзор ТСД Point Moblie PM75 от Клеверенс


Предлагаем к прочтению технический обзор терминала сбора данных (ТСД) Point Moblie PM75 от Алеси Януш, эксперта по техническим статьям, анализу и тестированию работы ТСД в компании "Клеверенс". В обзоре приводятся краткие технические характеристики, распаковка, даётся оценка фактическим рабочим характеристикам и подводятся итоги с плюсами / минусами устройства.
subNew
05.04.2022
Статьи

АСКОН объявляет о выходе бета-версии КОМПАС-3D v21


Коллеги из компании АСКОН, российский разработчик САПР, объявили об открытом бета-тестировании новой версии своего флагманского решения КОМПАС-3D v21, выход которого ожидается летом 2022г. Сам период бета-тестирования начался с 01 апреля и завершится 31 мая 2022г. Ввиду текущего геополитического контекста, мы со своей стороны призываем коллег со стороны заказчиков присоединиться к инициативе и внести свой вклад в появлении на рынке конкурентного продукта.
subNew
31.03.2022
Обзоры

Шасси для медиаконвертеров D-Link DMC-1000/RU, собранные в Рязани


Коллеги из российского представительство D-Link объявили о начале поставок с 4 апреля 2022 года шасси для медиаконвертеров DMC-1000/RU, собранных на производственных мощностях в Рязанской области. Тематика локализации производства иностранных производителей и доступности к приобретению радиоэлектронной продукции является крайне актуальной. Предлагаем к прочтению обзор от коллег из D-Link технических характеристик и комплектации DMC-1000/RU.
subNew
25.02.2021
Обзоры

Обзор маршрутизаторов серии Cisco Catalyst 8000


В марте 2021г. становятся доступными к заказу в Российскую Федерацию анонсированные в октябре 2020г. маршрутизаторы серии Cisco Catalyst 8000. К этому событию коллеги из российского представительства Cisco Systems подготовили небольшую авторскую статью, в которой коротко изложили позиционирование и особенности моделей в серии Catalyst 8000 и сравнили их с моделями маршрутизаторов из серий Cisco ASR 1000 и Cisco ISR 4000. Предлагаем к прочтению.
subNew
12.11.2020
Статьи

Axis Communications увеличивает срок бесплатного гарантийного обслуживания продуктов до 5 лет


С 01 октября 2020г компания Axis Communications увеличила стандартный срок гарантии на свою продукцию с 3-х до 5-ти лет. Правило применяется ко всей продукции, отгруженной с 01 апреля 2020г. Официальный пресс-релиз производителя, ссылки на тематические разделы и брошюры производителя, а также наш перевод секции "вопросы-ответы" внутри статьи.
subNew
13.02.2020
Видео

"Это нормально - любить свою СХД" ролик от HPE к 14 февраля


Компания HPE поздравила своих клиентов с 14 февраля коротким шуточным роликом "Идеальный компаньон. Это нормально - любить свою СХД".
subNew
11.02.2020
Статьи

Изменение в модели лицензирования продуктов VMware по процессорам


В феврале 2020г компания VMware официально анонсировала изменения в политике лицензирования своих продуктов, использующих принцип ценообразования из расчёта количества процессоров платформы. Изменения вступят в силу с апреля 2020г. В статье мы даём перевод официального заявления VMware, раздел "вопросы и ответы" и схему с примерами: имеется важная информация о льготах и существенных нюансах для владельцев серверов с многоядерными процессорами
subNew
10.02.2020
Статьи

Принцип лицензирования QVR Pro от QNAP


Небольшая информационная статья-памятка от коллег из российского офиса QNAP о принципе лицензирования платформы QVR Pro, программного решения для управления видеорегистраторами и системами видеонаблюдения.
subNew
27.01.2020
Статьи

GoMiner мутирует и распространяется через облачные хранилища


Авторская статья специалиста Juniper по противодействию вредоносному программному обеспечению и обратному воспроизведению кода. В материале рассказывается о вредоносном криптомайнере GoMiner, отличительной способностью которого является распространение через поставщиков облачных хранилищ и сменные накопители, а также особые средства защиты, включая мутацию.
subNew
22.08.2018
Обзоры

Обзор тонкого клиента Dell Wyse 5070


В мае 2018 на проходившей в Лас-Вегасе конференции Dell Technologies World был представлен новый тонкий клиент Dell Wyse 5070. Презентация прошла на фоне большого оптимизма и воодушевления сотрудников, с заявлениями о революционном продукте. О том, почему у сотрудников Dell были на это некоторые основания и что из себя представляет Dell Wyse 5070 – читайте в обзоре.