Команда Microsoft Research AI объявила,
что планирует открыть исходный код оптимизированной версии модели Google BERT, созданной для работы с движком
ONNX Runtime.
В настоящее время использование ONNX Runtime позволяет
сократить задержки в работе BERT
при реализации языкового представления для поисковой системы Bing.
Теперь разработчики смогут внедрять BERT, используя ONNX Runtime и
графический процессор Nvidia V100
с задержкой всего лишь 1,7 миллисекунды, что ранее было доступно только для
крупных технологических компаний.
Оптимизированная модель Google BERT, созданная Microsoft, является результатом сотрудничества между командами Azure AI и Microsoft Research AI.
Подробнее об открытом обмене нейронными сетями (ONNX) можно прочитать здесь.
Напомним, что Google объявил о запуске BERT Update, который помогает поисковой системе лучше понимать запросы на естественном языке, в октябре минувшего года. При этом Bing начал использовать подобные BERT модели ещё в апреле 2019 года.
