Группа по исследованиям в области искусственного интеллекта Facebook AI Research поделилась с сообществом собственными наработками в области глубокого обучения (deep learning) — алгоритмов машинного обучения, которые пытаются моделировать высокоуровневые абстракции в данных, используя архитектуры, состоящие из множества нелинейных трансформаций.
Под свободной лицензией опубликован исходный код модулей для Torch, популярного фреймворка на Lua, который широко используется в научном сообществе для разработки и тестирования алгоритмов машинного обучения. Фреймворк использует скриптовый язык LuaJIT.
Оптимизированные модули от компании Facebook гораздо эффективнее, чем штатные модули Torch. С их помощью можно обучать нейросети большего размера за меньшее время, что позволяет существенно ускорить научно-исследовательские работы. Оптимизация включает в себя, среди прочего, эффективное использования GPU в свёрточных нейронных сетях (ConvNets), а также в сетях, которые часто применяются в приложениях по обработке информации на естественном языке (Natural Language Processing). Более подробно о модулях ConvNets рассказано в научной работе.
Кроме упомянутого модуля, в свободный доступ попали и другие модули, использующие архитектуру CUDA, в том числе контейнеры для параллелизации обучения нейросети на нескольких GPU, оптимизированные модули Lookup Table и Hierarchical SoftMax и др.
В последние годы deep learning стало одной из самых перспективных областей информатики. Технологии машинного обучения широко используются, в том числе, в различных веб-сервисах для распознавания образов, анализа логов, распознавания спама и т.д. Нейросети применяют такие компании как Google, Twitter, Nvidia, AMD, Intel, Facebook и многие другие, не считая бесчисленного количества стартапов, действующих в этой области.
Взято с Xakep.ru