Достижения и итоги 2020. Искусственный Интеллект, Машинное Обучение, Нейросети, NLP

Январь 2020 г.

OpenAI объявила PyTorch в качестве стандартной среды глубокого обучения

OpenAI, исследовательская организация AI, объявила PyTorch своим новым стандартным фреймворком для глубокого обучения. PyTorch увеличит продуктивность исследований в масштабе на графических процессорах. Благодаря поддержке PyTorch OpenAI сократил время итераций генеративного моделирования с недель до дней.

Март 2020 г.

Megvii сделала свой фреймворк Deep Learning AI с открытым исходным кодом

Китайский стартап Megvii Technology заявил, что сделает свой фреймворк Deep Learning открытым. MegEngine является частью собственной платформы ИИ Megvii Brain ++. Он может тренировать компьютерное зрение в широком масштабе и помогать разработчикам во всем мире создавать решения искусственного интеллекта для коммерческого и промышленного использования.

Выпущен Keras 2.4.0

Новый выпуск устраняет путаницу в отношении несовместимости и различий между tf.keras и автономным пакетом Keras. Сейчас действует единая модель Keras — tf.keras.

Huawei Technologies Co Ltd с открытым исходным кодом Mindspore

Компания Huawei Technologies предлагает MindSpore с открытым исходным кодом, платформу обучения глубокому обучению для мобильных, периферийных и облачных сценариев. Фреймворк легкий и составляет серьезную конкуренцию TensorFlow и PyTorch.

Он масштабируется между устройствами и использует на 20 процентов меньше кода для таких функций, как обработка естественного языка (NLP). Он также поддерживает параллельное обучение, экономит время обучения для различного оборудования, а также поддерживает и сохраняет конфиденциальные данные.

MindSpore не обрабатывает никакие данные, а принимает только предварительно обработанную модель и информацию о градиентах, поддерживая надежность модели.

Апрель 2020 г.

CogMol от IBM ускорил разработку терапевтических средств для лечения COVID-19

Платформа IBM Deep Learning CogMol поможет исследователям ускорить выздоровление от инфекционных заболеваний, таких как COVID-19. Новая структура решит проблемы нынешних «генеративных моделей ИИ для создания новых пептидов, белков, и других подходящих материалов».

Июнь 2020 г.

ABBYY NeoML с открытым исходным кодом, фреймворк для глубокого обучения и алгоритмов

ABBYY объявила о запуске NeoML. Это библиотека с открытым исходным кодом для создания, обучения и развертывания моделей машинного обучения. NeoML — это кроссплатформенный фреймворк. Он оптимизирован для приложений, работающих в облаке, на настольных компьютерах и мобильных устройствах, и поддерживает как алгоритмы глубокого обучения, так и алгоритмы машинного обучения.

Инженеры ABBYY используют его для задач компьютерного зрения и НЛП. К ним относятся предварительная обработка изображений, классификация, OCR, анализ макета документа и извлечение данных из документов, которые могут быть структурированными или неструктурированными.

«NeoML предлагает на 15-20% более высокую производительность для предварительно обученных моделей обработки изображений, работающих на любом устройстве». Библиотека была разработана как комплексный инструмент для обработки и анализа многоформатных данных (видео, изображения и т. Д.).

FINDER опубликован

Сетевые ученые в течение многих лет пытались решить одну важную проблему. Они пытались определить ключевых игроков или оптимальный набор узлов, которые больше всего влияют на функциональность сети.

В июне этого года исследователи из Национального университета оборонных технологий в Китае, Калифорнийского университета в Лос-Анджелесе (UCLA) и Гарвардской медицинской школы (HMS) опубликовали структуру глубокого обучения с подкреплением (DRL) под названием FINDER (Поиск ключевых игроков в сетях через глубокое обучение с подкреплением). Его обучили на небольшом наборе синтетических сетей, а затем применили к сценариям реального мира. Эта структура может идентифицировать ключевых игроков в сложных сетях. Он был опубликован в газете Nature Machine Intelligence.

Август 2020 г.

scikit-learn выпустила версию 0.23

Новый выпуск включает в себя несколько новых ключевых функций и исправляет ошибки в предыдущем выпуске. Его основные особенности включают: обобщенные линейные модели и потери Пуассона для повышения градиента; богатое визуальное представление оценщиков; улучшения масштабируемости и стабильности KMeans; улучшения оценок повышения градиента на основе гистограмм; и поддержка веса выборки для Lasso и ElasticNet.

Сентябрь 2020 г.

Amazon опубликовал Dive into Deep Learning

Команда Amazon добавила в свою книгу ключевые рамки программирования. Книга «Погрузитесь в глубокое обучение» написана с помощью записных книжек Jupyter и объединяет математику, текст и исполняемый код. Это живой документ с полностью открытым исходным кодом, с запускаемыми обновлениями для версий HTML, PDF и записных книжек.

Хотя книга изначально была написана для MXNeT, ее авторы также добавили в нее PyTorch и TensorFlow.

Книга Amazon — отличный ресурс с открытым исходным кодом для студентов, разработчиков и ученых, интересующихся глубоким обучением.

Октябрь 2020

Новаторская модель была опубликована в журнале Nature Machine Intelligence

В октябре этого года международная исследовательская группа из TU Wien (Вена), IST Austria и MIT (США) анонсировала новую систему искусственного интеллекта. Эта новая система искусственного интеллекта, созданная на основе мозга крошечных животных, таких как острицы, может управлять транспортным средством с помощью нескольких искусственных нейронов.

Решение предлагает значительные преимущества по сравнению с предыдущими моделями глубокого обучения. Вдали от печально известного «черного ящика», он может обрабатывать шумный ввод и прост для понимания. Модель опубликована в журнале Nature Machine Intelligence.

Выпущен MIScnn

Был анонсирован MIScnn, фреймворк Python с открытым исходным кодом для сегментации медицинских изображений с использованием сверточных нейронных сетей и глубокого обучения.

Он имеет интуитивно понятные API-интерфейсы, позволяющие быстро настроить конвейеры сегментации медицинских изображений всего в несколько строк кода. MIScnn также имеет ввод-вывод данных, предварительную обработку; послойный анализ; увеличение данных; метрики; библиотека с современными моделями глубокого обучения и их использованием; и автоматическая оценка.

Выпущен TensorFlow 2.3

Новая версия отличается простой загрузкой, более быстрой предварительной обработкой данных и более простым решением узких мест в конвейере ввода. tf.data устраняет узкие места в конвейере ввода и улучшает использование ресурсов. Для продвинутых пользователей улучшена скорость обучения. tf.data позволяет пользователям повторно использовать выходные данные в другом учебном прогоне, что освобождает дополнительное время процессора.

TF Profiler добавляет профилировщик памяти для визуализации использования памяти моделью и трассировщик Python для отслеживания вызовов функций Python в модели. Он также предлагает экспериментальную поддержку нового API слоев предварительной обработки Keras.

Выпущен PyTorch 1.7.0

Он включает в себя множество новых API, включая «поддержку NumPy-совместимых FFT операций, инструментов профилирования и основных обновлений как для распределенного обучения на основе параллельных распределенных данных (DDP), так и на основе удаленного вызова процедур (RPC)».

Ноябрь и далее

После того, как 2020 год прошел свой последнему кругу, мы ожидаем появления новых и впечатляющих разработок.

Марк Кьюбан сказал: «Искусственный интеллект, глубокое обучение, машинное обучение — что бы вы ни делали, если вы этого не понимаете — изучите это. Потому что иначе через 3 года ты станешь динозавром ».

Приветствуем вас за более глубокое погружение в глубокое обучение!

Если мы пропустили важное обновление? Поделись с нами!