Российские ученые придумали, как ускорить обучение нейросетей в 15-20 раз
Использование неправильных размеров сетей привело к ошибочному выводу, что метод RND не умеет дискриминировать данные — отличать действия из датасета от прочих. Исследователи из Tinkoff Research обнаружили, что при использовании эквивалентной глубины сетей, метод RND начинает качественно различать данные. Затем исследователи приступили к оптимизации ввода и научили роботов приходить к эффективным решениям при помощи механизма слияния, основанного на модуляции сигналов и их линейном отображении. До этого при использовании метода RND поступающие сигналы не подвергались дополнительной обработке.
Одним из наиболее перспективных видов обучения ИИ является обучение с подкреплением (RL), позволяющее ИИ учиться методом проб и ошибок, адаптироваться в сложных средах и изменять поведение на ходу. Обучение с подкреплением может использоваться во всех сферах: от регулирования пробок на дорогах до рекомендаций в социальных сетях.
Суть новой технологии заключается в том, что она способна не только выявлять слабые места в работе нейросети, но и проводить детальный анализ типов ошибок, возникающих в процессе обучения. Эти ошибки классифицируются по различным группам, что позволяет более точно и эффективно «лечить» выявленные проблемы. Таким образом, Cognitive Neural Network Hospital функционирует как своего рода «врач» для нейросетей, способствуя их оптимизации и повышению общей эффективности.
На визуализации ниже в верхнем ряду показаны предыдущие попытки применения метода RND, в нижнем — метод SAC-RND. Стрелки на изображении должны вести робота в одну точку — они указывают направление к правильному действию. Метод Tinkoff Research во всех случаях стабильно приводит робота в нужную точку
Таким образом, разработка Cognitive Neural Network Hospital не только ускоряет процесс обучения нейросетей, но и открывает новые возможности для их применения в различных отраслях, что делает эту технологию важным шагом в развитии искусственного интеллекта. В будущем мы можем ожидать, что такие инновации будут внедряться все шире, что, безусловно, повлияет на качество и скорость развития технологий в целом.
Учёные из лаборатории исследований искусственного интеллекта Tinkoff Research разработали SAC-RND — новый алгоритм для обучения ИИ. На робототехнических симуляторах было достигнуто повышение скорости обучения в 20 раз по сравнению со всеми существующими аналогами при возросшем на 10 % качестве. Оптимизация крайне ресурсоёмкого процесса обучения ИИ ускорит развитие многих сфер, где применяется ИИ.
По словам генерального директора Cognitive Pilot Ольги Усковой, внедрение данной технологии привело к увеличению эффективности обучения искусственного интеллекта на 40%. Это означает, что нейросети теперь могут быстрее и качественнее обрабатывать информацию, что, в свою очередь, открывает новые горизонты для применения ИИ в различных сферах. Особенно это актуально для таких областей, как автопилотирование, где время разработки и внедрения новых систем критически важно.
Специалисты компании Cognitive Pilot представили инновационную технологию, названную Cognitive Neural Network Hospital, которая представляет собой автоматизированный механизм для анализа и исправления ошибок, возникающих во время обучения нейронных сетей. Например, искусственный интеллект, который позволяет заменить фон на фото, сможет обучаться на новых данных в несколько раз быстрее.
Сокращение времени на обучение нейросетей позволяет разработчикам быстрее выводить на рынок новые решения и обновления, что особенно важно в условиях быстро меняющегося технологического ландшафта. Пользователи, в свою очередь, получают доступ к самым современным и эффективным технологиям, что значительно улучшает их опыт взаимодействия с ИИ.
Разработчики утверждают, что SAC-RND может «повысить безопасность беспилотных автомобилей, упростить логистические цепочки, ускорить доставку и работу складов, оптимизировать процессы горения на энергетических объектах и сократить выбросы вредных веществ в окружающую среду. Открытие не только улучшает работу узкоспециализированных роботов, но и приближает нас к созданию универсального робота, способного в одиночку выполнять любые задачи».
Кроме того, стоит отметить, что такая технология может оказать влияние и на другие области, такие как медицина, финансы и образование, где нейросети используются для анализа больших объемов данных и принятия решений. Ускорение процесса обучения может привести к более точным прогнозам, улучшению диагностики заболеваний и повышению уровня персонализации образовательных программ.
При этом ранее считалось, что использование случайных нейросетей (RND) не применимо для офлайн-обучения с подкреплением. В методе RND используются две нейросети — случайная и основная, которая пытается предсказать поведение первой. Свойство нейросети определяются её глубиной — количеством слоёв, из которых она состоит. Основная сеть должна содержать больше слоёв, чем случайная, иначе моделирование и обучение становится нестабильным или даже невозможным.
Метод SAC-RND был протестирован на робототехнических симуляторах и показал лучшие результаты при меньшем количестве потребляемых ресурсов и времени. Открытие поможет ускорить исследования в области робототехники и обучения с подкреплением, поскольку оно снижает время получения устойчивого результата в 20 раз и является важным шагом на пути к созданию универсального робота.
Tinkoff Research — российская исследовательская некоммерческая группа. Учёные из Tinkoff Research исследуют наиболее перспективные области ИИ: обработку естественного языка (NLP), компьютерное зрение (CV), обучение с подкреплением (RL) и рекомендательные системы (RecSys). Команда курирует исследовательскую лабораторию «Тинькофф» на базе МФТИ и помогает талантливым студентам совершать научные открытия.