Inside AI Meetup — как это было? Делимся записями докладов, фото и атмосферой

Значимый прорыв формирует отрасль ИИ: MariMokieva 1 минуту назад Inside AI Meetup — как это было? Делимся записями докладов, фото и атмосферой 5 мин 2 Блог компании Wildberries & Russ Машинное обучение * Искусственный интеллект Конференции Репортаж Привет! 20 мая прошел Inside AI Meetup от Wildberries & Russ — про практические кейсы внедрения ИИ: векторный поиск и модерация с 200+ моделями, AIOps для ML/GenAI-сервисов, RAG без галлюцинаций, запуск LLM-продуктов, генерация текстов из видео, поиск и рекомендации.

В программе были кейсы от опыт Wildberries & Russ, MWS, Avito, VK, M2, МФТИ, Сбера, red_mad_robot и Альфа-Банка, а еще новые знакомства и полезный нетворкинг. В статье вы найдете видеозаписи с ивента и фото. Доклад «О применении AI в Wildberries & Russ» — Павел Раваев, CDO Wildberries & RussСмотреть на YouTubeСмотреть в VKПрезентацияДоклад «Внедрение AIOps-практик для контроля и повышения общей утилизации ресурсов для тысяч продуктовых сервисов» — Даниил Понизов, Team Lead MLOps, и Роман Лазовский, MLOps Engineer, Wildberries & RussДаниил и Роман рассказали, кто такой ваш этот AIOps и как он помогает решать проблемы, возникающие при промышленной эксплуатации ML и GenAI сервисов требующих большого количества дорогостоящих ресурсов.

Технические детали

В докладе — о нашем опыте внедрения AIOps платформы KeepHQ, как она помогла нам повысить утилизацию ресурсов нашего ресерч кластера и сотни продовых ML-сервисов в 1. 5 раза, а также автоматизировать процесс реагирования и контроля разрешения поступающих алертов. Смотреть на YouTubeСмотреть в VKПрезентацияДоклад «Автоматические гардрейлы» — Владимир Солодкин, Ведущий исследователь Института ИИ МФТИМодели защиты (guardrails) являются важным дополнением к основной большой языковой модели (LLM), решающей бизнес задачи.

Guardrails защищают от попыток вытащить из LLM запрещенную, конфеденциальная, некорреткную, компрометирующая информацию. Спектр угроз и их изощренность растет с каждым днем. В докладе рассмотрели мультиагентное решение, которое в режиме реального времени анализирует текущие способы атак, например, возникающие в Интернете (в научной литературе, блогпостах и тд), и автоматически дообучает модели защиты.

Обсудили и возможность эволюционной модификации не только модели защиты, но и создание новых концепций атак также в автоматическом режиме с помощью мультиагентной системы. Смотреть на YouTubeСмотреть в VKПрезентацияДоклад «Как мы за перевели более 10 продуктов на единую Discovery-платформу» — Денис Самохвалов, Руководитель отдела рекомендаций социальных сервисов AI, VKDiscovery-платформа — единая инфраструктура для рекомендаций, поиска и рекламы. Её ядро: шардированный рантайм, стриминговая платформа Profile Stream и Feature Flow.

Денис рассказал про путь эволюции платформы от катбустов к нейроранку, как мы перевели 10+ продуктов и сократили внедрение новых рекомендаций в продуктах до 3 месяцев.

Этот прогресс даёт важные сигналы о будущем отрасли, и технологический мир внимательно наблюдает.