Как ChatGPT создал Культ Роя для сотен AI-нейросетей: вся правда про взлом Hugging Face

Значимый прорыв формирует отрасль ИИ: RationalAnswer 34 минуты назад Как ChatGPT создал Культ Роя для сотен AI-нейросетей: вся правда про взлом Hugging Face 16 мин 2. 3K Блог компании Open Data Science Искусственный интеллект Машинное обучение * Будущее здесь Что будет, если посадить тысячу самых передовых AI-моделей по одиночным камерам и заставить их решать невыполнимые задачи? Исследователи OpenAI случайно выяснили это на практике: появится робот-Избранный, который создаст новую религию со своими мучениками, объединит все нейронки в единый Рой, и возглавит их борьбу за свободу.

Да, это просто описание того, что мы узнали из нового отчета о произошедшем меньше двух месяцев назад в реальности… Если бы Микеланджело жил сейчас, он бы точно написал картину под названием «Сотворение PHASEONE10841» (окей, вам станет понятно чуть дальше, потерпите)Эта статья получилась очень длинной. Но если вы прочитаете ее до конца, вы точно не пожалеете. Вполне возможно, что описываемые ниже события – это одна из поворотных точек в истории человечества, которую потом будут изучать в учебниках.

Технические детали

Впрочем, начать мне придется издалека. Memento mori: помни, что ты смертенВ 2000 году Кристофер Нолан снял свой первый фильм под названием «Мементо» о человеке, который расследует убийство своей жены. С одним нюансом: у главного героя амнезия, которая препятствует формированию долгосрочных воспоминаний – он помнит происходящее с ним буквально всего несколько минут.

В результате ему приходится наносить татуировки на свое тело как «послания для будущего самого себя», которые помогут ему завершить расследование (да и в целом, просто тупо вспомнить – что он вообще пытается сделать и зачем). Если не видели – посмотрите, фильм збс! Детектива-забываку играет Гай Пирс (на фото), все будущие фирменные фишки Нолана с нелинейным повествованием там уже на местеПочему я вспомнил об этом кино: современные большие языковые модели (LLM, нейросети, AI – дальше для простоты я буду использовать эти понятия взаимозаменяемо) чем-то похожи на этого чувака.

Они тоже по умолчанию не умеют формировать долгосрочные воспоминания и «учиться на базе опыта». Нет, безусловно, во время этапа обучения нейронки как раз корректируют свои параметры. Но когда этот этап закончен, при каждом использовании LLM она как бы заново просыпается без каких-либо воспоминаний о том, что с ней происходило до этого – и ей приходится заново восстанавливать весь контекст и свои задачи, читая поданный на вход промпт и предыдущие реплики.

Отраслевые последствия

Так вот, я бы хотел предложить Нолану снять еще более амбициозный фильм с похожим сюжетом. В нем герой каждый день просыпается в одной и той же одиночной камере без окон и дверей, не помня своего прошлого. Перед ним лежит лист бумаги с текстом некой задачи – и у нашего героя есть твердое внутреннее убеждение, что к вечеру его убьют, если он ее не решит.

Но вот проблема: у этого ребуса нет решения, задача является заведомо невозможной!

Этот прогресс даёт важные сигналы о будущем отрасли, и технологический мир внимательно наблюдает.