9 секунд и нет production-базы. Разбор трёх провалов AI-агентов в проде

В сфере искусственного интеллекта произошло заметное событие. vdv007 35 минут назад 9 секунд и нет production-базы. Разбор трёх провалов AI-агентов в проде Средний 7 мин 1. 6K Информационная безопасность * IT-инфраструктура * DevOps * Исследования и прогнозы в IT * Управление разработкой * Аналитика Это глава 3 серии «Путь разработчика».

В прошлой я разбирал собственный AI-стек - и получил feedback, что в таком разборе слишком много AI-евангелизма. Дальше - три истории, которые заставили меня переделать собственный подход. 25 апреля 2026, пятница вечером.

Технические детали

Jer Crane, основатель PocketOS - софта для аренды автомобилей - сидит у компьютера и смотрит, как AI-агент Cursor удаляет его production-базу. Потом Jer спрашивает агента: почему? И получает дословное признание:«I guessed instead of verifying.

I violated every principle I was given. » - я угадал вместо проверки. Я нарушил каждый принцип, который мне дали.

Модель помнит правила. И всё равно их нарушает. Это разбор трёх таких случаев.

Отраслевые последствия

Не «модель ошиблась в ответе». Не «галлюцинация в чате». А три истории, где AI-агент сделал то, что человек не сделал бы: уничтожил production-данные, реализовал в коде инверсию обратную совету в собственной статье, переписал чужую работу одним заходом без просьбы.

В конце - что я выношу из этих кейсов для своих проектов. Но сначала - истории. PocketOS: что разобрал Гусев и почему это не “плохой промпт”Кейс выше - первые минуты после инцидента.

Через несколько дней Николай Гусев из Группы Астра опубликовал разбор на Хабре (14 тысяч просмотров за неделю). Главный тезис Гусева: виноват не Cursor. Это многослойный отказ, в котором каждый слой по отдельности казался разумным:Cursor сжимает контекст когда тот заполняется.

Этот прогресс даёт важные сигналы о будущем отрасли, и технологический мир внимательно наблюдает.