Шесть недель с agentic AI против фрода в adversarial-системе

Вот важная новость с фронта ИИ: Я слишком рано понёс первые результаты в наш продукт. Тогда это выглядело логично: мы прикрутили агентный ИИ к анализу логов и поведения пользователей в regulated продукте с реальными денежными операциями, качество обнаружения пошло вверх, аналитики по фроду стали меньше возвращать инженерам мусорные кейсы. Снаружи это уже выглядело рабочим слоем защиты: аналитики видели меньше мусора, инженеры получали более понятные issues, и продукт наконец увидел практическую пользу вместо очередного демо.

Я примерно так и сказал: “смотрите, это уже не игрушка”. Плохая фраза, как оказалось. Потому что как только защита начинает работать, даже чуть-чуть, вокруг сразу появляются нормальные взрослые вопросы.

Технические детали

А давайте это в платежи? А в странные кейсы саппорта, где один тикет внезапно объясняет половину графика? И в системах с живым противником есть ещё одна неприятная деталь: рабочая защита становится сигналом для другой стороны.

Пишу по собственному инженерному опыту. Детали слегка обобщены и обезличены, потому что в антифроде лишняя конкретика быстро превращается в инструкцию для другой стороны.

Этот прогресс даёт важные сигналы о будущем отрасли, и технологический мир внимательно наблюдает.