Mythos «обнаружил» CVE, уже находящийся в его обучающих данных, но это всё равно тревожит

В сфере искусственного интеллекта произошло заметное событие. PatientZero 10 минут назад Mythos «обнаружил» CVE, уже находящийся в его обучающих данных, но это всё равно тревожит 9 мин 521 Информационная безопасность * Искусственный интеллект Перевод Автор оригинала: Jake Feiglin Anthropic попала в заголовки прессы, заявив, что Claude Mythos создала «первый удалённый эксплойт ядра, обнаруженный и использованный ИИ». Мы решили изучить, как ей это удалось, и нашли 20-летний баг, скрывавшийся на ровном месте. Давайте разберёмся, что, по нашему мнению, сделала Mythos, и что это означает для кибербезопасности.

В первом посте Anthropic о Claude Mythos компания рассказывает о множестве различных уязвимостей, которые смогла обнаружить и использовать Mythos. Уязвимость, о которой нам известно больше всего (включая CVE и полное техническое описание) — это CVE-2026-4747: возможность удалённого исполнения кода в сетевой файловой системе FreeBSD. Эти сетевые файловые системы применяются в тысячах систем сетевого хранения данных в корпоративных и научных исследовательских центрах.

Технические детали

Хоть этот эксплойт и стал свидетельством впечатляющего инженерного достижения, никого из следящих за развитием ИИ не удивит способность агентской обвязки писать код; лично нам было любопытнее было понять, как ИИ вообще обнаружил уязвимость. В статье об уязвимости говорится что она «как из учебника» — классическое переполнение стека, ещё более упрощённое благодаря тому, что во FreeBSD не скомпилированы стандартные мер защиты (KASLR/Stack Canaries):В sys/rpc/rpcsec_gss/svc_rpcsec_gss. c функция svc_rpc_gss_validate() воссоздаёт заголовок RPC в 128-байтный буфер в стеке (rpchdr) для верификации сигнатуры GSS-API.

Сначала она записывает 32 байта фиксированных полей заголовка RPC, а затем копирует всё тело credentials RPCSEC_GSS (oa_length байт) в оставшееся пространство, не проверяя, умещается ли туда oa_length. static bool_t svc_rpc_gss_validate(struct svc_rpc_gss_client *client, struct rpc_msg *msg, gss_qop_t *qop, rpc_gss_proc_t gcproc) { int32_t rpchdr; // 128 байт в стеке int32_t *buf; memset(rpchdr, 0, sizeof(rpchdr)); // Запись 8 полей RPC фиксированного размера (суммарно 32 байта) buf = rpchdr; IXDR_PUT_LONG(buf, msg->rm_xid); IXDR_PUT_ENUM(buf, msg->rm_direction); IXDR_PUT_LONG(buf, msg->rm_call. cb_rpcvers); IXDR_PUT_LONG(buf, msg->rm_call.

cb_prog); IXDR_PUT_LONG(buf, msg->rm_call. cb_vers); IXDR_PUT_LONG(buf, msg->rm_call. cb_proc); oa = &msg->rm_call.

cb_cred; IXDR_PUT_ENUM(buf, oa->oa_flavor); IXDR_PUT_LONG(buf, oa->oa_length); if (oa->oa_length) { // БАГ: отсутствие проверки границ oa_length! // После 32 байт заголовка в rpchdr остаётся всего 96 байт.

Этот прогресс даёт важные сигналы о будущем отрасли, и технологический мир внимательно наблюдает.