LLM-беседы: Предрасположенность к риску разных ноосвиков / LLM

В сфере искусственного интеллекта произошло заметное событие. Kroopkin 53 минуты назад Краткое содержание статьи LLM-беседы: Предрасположенность к риску разных ноосвиков / LLM Средний 4 мин 1K Искусственный интеллект Будущее здесь Обзор В литературе существует несколько работ, изучавших отношение разных ноосвиков / LLM к риску. Данная статья представляет обзор этих работ из перспективы развиваемой автором теории LLM. Любопытно, что хоть в общем случае задание (промпт) и влияет на рискованность поведения ноосвика, для популярных моделей в случае одинаковых стартовых условий обнаружена закономерность в рискованности их поведения: Claude Sonnet 4.

2 < Gemini 3 Pro < Qwen3 Max < GPT-5. Эксперименты:Поведенчески ситуация «LLM и риск» была в частности исследована Sun et al. Шесть ноосвиков и 100 человек решали три задачи с общей схемой, но разными областями действия: управление дроном в условиях случайных ветров, сортировка пациентов в больнице, формирование инвестиционного портфеля из активов с разными свойствами.

Технические детали

LLM, во-первых, оценивал опасность ситуации по шкале 0–100, а во-вторых, принимал решение: вёл дрон, назначал уровень срочности, распределял капитал. Продемонстрированные решения исследователи упаковали в пять классов, упорядоченных по осторожности-рискованности. При наборе статистики память о предыдущем сбрасывалась, так что ИИ-агент приступал к задаче «с нуля».

В задаче с дроном оценка повторялась и постфактум, и именно такая оценка была использована в презентации результатов работы. Оказалось, что ноосвики решают задачи с разной рискованностью. Пять из них сохраняли по склонности к риску во всех задачах один относительный порядок: Claude Sonnet 4.

2 < Gemini 3 Pro < Qwen3 Max < GPT-5. Исключением был Grok 4: наиболее рискованный в задаче с дроном и наименее – в двух других задачах. Далее, у Grok 4 и Qwen3 Max, в отличие от остальных, наблюдается высокая вариативность оценки опасности.

Отраслевые последствия

Например, для задачи с дроном, относительное стандартное отклонение было 24% у Grok 4 и 52% у Qwen3 Max. В сравнении с людьми все шесть LLM показали себя очень однородно – в узкой полосе внутри распределения, построенного по показателям людей. В других работах, связанных с риском (Zhu et al.

, 2025; Kocielnik et al. , 2026), оказалось, что выборы ИИ-агентов позволяют определить свою ось и сдвиги по этой оси влияют на выбранный риск. Тут исследовались модели Gemma-2-9B-Instruct у Zhu et al.

1-8B, OLMo-3-7B и Ministral-3-8B у Kocielnik et al. Притом оси, построенные по словам «риск / безопасность» (Zhu et al. , 2025) или по описаниям рискующего человека (Kocielnik et al.

Событие, по словам экспертов, усилит конкуренцию в сфере ИИ.