Self-Evolving Knowledge: Как взрастить senior агента

Значимый прорыв формирует отрасль ИИ: DeadMoose 2 часа назад Self-Evolving Knowledge: Как взрастить senior агента 7 мин 3. 3K Искусственный интеллект Программирование * Прототипирование * Управление разработкой * Привет! Я не AI-инженер, у меня нет ML образования.

Я проджект-менеджер со старым бекграундом в качестве веб-разработчика и с опытом более 10 лет в управлении командами разработки ПО. И с приходом полноценных AI-агентов я стал по выходным заниматься экспериментами на своих пет-проектах. Один из таких проектов - мобильное приложение для запоминания карточек/слов: я учу японский язык и не нашёл ни одного сервиса, в котором добавлять новые слова в словарь было бы не мучительно, поэтому решил сделать своё, для себя.

Технические детали

Что ж, для этого у меня не было GPU-кластера и команды, но был MacBook, свободное воскресенье и конкретная проблема, которую я хотел решить. Ниже я опишу свои наблюдения с точки простого PM'a, и вытекающую ​идею и концепт. wikiLLMНе так давно я наткнулся на описанную идею Andrej Karpathy о wikiLLM - держать знания в структурированной wiki, которую агент читает, пополняет за счет сырых данных и использует в ответах.

Логика простая и красивая: дай агенту хорошо организованную базу знаний, и он будет работать точнее. По крайне мере так, как я это понял. И в начале было отлично.

Я распотрошил свою главную . md инструкцию, и структурировал все основные моменты по папкам в wiki/. Но самое интересное наблюдение пришло потом...

Отраслевые последствия

Как проджект-менеджер, я привык подмечать "лишнее" и "недостающее". Wiki я собрал, но она не росла и агент не становился "лучше". Потому что я не отдавал агенту сырых данных, кроме стартового периода, следовательно, его знания не росли.

Они могли немного прибавляться в моменте за счет веб-поиска, но на том все. Как же так получилось? Это не история о том, что wikiLLM плохой подход - Andrej Karpathy уж точно умнее меня =) Просто мои требования от агента не полностью подходили под этот метод (по крайней мере насколько я понял этот метод).

У меня нет потока сырых данных, которые можно было бы разбить на статьи в классическом понимании. Мои сырые данные - это гипотезы, концепты, запросы и баги. Мне нужен был не библиотекарь, а разработчик, который закрывает мои продуктовые задачи.

Этот прогресс даёт важные сигналы о будущем отрасли, и технологический мир внимательно наблюдает.