В интернете нет нормальной альтернативы Google AI Studio. Пришлось написать свою

Значимый прорыв формирует отрасль ИИ: Talos13 6 минут назад В интернете нет нормальной альтернативы Google AI Studio. Пришлось написать свою Простой 7 мин 67 ReactJS * Софт Serverless * Open source * Из песочницы Многие смотрят на это спустя рукава, но Google создавал AIStudio не для того, чтобы вы ежедневного пользовались им в качестве основного интерфейса для общения с LLM. Студия была создана с целью дать возможность разработчикам настраивать параметры инференса, тестировать, баловаться.

И не нужно быть главным‑по‑aistudio, чтоб это понять — там есть тулинг, граундинг поиска, можно изменить системный промпт. Диалоги сохраняются в виде файлов на гугл диске, чтоб было можно их клонировать, бекапить, итд. Есть отдельная страница с рейт лимитами, с выпуском апи токенов.

Технические детали

Это — ворота к программному интерфейсу для разработчиков, а не удобный chatgpt‑like веб‑интерфейс. Однако, за годы полировки студия постоянно улучшалась, — что ж тут сказать, Логан Килпатрик и ко — молодцы. Есть отдельный нехилый слой пользователей, которые предпочитают основному приложению Gemini именно что Студию.

Почему — да всё просто, лимиты с подписками в интерфейсе chatgpt‑like оставляют желать лучшего, когда у самой студии лимиты вообще отдельные, а в ней же ещё и можно выпустить free tier апи ключик. В общем, как мне кажется — это был немаловажный фактор полировки качества студии. Ещё какой‑то год назад она и ощущалась и работала совсем по другому.

Парсер разметки заедал, и выводил часть размышлений в виде простого текста. До сих пор, хоть и стоит отдать должное — гораааздо реже, иногда бек присылает два ответа и перемешивает их в самом страшном виде — присылая 2–3 блока размышлений, вставляя их посреди уже итогового ответа, и в общем вычистить эту большую кашу занимает добрых 3–4 минуты на один такой косячок. Почему вообще присылается несколько — A/B тестирование.

Отраслевые последствия

Та самая штука, когда «выберите, какой ответ по вашему подходит больше». Было много таких мелочей, к которым хоть и можно было привыкнуть, но нервов они выели условно на 3–5% в пересчёте в кол‑во токенов, которые я там за всё это время истратил. Я занимаюсь много чем с LLM — и генерирую код, и общаюсь в быту, и использую в нескольких проектах, и делаю разного рода эксперименты.

Попробовать за годы (да, я начинал примерно с chatgpt-3. 5, в числе первых оплачивал подписку, и очень рад что перестал) я успел все ключевые интерфейсы, да разрешите мне во имя всего святого их не перечислять плз =)Так и какого тогда фига спустя всё это время я до сих пор иногда пользуюсь студией? Всё просто — предсказуемость, удобство, сильная команда которая её делает.

Событие, по словам экспертов, усилит конкуренцию в сфере ИИ.