Локальный ИИ на Windows в один клик: установщик Ollama с подбором модели под железо на Python и pywebview

Вот важная новость с фронта ИИ: OlegChe77 3 минуты назад Краткое содержание статьи Локальный ИИ на Windows в один клик: установщик Ollama с подбором модели под железо на Python и pywebview 6 мин 9 Python * Windows * Open source * Искусственный интеллект Запустить нейросеть у себя дома сегодня несложно, но не с первого раза. Нужно найти и поставить Ollama, понять в терминале, какую из сотни моделей брать под свою видеокарту, не ошибиться с тегом, дождаться скачивания на несколько гигабайт, а потом ещё и добыть интерфейс. Родственникам и знакомым, которые просят «поставь мне такой же ИИ, как у тебя», всё это не объяснишь за пять минут.

Поэтому я написал программу Local AI: она смотрит на железо, подбирает модель, ставит Ollama и модель одним кликом и открывает обычный чат. Ниже — как она устроена и какие грабли попались по пути. Что получилосьОдин LocalAI.

Технические детали

exe (около 42 МБ), ничего ставить заранее не нужно, Python тоже. Определяет видеокарту, видеопамять, ОЗУ и свободное место на диске, рекомендует модель из каталога на 34 позиции (Qwen3, Gemma 3/3n, Llama 3. 2, Mistral, Phi-4, DeepSeek-R1, Qwen2.

5-Coder и -VL, LLaVA, gpt-oss). Скачивает и ставит Ollama без прав администратора, скачивает модель с прогрессом. Чат с потоковым ответом, режим «Рассуждать», вложения (текстовые файлы и картинки для моделей, которые их понимают), панель «О модели» и значки возможностей.

Выбор папок для Ollama и моделей, перенос моделей, обновление Ollama и моделей, удаление всего «без следов». Интерфейс на русском и английском, две темы. Исходники открыты, MIT.

Отраслевые последствия

Диалоги не покидают ПК: чат разговаривает с Ollama на 127. Сеть нужна только для скачивания и проверки обновлений. УстройствоВыбор стека простой: нужно маленькое окно с интерфейсом и логика, которая лезет в систему (реестр, процессы, установщики).

Это Python, а интерфейс — обычный HTML/CSS/JS без сборщиков. py поднимает локальный HTTP-сервер на 127. 1 и открывает окно pywebview (WebView2).

Если окно не открылось, запасной путь — Edge или Chrome с ключом --app. py — API для интерфейса: состояние, установка, чат, обновления, пути. Запросы защищены токеном сессии (заголовок X-Token) и проверкой Host, чтобы страница из браузера не могла дёргать локальный сервер.

Этот прогресс даёт важные сигналы о будущем отрасли, и технологический мир внимательно наблюдает.