локальный ии для программирования: что поставить на свой компьютер и чем за это платишь
локальный ии для программирования — это открытая модель, которая работает на твоём компьютере: код никуда не уходит, интернет и подписка не нужны. на 14 октября 2026 года проще всего поставить ollama или lm studio, скачать модель вроде qwen3.8 на 27 млрд параметров и подключить её к vs code или claude code. платишь железом и качеством: модель, которая влезает в домашний компьютер, слабее облачных флагманов, а агенту нужен контекст от 64 тысяч токенов и много памяти.
зачем локальный ии для программирования
локальные нейросети для программирования ставят по трём причинам. первая — приватность. по документации ollama, при локальном запуске разработчики сервиса не видят ни промпты, ни данные. код клиента, ключи в конфиге и внутренняя логика продукта остаются на твоём диске. если заказчик запретил отдавать код в чужие облака, это единственный честный способ работать с ии.
вторая — офлайн. модель скачивается один раз, дальше сеть не нужна: поезд, самолёт, дача с плохой связью. третья — нет подписки и лимитов. для локальных моделей ollama не нужен ни ключ api, ни вход в аккаунт, а сколько запросов ты отправишь за день, решает только твоё железо.
если цель не приватность, а просто ноль рублей, сначала посмотри мой разбор бесплатных нейросетей для программирования. бесплатные планы облачных сервисов часто дают больше, чем домашняя видеокарта.
чем платишь за локальную модель
железом. модель целиком грузится в память. файл qwen3.8 на 27 млрд параметров в ollama весит 18 гб, laguna xs 2.1 — 20 гб в самом компактном варианте. на машине с 8 гб такой файл просто не поместится, а если видеопамяти мало, часть модели уйдёт на процессор, и ответы замедлятся.
контекстом. агенту нужно держать в голове много кода сразу. документация ollama просит для агентов и инструментов для кода минимум 64 000 токенов контекста. а по умолчанию ollama выдаёт контекст по объёму видеопамяти: меньше 24 гб — всего 4 тысячи токенов, от 24 до 48 гб — 32 тысячи, от 48 гб — 256 тысяч. поднять можно вручную, но больший контекст съедает больше памяти.
качеством. модели, которые влезают в домашний компьютер, уступают облачным флагманам, о которых я писал в статье какая модель лучше для программирования. цифры бенчмарков на страницах открытых моделей публикуют сами разработчики. а дома ты обычно запускаешь сжатую версию: квантование экономит память, но модель становится чуть менее точной.
временем. облачный сервис работает из коробки. локально ты сам выбираешь модель и размер контекста, следишь, влезла ли она в видеокарту, и выясняешь, почему агент не вызывает инструменты.
чем запускать: ollama, lm studio, llama.cpp
ollama
самый простой путь для кода. работает на macos, linux и windows, держит локальный сервер на http://localhost:11434 и понимает запросы в форматах openai и anthropic. поэтому к нему подключаются и редакторы, и агенты, включая claude code. установка:
# macos и linux
curl -fsSL https://ollama.com/install.sh | sh
# windows, powershell
irm https://ollama.com/install.ps1 | iex
одна оговорка. в ollama есть и облачные модели, у них в названии тег :cloud, и запросы к ним уходят на серверы сервиса. если нужна строгая приватность, облако выключается переменной OLLAMA_NO_CLOUD=1 или строкой disable_ollama_cloud: true в файле ~/.ollama/server.json — так написано в faq ollama.
lm studio
приложение с окнами: поиск моделей на hugging face, чат, чат с документами офлайн, подключение mcp-серверов и локальный сервер в формате openai по адресу http://localhost:1234/v1. внутри — llama.cpp, а на mac с apple silicon ещё и mlx.
требования: на mac нужен apple silicon и macos 14 или новее, intel-маки не поддерживаются, памяти рекомендуют от 16 гб. на windows — от 16 гб оперативной памяти и от 4 гб видеопамяти, процессор с avx2. по условиям от 23 августа 2026 года приложение можно использовать для личных и внутренних рабочих задач, но нельзя перепродавать или отдавать другим как сервис.
llama.cpp
движок, на котором работает, например, lm studio. открытый, лицензия mit, поддерживает apple silicon, видеокарты nvidia и amd, vulkan и обычный процессор. умеет делить модель между видеокартой и оперативной памятью, если видеопамяти не хватает. по текущей инструкции ставится и запускается так:
curl -LsSf https://llama.app/install.sh | sh
llama serve -hf ggml-org/Qwen3.5-0.8B-GGUF
вторая команда скачивает модель с hugging face и поднимает сервер в формате openai. это выбор для тех, кто хочет всё контролировать сам. для старта ollama проще.
какие открытые модели для кода брать в октябре 2026
я смотрел страницы моделей на ollama и hugging face 14 октября 2026 года. первые четыре в таблице рассчитаны на один компьютер, пятая — уже серверного размера. прочерк значит, что на странице этого нет.
| модель | чья | размер | файл в ollama | лицензия | что важно |
|---|---|---|---|---|---|
| qwen3.8 27b | qwen | 27 млрд | 18 гб | apache 2.0 | вышла в августе 2026, контекст 262 144 токена, заявлена для кода и долгих агентных задач |
| qwen3.6 | qwen | 27 и 35 млрд | 18–19 и 23–24 гб | — | улучшено агентное программирование: фронтенд и логика на уровне репозитория |
| laguna xs 2.1 | poolside | 33 млрд, активны 3 | 20 гб | openmdw-1.1, коммерческое использование разрешено | по словам разработчика, идёт на mac с 36 гб; swe-bench verified 70,9% по его же данным |
| north mini code 1.0 | cohere | 30 млрд, активны 3 | 19 гб | apache 2.0 плюс правила использования cohere | дообучена на задачах реальной разработки и работы в терминале |
| deepseek v4 flash | deepseek | 284 млрд, активны 13 | — | mit | контекст до 1 млн токенов, запуск через vllm и sglang — это сервер, а не ноутбук |
«активны 3» значит, что модель устроена из экспертов (moe): на каждый токен работает небольшая часть, поэтому она отвечает быстрее модели того же размера. но загрузить в память всё равно надо весь файл. у laguna xs 2.1 есть свежая оговорка: на macos чат через ollama run может возвращать пустой ответ, разработчики разбираются.
для подсказок при наборе большая модель не нужна. в гайде continue для автодополнения стоит qwen2.5-coder:1.5b. но гайд написан под ollama 0.11, так что модели в нём не самые новые — перед установкой посмотри свежие на ollama.com.
сколько нужно памяти
точных требований к видеокарте qwen, deepseek и cohere на страницах моделей не публикуют. ориентиры, которые я нашёл в официальных источниках:
- гайд continue: модели на 1,5–3 млрд параметров — около 4 гб оперативной памяти, на 7 млрд — около 8 гб, на 13 млрд — около 16 гб, на 32 млрд — около 32 гб. минимум для старта — 8 гб, рекомендуют от 16 гб.
- размер файла в ollama: у моделей на 27–35 млрд это 18–24 гб. это нижняя планка, сверху нужен запас под контекст.
- poolside про laguna xs 2.1: хватает mac с 36 гб памяти.
- ollama: при видеопамяти меньше 24 гб стандартный контекст всего 4 тысячи токенов, для агента его придётся поднимать.
проверка простая: после запуска модели набери ollama ps. в колонке PROCESSOR должно стоять 100% GPU — значит, модель целиком в видеопамяти. если там видна доля cpu, часть модели ушла в оперативную память. в колонке CONTEXT видно, сколько контекста реально выделено.
как подключить локальную модель к редактору
vs code через расширение ollama
у ollama есть своё расширение для vs code, нужен vs code 1.127 или новее. ставишь расширение ollama из marketplace, открываешь чат, внизу поля ввода жмёшь выбор модели и берёшь её из раздела ollama. сервер расширение ищет само, на http://127.0.0.1:11434. если модели не видно, в палитре команд есть «ollama: refresh models» и «ollama: diagnose models». документация отдельно просит выставить локальным моделям контекст не меньше 64k и перезагрузить окно.
continue
continue — расширение для редактора, где каждой модели даётся своя роль: чат, правки, автодополнение. настройки лежат в config.yaml. по структуре из их гайда минимальный конфиг для ollama выглядит так, модели подставь свои:
name: Local Config
version: 0.0.1
schema: v1
models:
- name: Chat and Agent
provider: ollama
model: qwen3.6:27b
apiBase: http://localhost:11434
roles:
- chat
- edit
capabilities:
- tool_use
- name: Autocomplete
provider: ollama
model: qwen2.5-coder:1.5b
roles:
- autocomplete
модели заранее скачай командой ollama pull с точным тегом: continue их сам не загружает. и учти оговорку из гайда: даже с tool_use в настройках режим агента работает не со всеми моделями.
claude code на локальной модели
я делаю сайты, ботов и seo через claude code, поэтому этот вариант мне ближе всего. ollama запускает его с локальной моделью одной командой из папки проекта:
ollama launch claude
или вручную, через переменные окружения:
export ANTHROPIC_AUTH_TOKEN=ollama
export ANTHROPIC_API_KEY=""
export ANTHROPIC_BASE_URL=http://localhost:11434
claude --model qwen3.5
вместо qwen3.5 из примера документации подставь модель, которую скачал. условия те же: модель должна уметь вызывать инструменты, контекст — от 64k. куда на самом деле смотрит claude code, проверяется командой /status. так же через ollama launch запускаются codex и opencode.
остальные
в документации ollama есть страницы для jetbrains, zed, cline, roo code и xcode. lm studio и llama.cpp подключаются к любому клиенту, который работает с api в формате openai: указываешь адрес локального сервера и имя модели.
шаг за шагом: локальный ии для программирования за вечер
- проверь память. модели на 27–35 млрд весят 18–24 гб, плюс нужен запас под контекст. если памяти меньше, бери модель поменьше или оставайся в облаке.
- поставь ollama командой выше и открой приложение.
- скачай модель:
ollama pull qwen3.8, это 18 гб. - подними контекст до 64k: ползунок context length в настройках приложения или запуск сервера с переменной (команда ниже).
- проверь
ollama ps: 100% gpu и нужный контекст. - подключи редактор или агента: расширение ollama в vs code или
ollama launch claudeв папке проекта. - дай пробную задачу в отдельной ветке git: написать тесты к одному модулю, переименовать функцию по всему проекту, объяснить чужой файл. потом дай ту же задачу облачной модели и сравни.
OLLAMA_CONTEXT_LENGTH=64000 ollama serve
кому подходит, а кому нет
подходит, если:
- код нельзя отдавать наружу: nda, финансы, заказчик запретил облака;
- часто работаешь без интернета;
- есть mac с большим объёмом памяти или видеокарта с запасом видеопамяти;
- нужны подсказки при наборе, тесты, объяснение кода и рутинные правки — там хватает модели средней силы;
- тебе интересно, как устроены модели, и ты готов возиться с настройкой.
не подходит, если:
- у тебя ноутбук на 8–16 гб, а хочется агента, который сам ведёт весь проект: не хватит ни памяти, ни контекста;
- ты делаешь сайты и ботов на заказ, и важен результат с первого раза: облачные флагманы пока сильнее;
- цель — только сэкономить: мощное железо само стоит денег, а бесплатные планы облачных сервисов дают поработать без него.
мой вывод: для вайбкодинга на заказ локальная модель — дополнение, а не замена. рабочая схема — облачный агент для основной работы и локальная модель для кода, который нельзя показывать, и для работы без сети. какие агенты и редакторы есть вообще, я собрал в статье ии для вайбкодинга.
вопросы
можно ли запустить локальную модель на обычном ноутбуке?
да, но маленькую. гайд continue считает минимумом 8 гб памяти, lm studio на mac рекомендует 16 гб. на таком железе реальны автодополнение и чат с моделью на несколько млрд параметров. модели на 27–35 млрд весят 18–24 гб и туда не влезут.
какая открытая модель лучше для кода?
единого ответа нет: бенчмарки публикуют сами разработчики. из актуального на октябрь 2026 под домашнее железо — qwen3.8 и qwen3.6, laguna xs 2.1 от poolside и north mini code от cohere. deepseek v4 тоже открыта, но это модели серверного размера.
правда ли код никуда не уходит?
с локальными моделями — да, ollama пишет, что при локальном запуске не видит промпты и данные. но в той же ollama есть облачные модели с тегом :cloud, их запросы идут на серверы сервиса. и не открывай сервер наружу: настройка OLLAMA_HOST=0.0.0.0 делает его доступным на всех сетевых интерфейсах, гайд continue прямо просит быть с ней осторожнее.
ollama или lm studio?
для кода и агентов я бы начал с ollama: у неё готовые связки с vs code, claude code, codex и opencode. lm studio удобнее, когда хочется выбирать и пробовать модели мышкой. обе поднимают локальный сервер, так что можно держать обе.
без видеокарты совсем не получится?
получится: llama.cpp работает и на процессоре, а ещё умеет делить модель между видеокартой и оперативной памятью. но для нормальной скорости модель должна целиком помещаться в видеопамять, ollama покажет это как 100% gpu в ollama ps.
хочешь собрать связку под свой проект: что держать в облаке, что запускать локально и какую модель потянет твой компьютер? приходи на консультацию — 2 часа один на один, разбираем твой проект и доводим вместе на твоём экране. стоимость 15 000 ₽.
источники
читать дальше
- агенты claude code: субагенты, параллельная работа и свой агент-ревьюерагенты claude code по документации: что такое субагенты, как написать своего в .claude/agents, как запускать их параллельно и когда они только жгут лимиты.
- бесплатные нейросети для программирования: что реально работает и где упрёшьсябесплатные нейросети для программирования на октябрь 2026: чаты, редакторы, конструкторы, api и открытые модели — лимиты, таблица и где упрёшься.
- claude design skill: как сделать, чтобы сайт из claude code не выглядел как ииclaude design skill по делу: что anthropic считает приметами ии-дизайна, какие skills для интерфейсов ставить и как написать свой под стиль бренда.