DeepSeek Coder без интернета: установка и запуск

Работаете с закрытым проектом и не хотите, чтобы куски вашего кода уходили на чужие серверы? Тогда локальный ИИ-помощник — рабочий вариант. DeepSeek Coder входит в число сильнейших открытых моделей для программирования, и её ставят на обычный домашний компьютер, после чего интернет во время работы уже не нужен. Ниже — как установить её через Ollama, чем по требованиям отличается Code Llama и как включить автодополнение кода без сети.

Что такое DeepSeek Coder

Ссылка: DeepSeek Coder

Это модель, заточенная под код: она разбирает синтаксис более 80 языков, пишет функции, ищет ошибки, объясняет чужие куски кода. Есть несколько версий — от 1,3 до 33 миллиардов параметров. Логика простая: крупнее модель — лучше ответы, но и требования к памяти растут.

Ключевой момент для локального запуска — не нужны ни API-ключ, ни подписка. Скачали один раз — и модель работает у вас на диске, код никуда не отправляется.

Ollama: для чего он нужен

Ollama берёт на себя техническую рутину — скачивание модели, распаковку, настройку, запуск. Без неё пришлось бы вручную собирать окружение, ставить библиотеки, подбирать параметры. С Ollama всё это — одна команда в терминале.

Работает на Windows, macOS, Linux. Можно запускать и на процессоре, и с ускорением на видеокарте — как позволяет железо.

Установка Ollama

Занимает пару минут.

macOS:

brew install ollama

Linux:

curl -fsSL https://ollama.ai/install.sh | sh

Windows — скачайте установщик с сайта ollama.ai, запустите как обычную программу.

Дальше поднимаем сервер:

ollama serve

Через него потом будут работать все модели.

Загрузка и запуск DeepSeek Coder

Дальше — одна команда, размер модели выбираете под своё железо:

ollama pull deepseek-coder:1.3b    # около 1 ГБ, для слабых машин

ollama pull deepseek-coder:6.7b    # золотая середина, около 4 ГБ

ollama pull deepseek-coder:33b     # максимум качества, около 19 ГБ

Для 6.7b хватит 8 ГБ оперативной памяти, для 33b нужно от 32 ГБ. Нет мощной видеокарты — не страшно, модель пойдёт на процессоре, просто медленнее.

Запуск:

ollama run deepseek-coder:6.7b

Откроется чат прямо в терминале. Интернет нужен был только на этапе загрузки файлов — дальше можно работать хоть в самолёте.

Команды, которые пригодятся

• ollama list — что уже скачано
• ollama rm deepseek-coder:6.7b — удалить модель
• ollama stop — остановить работающую модель
• ollama create mymodel -f ./Modelfile — собрать свою версию модели с другими настройками

Code Llama: запуск локально

Ещё одна открытая модель для кода, от Meta. Ставится так же просто:

ollama pull codellama

ollama run codellama

По умолчанию тянется версия на 7 миллиардов параметров, но есть и 13b, и 34b — указываются через двоеточие, например codellama:13b. Требования к памяти растут вместе с размером точно так же, как у DeepSeek Coder.

Какая модель лучше — вопрос без общего ответа: результат зависит от языка программирования и конкретных задач. Проще один раз попробовать обе на своём проекте и оставить ту, что даёт более полезные подсказки.

Автодополнение кода офлайн

Главная причина, по которой люди вообще связываются с локальными моделями, — автодополнение прямо в редакторе без отправки данных наружу. Нужен плагин, подключённый к запущенному Ollama.

Для VS Code подойдут Continue или Twinny — добавляют и автодополнение, и чат с моделью прямо в среде разработки. В настройках указываете адрес локального сервера (обычно http://localhost:11434) и название модели — вот и всё.

Работает это так: редактор стучится не в облако, а на локальный порт вашей же машины. Ollama обрабатывает запрос через DeepSeek Coder или Code Llama и возвращает результат. Код при этом с компьютера не уходит.

Если что-то не работает

Модель тормозит — скорее всего, не хватает видеопамяти, и она ушла на процессор. Возьмите модель поменьше или квантованную версию, вроде deepseek-coder:6.7b-q4_K_M — она занимает меньше места ценой небольшой потери точности.

Порт 11434 занят — запустите сервис на другом: ollama serve —port 9000.

Модель не качается — проверьте интернет, он нужен именно на загрузке. Если доступ к серверам Ollama ограничен, поможет зеркало через переменную OLLAMA_ORIGINS.

Настройка DeepSeek Coder и Code Llama через Ollama укладывается в несколько команд терминала — ничего сложного тут нет. После разовой загрузки всё работает локально, включая автодополнение в редакторе, а код проекта остаётся у вас на диске. Версии на 6,7 миллиарда параметров обычно достаточно — она не съедает всю память и при этом дает разумные ответы.