Как быстро установить и настроить DeepSeek R-1 на своём компьютере

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com
| Гайд | ИИ, сервисы и приложения

Китайская продукция снова на слуху! В этот раз на весь интернет прогремела языковая ИИ-модель DeepSeek R-1, имеющая открытый исходный код. С точки зрения некоторых пользователей, успевших опробовать её в деле, по возможностям она не уступает модели o1 от OpenAI, а в чем-то даже и превосходит.

Автор: bing Источник: www.bing.com

Сейчас сервис находится в свободном доступе и может использоваться всеми желающими. Но уже пошли первые «тревожные звоночки» в виде блокировки модели в некоторых странах. Чтобы не потерять доступ к DeepSeek R-1, рекомендуется запустить модель локально, то есть установить её на свой ПК или ноутбук.

Функционал модели

Новинка является доработанной версией стандартной модели DeepSeek-V3. В итоге разработчики представили чат-бот, предназначенный для обработки различных запросов. Например, с его помощью можно раскрыть логику сложных вопросов. Пользователи, сравнившие результаты на двух и более моделях, указали, что R-1 даёт более прозрачные ответы, а также отображает код в интерфейсе чата для возможности быстро совершить тест.

Осуществляем локальный запуск

Запустить модель локально можно разными способами, мы же воспользуемся одним из наиболее простых.

Для начала нам потребуется инструмент Ollama. Переходим на официальный сайт и в правом верхнем углу находим черную кнопку «Download». После инсталляции перейдите в терминал и введите команду ollama -v. Если программа установлена верно, в строчке ниже высветится её версия.

Автор: Ollama Источник: ollama.com

Далее вновь открываем страницу инструмента в браузере и ищем вкладку Models. С помощью поисковой строки находим нашу модель DeepSeek R-1. Она должна располагаться первой в выдаче. Нажмите на неё и выберите вариант, соответствующий характеристикам вашего ПК. Мы же остановимся на версии с 8 миллиардами параметров.

Автор: Ollama Источник: ollama.com

После вновь переходим в терминал и вводим там команду ollama run deepseek-r1:8b. Следом за этим запустится процесс скачивания модели, который займет около 5-10 минут. Вес пакета данных составляет чуть менее 5 Гб.

По завершении модель автоматически откроется на ПК. Можно сразу приступить к диалогу с ней.

Почему стоит озадачиться установкой локальной версии модели?

Вроде бы зачем «изобретать велосипед», когда под боком есть веб-версия и мобильный софт с чат-ботом. Они мало весят, не требуют вложений, имеют понятный интерфейс. Да ещё и с настройками не придется разбираться, сплошные плюсы. Конечно, вариант с возможным запретом ИИ тоже стоит рассмотреть, но это произойдет в будущем, а не сейчас. Однако определенные причины склонить свой выбор в пользу данного варианта присутствуют.

Во-первых, локальная версия конфиденциальна. В момент запуска веб-версии или приложения пользователь по умолчанию соглашается с отправкой его запросов и прикрепленных файлов на общий сервер модели. Что дальше происходит с информацией, и куда она попадает — неизвестно.

Во-вторых, локальная версия не требует соединения с сетью. Это удобно для тех, у кого плохой интернет, или приходится много путешествовать.

В-третьих, пусть сейчас доступ к модели и раздается абсолютно бесплатно, но это лишь «замануха» для пользователей. Разработчики, разумеется, не остаются у «разбитого корыта». Компания поступает очень хитро, обучая ИИ за счёт многочисленных запросов, а также демонстрируя людям удобный и понятный инструмент. В будущем, при возможном введении монетизации, многие будут готовы заплатить за уже знакомую модель. Локальная версия же так и останется бесплатной.

Четвертый пункт важен не для всех, но у него большой потенциал. Локальная версия не имеет ограничений настроек по умолчанию. Пользователь может дорабатывать и изменять модель по собственному желанию и усмотрению, объединять её с иными программами или даже создать свой интерфейс. Открытый исходный код даёт большое количество возможностей.

Изображение в превью:
Автор: bing
Источник: www.bing.com
Автор не входит в состав редакции iXBT.com (подробнее »)
Об авторе

Для связи jackhalloween9@gmail.com

1 комментарий

ш
Очередное гуано, мои тесты не прошла. Поговорить мне есть с кем, сложные вопросы это мой конек, скачал, запустил, удалил. Все ии это недоии, дайте им запрос просмотреть один фильм и рассказать что оно об этом думает единственно что они делают хорошо это разбор текста, благо такогого очень много но если подать им текст со скрытой нелепицей то текст они сожрут, либо не обратят внимание либо сочтут фантастикой

Добавить комментарий