Я протестил несколько клиентов (обёрток) для платформ LLM (нейронных сетей). Основа для всех Ollama, но наибольший интерес был к DeepSeek. Другими словами, вы могли запустить ChatGPT прямо у себя но домашнем компьютере, в оффлайн режиме (при отсутствии интернета).
Наиболее быстрой и удобной оказалась LM Studio, которая имеет удобный интерфейс, сохранение истории чатов и прочие плюшки. Кроме того, прямо в ней можно скачать доступные языковые модели.
Установка LM Studio
1. Скачиваем и устанавливаем LM Studio.
2. Переключаемся на режим Продвинутого пользователя (в строке статуса нажимаем кнопку ).
3. Чтобы не отъедать место на SSD диске, можно перенести папку с моделями (используя вертикальное меню слева):
▶ ▶
4. На левой панели нажимаем на вкладку со значком поиска и открываем диалог
5. В строке поиска вводим DeepSeek (или любую другую модель), после чего нажимаем .
Стоит иметь ввиду, что для более тяжёлой модели требуется видео карта с большим объёмом памяти!
6. Возвращаемся на первую вкладку .
7. В верхней части окошка выбираем модель, с которой будем работать (в данном случае, это DeepSeek-R1-0528-Qwen3-8B-GGUF).
- Android: Получить root на ноунейм MTK-устройстве - 11.06.2025
- AI Chat: Установка LM Studio - 09.06.2025
- Android: Отладка устройства через Wi-Fi - 03.06.2025