В 2024 году NVIDIA выпустила Chat with RTX — бесплатную программу, которая превращала игровой компьютер в личного ИИ-помощника. Модель работала прямо на видеокарте, без интернета, и умела отвечать по вашим собственным документам. Позже приложение переименовали в ChatRTX, добавили голосовой ввод и поиск по фотографиям.
С 21 января 2026 года проект официально закрыт. NVIDIA больше не поддерживает ChatRTX, а форум программы весной заблокировали для новых сообщений. Но сама идея локального ИИ никуда не делась: наоборот, в 2026 году запускать модели у себя стало проще и быстрее. Рассказываем, что случилось с ChatRTX, стоит ли его ещё ставить и чем его заменить.
Что умел ChatRTX
ChatRTX был демонстрационным приложением NVIDIA для Windows. Он показывал, на что способна видеокарта RTX в задачах ИИ.
- Ответы по вашим файлам. Вы указывали папку с документами, заметками или фото, и модель отвечала на вопросы, опираясь на них. Технически это называется RAG — поиск по базе с генерацией ответа.
- Локальная работа. Всё считалось на вашем компьютере, данные никуда не уходили.
- Голос и картинки. В поздних версиях появился голосовой ввод и поиск по изображениям с помощью модели CLIP.
- Несколько моделей. В последней версии были доступны, например, Llama 3.1 8B, Mistral 7B и ChatGLM3 6B; набор зависел от видеокарты.
Требования к последней версии 0.5 были такими: видеокарта GeForce RTX серии 30 или 40 с памятью от 8 ГБ либо RTX 5080 или 5090, Windows 11 версии 23H2 или 24H2 и свежий драйвер.
Что значит «больше не поддерживается»
В репозитории проекта на GitHub появилось уведомление: с 21.01.2026 проект устарел и не поддерживается. Код остался в архиве, его можно посмотреть и скачать, но обновлений и исправлений не будет.
На практике это значит:
- новые модели в ChatRTX уже не появятся;
- ошибки установки никто не исправит, а у части пользователей ещё в начале 2026 года не скачивались модели;
- совместимость с будущими драйверами и версиями Windows никто не гарантирует.
Поставить ChatRTX ради интереса ещё можно, но строить на нём рабочий процесс уже нет смысла. Лучше сразу перейти на живые инструменты.
Чем заменить: две главные программы
NVIDIA сама в своих материалах о локальном ИИ на ПК с RTX предлагает начинать с двух бесплатных приложений: Ollama и LM Studio. Обе работают на Windows, macOS и Linux и обе используют движок llama.cpp, который NVIDIA оптимизирует под свои видеокарты.
LM Studio — для тех, кто любит кнопки
LM Studio выглядит как обычная программа: есть каталог моделей, кнопка «скачать», окно чата и настройки, сколько слоёв модели держать на видеокарте. Подходит, если вы не хотите иметь дело с командной строкой. Документы можно прикрепить прямо в чат и задавать по ним вопросы, это ближе всего к опыту ChatRTX.
Ещё одна полезная функция — локальный сервер, совместимый с API OpenAI. Его можно подключить к другим программам, например к редактору кода.
Ollama — быстрый старт и работа в фоне
Ollama ставится за пару минут и держит модели в фоне. Модель скачивается одной командой, например <code>ollama run qwen3.8:27b</code>. У Ollama есть и собственное окно чата, куда можно перетащить PDF. Программа удобна, если вы хотите подключать локальную модель к другим приложениям.
Пошаговую установку обеих программ на примере моделей Qwen мы разбирали в статье «Как запустить Qwen локально».
Что нового в локальном ИИ на RTX в 2026 году
Пока ChatRTX уходил в архив, NVIDIA вложилась в открытые проекты. На выставке IFA в сентябре 2026 года компания рассказала о нескольких обновлениях.
- До 1,9 раза быстрее. Новые оптимизации llama.cpp дают до 1,9 раза больше скорости на GeForce RTX 5090. Обновления уже доступны в LM Studio и Ollama.
- NVIDIA PAIR. Бесплатный инструмент с открытым кодом, который распределяет запросы к ИИ между несколькими компьютерами в домашней сети. Работает с Ollama и LM Studio и поддерживает видеокарты от RTX 20-й серии. Пока это бета-версия.
- Агенты в один клик. В агенте Hermes на Windows обещают настройку локальной модели в один клик: программа будет сама определять видеокарту и подбирать модель. Для OpenClaw вышло приложение для Windows, которое упрощает запуск на видеокартах RTX с памятью от 24 ГБ.
- ПК RTX Spark. В октябре 2026 года должны начаться продажи компьютеров на платформе RTX Spark: до 128 ГБ общей памяти и графический процессор Blackwell. Их позиционируют как машины для постоянно работающих локальных агентов.
Какую модель выбрать под вашу видеокарту
Главное ограничение — память видеокарты. Модель должна поместиться в неё целиком, иначе часть вычислений уйдёт на процессор и скорость резко упадёт. Ориентиры примерные: многое зависит от степени сжатия модели и длины контекста.
| Память видеокарты | Что запускать |
|---|---|
| 8 ГБ | компактные модели на 7–9 млрд параметров |
| 12–16 ГБ | модели до ~14 млрд, gpt-oss-20b (около 14 ГБ) |
| 24 ГБ и больше | модели на 27–32 млрд, например Qwen3.8-27B или Muse Glimmer |
Несколько конкретных вариантов:
- gpt-oss-20b от OpenAI — открытая модель с режимами размышления, в Ollama занимает около 14 ГБ. Как её поставить, рассказано в инструкции по запуску gpt-oss.
- Muse Glimmer от Meta — модель на 30 млрд параметров для кода и агентных задач. NVIDIA подтверждает, что она работает на ПК с GeForce RTX. Подробнее в нашем обзоре Muse Glimmer.
- Qwen3.8-27B — открытая модель Alibaba, по словам NVIDIA оптимизированная для локальных агентных задач и программирования на её видеокартах.
- Nemotron 3.5 Lightning — собственная модель NVIDIA на 30 млрд параметров, рассчитанная в том числе на ПК с RTX.
Если сомневаетесь между семействами, загляните в сравнение Llama, Qwen, Mistral и Gemma для домашнего запуска.
Как повторить главный трюк ChatRTX: ответы по своим документам
Больше всего ChatRTX любили за возможность «поговорить» со своими файлами. Вот как сделать то же самое сейчас.
- Установите LM Studio или Ollama и скачайте модель, которая помещается в память видеокарты.
- Проверьте, что модель работает на видеокарте: откройте диспетчер задач, вкладку «Производительность», и посмотрите, растёт ли занятая память GPU при загрузке модели.
- Для пары документов просто прикрепите файлы к чату и задавайте вопросы.
- Для большой папки с документами используйте программу с функцией базы знаний, которая подключается к локальной модели. NVIDIA в своих материалах упоминала, например, AnythingLLM.
- Проверяйте ответы: локальные модели небольшого размера ошибаются чаще облачных, особенно в цифрах и датах.
Частые вопросы
Можно ли ещё скачать Chat with RTX?
Архив проекта остался на GitHub, но программа не поддерживается. Если она установится, пользоваться ею можно, но обновлений и исправлений не будет.
Нужен ли интернет для локального ИИ?
Только для скачивания программы и моделей. После этого чат работает без сети.
Подойдёт ли видеокарта RTX 3060?
Да, для небольших моделей. Версия с 12 ГБ памяти справится с моделями примерно до 12–14 млрд параметров в сжатом виде.
Локальная модель так же умна, как ChatGPT или Claude?
Нет, крупнейшие облачные модели сильнее. Зато локальная модель бесплатна, работает без интернета и не отправляет ваши данные на чужие серверы.
Можно ли использовать видеокарту AMD?
Ollama и LM Studio поддерживают и другие видеокарты, но оптимизации, о которых говорит NVIDIA, касаются именно RTX.
