← Назад в документацию

Первая локальная модель без интернета

Ключевой сценарий Mega App — чат на устройстве. После того как файл модели лежит на телефоне, ответы считаются процессором телефона, без обращения к OpenAI, GigaChat и другим API. Интернет нужен только чтобы скачать модель (или скопировать её с компьютера).

Где это в приложении

Откройте Настройки → Модель и API → Локальная модель. Там каталог вариантов для скачивания, размер, типичные задачи, прогресс загрузки и импорт файла с телефона.

Загрузка идёт через foreground-сервис с уведомлением: можно свернуть приложение, Android не должен оборвать скачивание. Если оборвалось — откройте тот же раздел, прогресс тот же.

Что выбрать в каталоге

  • Смотрите не только «качество», а размер файла и RAM. На телефоне с 6 ГБ RAM большая модель будет выгружаться и тормозить.
  • Для проверки офлайна достаточно компактного варианта из каталога: план на день, заметки, черновик письма.
  • Импорт с телефона: если модель уже скачана (например с компьютера), добавьте файл в разделе локальных файлов. У импортированных записей есть пометка об источнике, показывается фактический размер.

Конкретные имена моделей в каталоге меняются от версии к версии. Ориентир релиза 0.1.15 — несколько готовых вариантов с описанием требований, плюс импорт своего файла.

Как проверить, что чат правда офлайн

  1. Дождитесь статуса, что модель скачана и готова.
  2. В настройках чата выберите локальную модель, а не облачный endpoint.
  3. Включите авиарежим или выключите Wi‑Fi и мобильные данные.
  4. Отправьте короткое сообщение. Ответ должен появиться без ошибки сети.

Облачные инструменты (веб-поиск, удалённый SSH) в авиарежиме недоступны — это ожидаемо. Локальный текст и голос остаются.

Локально и облако вместе

Mega App умеет и локальную модель, и OpenAI-совместимый API / GigaChat. Типичная схема: в дороге — локальная, дома на Wi‑Fi — облако. Есть режим авто-fallback: если внешний API недоступен, запрос уходит на локальную модель (если она загружена).

Ключи облака храните в Credentials, не в чате. Импорт по ссылке: deep link OpenAI.

Если модель не стартует

  • Нехватка RAM или места — выберите модель меньшего размера, закройте тяжёлые приложения.
  • Файл скачался не до конца — удалите битый файл в разделе локальных моделей и скачайте снова.
  • Импорт чужого формата — каталог рассчитан на модели, которые понимает встроенный движок. Произвольный GGUF «с форума» может не подойти.