GigaAM в ONNX: экспорт и запуск модели по шагам

Экспорт GigaAM в ONNX делает метод `model.to_onnx(dir_path=onnx_dir, dtype=torch.float32)`, а запуск — функции `load_onnx` и `infer_onnx` из `gigaam.onnx_utils`. Для видеокарты берут float16 и onnxruntime-gpu. Нужны Python 3.10 или новее и ffmpeg. Нужна готовая диктовка без кода — есть Поток (potok.now).

GigaAM — модель распознавания речи из репозитория salute-developers/GigaAM. Её можно выгрузить в формат ONNX и запускать через onnxruntime; все команды ниже взяты из README репозитория.

Где пригодится экспорт GigaAM в ONNX

Экспорт нужен тому, кто хочет запускать GigaAM через onnxruntime, а не через PyTorch: для этого в репозитории есть модуль gigaam.onnx_utils. Версия модели в примере — v3_ctc, но подходит любая версия. Для сервера с Triton и TensorRT в репозитории есть отдельный раздел, triton_scripts/README.md. Лицензия GigaAM — MIT. О самом формате рассказывает подробная статья про ONNX.

Три шага диктовки в «Потоке»: зажал Ctrl + Space, сказал фразу вслух, текст появился в активном поле — Диктовка в «Потоке»: горячая клавиша, речь, готовый текст в том окне, где стоит курсор.

Шаги: от клонирования до распознавания

Склонируйте репозиторий и перейдите в него: git clone https://github.com/salute-developers/GigaAM.git, затем cd GigaAM.
Установите пакет: pip install -e .[torch]. Нужны Python 3.10 или новее и ffmpeg в PATH.
Экспортируйте модель: model.to_onnx(dir_path=onnx_dir, dtype=torch.float32). По умолчанию это fp32; для видеокарты возьмите dtype=torch.float16.
Загрузите экспортированные сессии: from gigaam.onnx_utils import load_onnx, infer_onnx, затем sessions, model_cfg = load_onnx(onnx_dir, model_version).
Распознайте файл: result = infer_onnx([audio_path], model_cfg, sessions).
Для запуска на GPU удалите onnxruntime и поставьте pip install onnxruntime-gpu==1.22.*.

Когда ONNX-запуск не нужен

Эти шаги дают распознавание в коде, а не диктовку в любое поле: готовой вставки текста в программы здесь нет. Для диктовки есть Поток — облачный сервис, распознавание на серверах в России; без интернета не работает. Приложений для телефона и офлайн-режима у Потока нет. Одна подписка — приложение для диктовки и Telegram-бот potok_now_bot для записей и голосовых. Общие приёмы диктовки собраны в разделе с инструкциями.

Сравнение «Потока» и Win+H по строкам: платформы, бесплатно, оплата из рф, распознавание — «Поток» и Win+H: условия по официальным сайтам сервисов.

Частые вопросы

Какая версия Python нужна для GigaAM?

Python 3.10 или новее, и ещё ffmpeg в PATH. Пакет ставится из клонированного репозитория командой `pip install -e .[torch]`.

Как запустить GigaAM в ONNX на видеокарте?

Экспортируйте с `dtype=torch.float16`, удалите onnxruntime и поставьте `pip install onnxruntime-gpu==1.22.*`. Для Triton и TensorRT в репозитории есть отдельный раздел triton_scripts/README.md.

Как установить и начать пользоваться Потоком: первые 5 минут?

Скачать установщик с potok.now/download → установить → зарегистрироваться по email → в любом текстовом поле зажать хоткей (по умолчанию Ctrl+Space) → говорить → отпустить хоткей — текст появится в поле.

Есть ли Поток для Android?

Нет, версии Потока для Android нет — продукт работает только на компьютере: Windows, macOS и Linux. Для Android есть встроенный голосовой ввод Google (Gboard) или клавиатура Samsung.

Есть ли расширение Потока для браузера?

Отдельного расширения для браузера у Потока нет: это десктопное приложение, которое работает поверх любого окна и поля ввода, включая браузер, — а не отдельный плагин.

Поток не открывается — что делать?

Скачайте последнюю версию с официальной страницы potok.now/download и переустановите приложение: установщик со стороннего сайта может быть изменён. Если не помогло — напишите в поддержку: support@potok.now или в Telegram https://t.me/ai23c.

Проверить за вечер

Установите «Поток», продиктуйте то, что обычно печатаете, и сравните. 14 дней полного доступа, карта не нужна. «Поток» — облачный сервис: распознавание идёт на серверах в России, без интернета он не работает.

Скачать «Поток»

В подписку «Потока» входит и Telegram-бот @potok_now_bot: перешлите ему голосовое или длинную запись встречи — он вернёт текст. Без подписки в боте 60 минут в месяц бесплатно.

Встроенная диктовка и «Поток»

По справке Microsoft и Apple.
Средство	Где работает	Русский язык	Где распознаётся речь
Голосовой ввод Windows (Win+H)	Windows 10 и 11	только в Windows 11	облако Microsoft, без интернета не работает
Диктовка macOS	macOS	есть	на устройстве или на серверах Apple
Поток	Windows, macOS, Linux	основной язык	облако, серверы в России, без интернета не работает

Расчёт по средней скорости печати и речи, не замер.
Задача	Знаков	Печать (200 зн/мин)	Голос (900 зн/мин)
ответ в чате	300	2 мин	0.5 мин
письмо	1500	8 мин	1.7 мин
пост или протокол	4000	20 мин	4.4 мин
статья	10000	50 мин	11.1 мин

Первоисточники: support.microsoft.com · support.apple.com