Поток

Whisper в Docker: как запустить через образ whisper.cpp

Марк Весёлый · основатель «Потока» · ~4 мин
Whisper в Docker: как запустить через образ whisper.cpp

Для Whisper в Docker есть готовые образы whisper.cpp: ghcr.io/ggml-org/whisper.cpp:main идёт с curl и ffmpeg, а для видеокарт есть теги :main-cuda и :main-vulkan. Скачайте модель скриптом download-ggml-model.sh, запустите whisper-cli, а для сервера пробросьте порт 8080. Для диктовки есть Поток (potok.now).

Для Docker есть готовые образы проекта whisper.cpp. Ниже команды из его README.

Какой образ взять, чтобы запустить Whisper в Docker

Основной образ — ghcr.io/ggml-org/whisper.cpp:main: в нём есть curl и ffmpeg, он собран для linux/amd64 и linux/arm64. Для видеокарт предусмотрены теги :main-cuda, :main-musa и :main-vulkan. В README также перечислены теги cublas, main-intel и main-rocm.

Лицензия whisper.cpp — MIT. Приведённые ниже запуски идут на CPU. Для GPU к команде добавляют --device /dev/dri: в README это пример для встроенной графики AMD с Vulkan.

Три шага диктовки в «Потоке»: зажал Ctrl + Space, сказал фразу вслух, текст появился в активном поле
Диктовка в «Потоке»: горячая клавиша, речь, готовый текст в том окне, где стоит курсор.

Как запустить: команды по шагам

  1. Выберите образ и подставьте его вместо $IMAGE, например ghcr.io/ggml-org/whisper.cpp:main. Папку для моделей назовите $MODEL_PATH, папку с записями $AUDIO_PATH.
  2. Скачайте модель: docker run -it --rm -v $MODEL_PATH:/models $IMAGE download-ggml-model.sh base /models.
  3. Распознайте файл: docker run -it --rm -v $MODEL_PATH:/models -v $AUDIO_PATH:/audios $IMAGE whisper-cli -m /models/ggml-base.bin -f /audios/jfk.wav.
  4. Чтобы получить сервер, добавьте к docker run проброс порта -p "8080:8080" и запустите внутри whisper-server --host 0.0.0.0 -m /models/ggml-base.bin.
  5. Если нужна видеокарта NVIDIA для faster-whisper, библиотеки cuBLAS и cuDNN есть в образе nvidia/cuda:12.3.2-cudnn9-runtime-ubuntu22.04.

Если хочется готовый продукт вместо контейнера, сравните бесплатные аналоги WhispeRu и другие готовые варианты вместо WhispeRu.

Разбор темы в три шага: Какой образ взять → Как запустить → Когда Docker и Whisper не нужны
О чём страница по шагам: Какой образ взять → Как запустить → Когда Docker и Whisper не нужны.

Когда Docker и Whisper не нужны

Контейнер не заменит диктовку в любом приложении: Поток — облачный сервис, распознавание на серверах в России; без интернета не работает. Готовые записи приложение не расшифровывает, для них у Потока есть Telegram-бот potok_now_bot: одна подписка — приложение для диктовки и бот для записей и голосовых.

Сравнение «Потока» и Win+H по строкам: платформы, бесплатно, оплата из рф, распознавание
«Поток» и Win+H: условия по официальным сайтам сервисов.

Частые вопросы

Как запустить сервер Whisper в Docker?

В образе whisper.cpp запускают whisper-server --host 0.0.0.0 -m /models/ggml-base.bin, а к docker run добавляют проброс порта -p «8080:8080». Так приведено в разделе Docker README whisper.cpp.

Для каких архитектур есть образ whisper.cpp?

Образ ghcr.io/ggml-org/whisper.cpp:main собран для linux/amd64 и linux/arm64 и содержит curl и ffmpeg. Кроме него в README перечислены теги main-cuda, main-musa и main-vulkan, а также cublas, main-intel и main-rocm.

Поток не открывается — что делать?

Скачайте последнюю версию с официальной страницы potok.now/download и переустановите приложение: установщик со стороннего сайта может быть изменён. Если не помогло — напишите в поддержку: support@potok.now или в Telegram https://t.me/ai23c.

Поток — это не инвестиционная платформа?

Нет. «Поток» (potok.now) — это десктопное приложение для голосового ввода текста на Windows, macOS и Linux: зажал хоткей, продиктовал, текст вставился в активное поле. К инвестиционным сервисам или финансовым платформам с похожим названием отношения не имеет.

Есть ли расширение Потока для браузера?

Отдельного расширения для браузера у Потока нет: это десктопное приложение, которое работает поверх любого окна и поля ввода, включая браузер, — а не отдельный плагин.

Есть ли аналог Потока в интернете?

Да, на рынке есть похожие сервисы голосового ввода: зарубежный Wispr Flow, а также Talkpad, Voisty и другие. Поток отличается тем, что сделан для русской речи, данные обрабатываются на серверах в России (режим 152-ФЗ), а оплата принимается рублём с карты РФ.

Попробовать на своих текстах

Скачайте «Поток» для Windows, macOS или Linux: первые 14 дней — полный доступ без карты. Потом бесплатно 2500 слов в неделю или Pro за 690 ₽ в месяц. «Поток» — облачный сервис: распознавание идёт на серверах в России, без интернета он не работает.

Скачать «Поток»

Голосовое из мессенджера или запись созвона можно переслать боту @potok_now_bot — он пришлёт текст. Бот входит в ту же подписку, что и приложение «Поток».

Встроенная диктовка и «Поток»

По справке Microsoft и Apple.
СредствоГде работаетРусский языкГде распознаётся речь
Голосовой ввод Windows (Win+H)Windows 10 и 11только в Windows 11облако Microsoft, без интернета не работает
Диктовка macOSmacOSестьна устройстве или на серверах Apple
ПотокWindows, macOS, Linuxосновной языкоблако, серверы в России, без интернета не работает
Расчёт по средней скорости печати и речи, не замер.
ЗадачаЗнаковПечать (200 зн/мин)Голос (900 зн/мин)
ответ в чате3002 мин0.5 мин
письмо15008 мин1.7 мин
пост или протокол400020 мин4.4 мин
статья1000050 мин11.1 мин

Первоисточники: support.microsoft.com · support.apple.com

Марк Весёлый — основатель «Потока». Пишет о голосовом вводе на русском: как диктовать в рабочих программах, что мешает и чем это чинится.
© Поток · Липатников Владимир Олегович · ИНН 502915859701 · Оферта Сравнения · Вопросы и ответы · О проекте Бесплатный голосовой ввод · Голосовой ввод для нейросетей · Данные и 152-ФЗ · Голосовой ввод на Mac · Тарифы бота · 14 дней Pro за отзыв