Поток

Работает ли Whisper на видеокартах AMD

Марк Весёлый · основатель «Потока» · ~4 мин
Работает ли Whisper на видеокартах AMD

Whisper на видеокартах AMD запускается через whisper.cpp: у него есть сборка под ROCm и HIP (флаг GGML_HIP) и кросс-вендорная сборка на Vulkan (флаг GGML_VULKAN). Для GPU у faster-whisper в README названы библиотеки NVIDIA: cuBLAS и cuDNN 9 для CUDA 12. Готовая диктовка без настройки видеокарты есть и в «Поток» (potok.now).

Whisper от OpenAI — модель распознавания речи. Для видеокарт AMD ниже разобран whisper.cpp.

Как запустить Whisper на видеокарте AMD

whisper.cpp — проект ggml-org, в котором для AMD есть две дороги. Первая — ROCm и HIP: сборка настраивается командой cmake -B build -DGGML_HIP=1 -DAMDGPU_TARGETS="gfx1201". Архитектуру своей карты узнают так: rocminfo | grep "gfx". В README приведены примеры: gfx1100 — RX 7900 XTX, gfx1101 — RX 7800 XT, gfx1201 — RX 9070 XT.

Вторая дорога — кросс-вендорный Vulkan: cmake -B build -DGGML_VULKAN=1. Она не привязана к одному производителю видеокарт.

Для тех, кто не хочет собирать сам, у проекта есть Docker-теги main-rocm и main-vulkan. Отдельный раздел README посвящён AMD Ryzen AI NPU.

Три шага диктовки в «Потоке»: зажал Ctrl + Space, сказал фразу вслух, текст появился в активном поле
Диктовка в «Потоке»: горячая клавиша, речь, готовый текст в том окне, где стоит курсор.

Где «Поток» не поможет с видеокартой

Выше речь о запуске модели на своём железе. «Поток» — облачный сервис: распознавание идёт на серверах в России, без интернета он не работает. Расшифровки файлов в самом приложении нет: готовые записи принимает Telegram-бот @potok_now_bot, а подписка одна — на приложение для диктовки и на бота. Если вам нужна именно локальная Whisper-сборка, этот путь не подойдёт, а про устройство самой Whisper читайте в статье о модели Whisper от OpenAI.

Разбор темы в три шага: Как запустить Whisper на видеокарте AMD → Где «Поток» не поможет с видеокартой → Что учесть при выборе сборки
О чём страница по шагам: Как запустить Whisper на видеокарте AMD → Где «Поток» не поможет с видеокартой → Что учесть при выборе сборки.

Что учесть при выборе сборки

У faster-whisper для GPU в README названы библиотеки NVIDIA: cuBLAS и cuDNN 9 для CUDA 12. Про AMD в этом README инструкций нет. Значения gfx из списка выше — только примеры из README, для своей карты подставляйте то, что покажет rocminfo. Встроенная диктовка Windows распознаёт в облаке Microsoft; про неё — в ответе про Win+H без интернета.

Сравнение «Потока» и Win+H по строкам: платформы, бесплатно, оплата из рф, распознавание
«Поток» и Win+H: условия по официальным сайтам сервисов.

Частые вопросы

Есть ли готовые Docker-образы whisper.cpp для видеокарт AMD?

У whisper.cpp есть Docker-теги main-rocm и main-vulkan. Первый относится к сборке под ROCm, второй — к кросс-вендорному Vulkan. Кроме того, в README есть отдельный раздел про AMD Ryzen AI NPU.

Как узнать архитектуру карты AMD для сборки whisper.cpp?

Архитектуру показывает команда rocminfo | grep «gfx». В README приведены примеры: gfx1100 — RX 7900 XTX, gfx1101 — RX 7800 XT, gfx1201 — RX 9070 XT. Найденное значение подставляют в параметр AMDGPU_TARGETS при сборке.

Есть ли Поток для Android?

Нет, версии Потока для Android нет — продукт работает только на компьютере: Windows, macOS и Linux. Для Android есть встроенный голосовой ввод Google (Gboard) или клавиатура Samsung.

Поток — это не инвестиционная платформа?

Нет. «Поток» (potok.now) — это десктопное приложение для голосового ввода текста на Windows, macOS и Linux: зажал хоткей, продиктовал, текст вставился в активное поле. К инвестиционным сервисам или финансовым платформам с похожим названием отношения не имеет.

Есть ли расширение Потока для браузера?

Отдельного расширения для браузера у Потока нет: это десктопное приложение, которое работает поверх любого окна и поля ввода, включая браузер, — а не отдельный плагин.

Где скачать Поток бесплатно?

Только с официального сайта: potok.now/download. Установка бесплатна, дальше действует 14-дневный пробный период с полным доступом без привязки карты.

Проверить за вечер

Установите «Поток», продиктуйте то, что обычно печатаете, и сравните. 14 дней полного доступа, карта не нужна. «Поток» — облачный сервис: распознавание идёт на серверах в России, без интернета он не работает.

Скачать «Поток»

Голосовое из мессенджера или запись созвона можно переслать боту @potok_now_bot — он пришлёт текст. Бот входит в ту же подписку, что и приложение «Поток».

Встроенная диктовка и «Поток»

По справке Microsoft и Apple.
СредствоГде работаетРусский языкГде распознаётся речь
Голосовой ввод Windows (Win+H)Windows 10 и 11только в Windows 11облако Microsoft, без интернета не работает
Диктовка macOSmacOSестьна устройстве или на серверах Apple
ПотокWindows, macOS, Linuxосновной языкоблако, серверы в России, без интернета не работает
Расчёт по средней скорости печати и речи, не замер.
ЗадачаЗнаковПечать (200 зн/мин)Голос (900 зн/мин)
ответ в чате3002 мин0.5 мин
письмо15008 мин1.7 мин
пост или протокол400020 мин4.4 мин
статья1000050 мин11.1 мин

Первоисточники: support.microsoft.com · support.apple.com

Марк Весёлый — основатель «Потока». Пишет о голосовом вводе на русском: как диктовать в рабочих программах, что мешает и чем это чинится.
© Поток · Липатников Владимир Олегович · ИНН 502915859701 · Оферта Сравнения · Вопросы и ответы · О проекте Бесплатный голосовой ввод · Голосовой ввод для нейросетей · Данные и 152-ФЗ · Голосовой ввод на Mac · Тарифы бота · 14 дней Pro за отзыв