Поток

Whisper large-v3 turbo или large-v3: что выбрать для русского

Марк Весёлый · основатель «Потока» · ~5 мин
Whisper large-v3 turbo или large-v3: что выбрать для русского

Turbo быстрее: в нём 809 млн параметров против 1550, скорость около 8 раз к large, видеопамяти нужно около 6 ГБ вместо 10. За это качество чуть ниже: средний WER на лидерборде 7,83% против 7,44% у large-v3. Оценки turbo именно для русского не найдено. Поток (potok.now) — облачный сервис.

Turbo и large-v3 — две модели из одного семейства Whisper. Разница в слоях декодера: у turbo он урезан с 32 до 4. Ниже, что это даёт по размеру, скорости и качеству, и что про русский известно на самом деле.

Whisper large-v3 turbo или large-v3: в чём разница

В turbo 809 млн параметров, в large-v3 — 1550 млн. В таблице размеров Whisper large требует около 10 ГБ видеопамяти, turbo — около 6 ГБ; скорость turbo около 8 раз к large (относительно large, замер на видеокарте A100). Карточка turbo называет потерю качества небольшой («minor quality degradation»).

Цифра в карточке: средний WER на лидерборде Open ASR — 7,83% у turbo и 7,44% у large-v3. Это среднее по языкам, русское число отдельно не приводится. Оценки turbo именно на русском не найдено.

Large-v3 обучали на примерно миллионе часов слабо размеченного и четырёх миллионах часов псевдоразмеченного звука; по карточке у неё на 10–20% меньше ошибок, чем у large-v2. По числу параметров turbo (809 млн) стоит рядом с medium (769 млн), а не с tiny или base (39 и 74 млн). Ещё одно отличие: turbo не обучали переводу речи на другой язык. Лицензия у turbo MIT, а у large-v3 на карточке Apache-2.0, хотя оригинальный репозиторий Whisper тоже под MIT.

Три шага диктовки в «Потоке»: зажал Ctrl + Space, сказал фразу вслух, текст появился в активном поле
Диктовка в «Потоке»: горячая клавиша, речь, готовый текст в том окне, где стоит курсор.

Какую модель взять под свою видеокарту

По таблице размеров turbo требует около 6 ГБ видеопамяти, large — около 10 ГБ. Если памяти хватает и важнее средний WER, число у large-v3 чуть лучше, 7,44% против 7,83%. Обе модели есть в faster-whisper, где выбирают тип вычислений: float16, int8_float16 или int8. Веса large-v3 для этого движка хранятся в FP16.

У large-v3 в карточке есть предупреждение: возможен текст, которого нет в записи, и склонность к повторам. Версия distil-large-v3 в примере показана с английским языком, для русского не заявлена. Если запускаете модель на процессоре в whisper.cpp, для large на диске нужно 2,9 ГиБ, в памяти около 3,9 ГБ. Как работает Whisper в целом, объясняет обзор модели Whisper, а точность на русском разобрана в материале про Whisper и русскую речь.

Расчёт по средней скорости печати и речи, не замер.
ЗадачаЗнаковПечать (200 зн/мин)Голос (900 зн/мин)
ответ в чате3002 мин0.5 мин
письмо15008 мин1.7 мин
пост или протокол400020 мин4.4 мин
статья1000050 мин11.1 мин
Разбор темы в три шага: Whisper large-v3 turbo или large-v3 → Какую модель взять под свою видеокарту → Когда выбирать между моделями не нужно
О чём страница по шагам: Whisper large-v3 turbo или large-v3 → Какую модель взять под свою видеокарту → Когда выбирать между моделями не нужно.

Когда выбирать между моделями не нужно

Если вам нужна диктовка в любую программу, а не запуск моделей самому, вопрос turbo или large-v3 отпадает. Поток — облачный сервис, распознавание идёт на серверах в России; без интернета он не работает. Перевода между языками, как и приложений для Android и iPhone, у Потока нет. Для готовых записей есть Telegram-бот potok_now_bot: одна подписка покрывает приложение для диктовки и бот для записей и голосовых. Бесплатного лимита мало тому, кто диктует весь день.

Сравнение «Потока» и Win+H по строкам: платформы, бесплатно, оплата из рф, распознавание
«Поток» и Win+H: условия по официальным сайтам сервисов.

Частые вопросы

Умеет ли Whisper turbo переводить речь на другой язык?

Нет: в карточке turbo сказано, что её не обучали задачам перевода.

Одинаковые ли у turbo и large-v3 лицензии?

По карточкам нет. У turbo лицензия MIT, у large-v3 на карточке Apache-2.0, а у оригинального репозитория Whisper — MIT. Поэтому лицензию стоит смотреть в карточке выбранной модели.

Есть ли расширение Потока для браузера?

Отдельного расширения для браузера у Потока нет: это десктопное приложение, которое работает поверх любого окна и поля ввода, включая браузер, — а не отдельный плагин.

Сколько стоит Поток и какие есть тарифы?

Есть бесплатный пробный период на 14 дней с полным доступом к функциям Pro, карта не требуется. После пробного периода — либо бесплатный лимит 2500 слов в неделю, либо платная подписка Pro 690 ₽/мес (дешевле при годовой оплате — 499 ₽/мес).

Что пишут пользователи в отзывах о Потоке?

На сайте potok.now собраны обобщённые отзывы, отражающие типичный опыт пользователей; в маркетинговых материалах они не выдаются за отзывы конкретных людей с именами.

Как установить и начать пользоваться Потоком: первые 5 минут?

Скачать установщик с potok.now/download → установить → зарегистрироваться по email → в любом текстовом поле зажать хоткей (по умолчанию Ctrl+Space) → говорить → отпустить хоткей — текст появится в поле.

Как начать

«Поток» есть для Windows, macOS и Linux. Две недели всё открыто бесплатно, дальше — 2500 слов в неделю без оплаты. «Поток» — облачный сервис: распознавание идёт на серверах в России, без интернета он не работает.

Скачать «Поток»

Голосовое из мессенджера или запись созвона можно переслать боту @potok_now_bot — он пришлёт текст. Бот входит в ту же подписку, что и приложение «Поток».

Встроенная диктовка и «Поток»

По справке Microsoft и Apple.
СредствоГде работаетРусский языкГде распознаётся речь
Голосовой ввод Windows (Win+H)Windows 10 и 11только в Windows 11облако Microsoft, без интернета не работает
Диктовка macOSmacOSестьна устройстве или на серверах Apple
ПотокWindows, macOS, Linuxосновной языкоблако, серверы в России, без интернета не работает

Первоисточники: support.microsoft.com · support.apple.com

Марк Весёлый — основатель «Потока». Пишет о голосовом вводе на русском: как диктовать в рабочих программах, что мешает и чем это чинится.
© Поток · Липатников Владимир Олегович · ИНН 502915859701 · Оферта Сравнения · Вопросы и ответы · О проекте Бесплатный голосовой ввод · Голосовой ввод для нейросетей · Данные и 152-ФЗ · Голосовой ввод на Mac · Тарифы бота · 14 дней Pro за отзыв