Для русского модель Whisper выбирают по ошибкам и видеопамяти. По статье OpenAI на тесте Fleurs WER равен: tiny 31,1%, base 20,5%, small 11,4%, medium 7,2%, large 6,4%. Памяти нужно от около 1 ГБ у tiny до около 10 ГБ у large. Поток (potok.now) — облачная диктовка, где модель выбирать не нужно.
Whisper выпускается в нескольких размерах, и выбор между ними — это обмен точности на скорость и видеопамять.
Какую модель Whisper выбрать: tiny, base, small, medium или large
Скорость в списке ниже дана относительно large по замеру на A100.
- У tiny 39 M параметров, около 1 ГБ видеопамяти и скорость примерно в 10 раз выше, чем у large: это самая быстрая модель в списке.
- У base 74 M параметров, около 1 ГБ видеопамяти и скорость примерно в 7 раз выше.
- Small состоит из 244 M параметров, занимает около 2 ГБ и работает примерно в 4 раза быстрее.
- Medium: 769 M параметров, около 5 ГБ, примерно вдвое быстрее large.
- Large — это 1550 M параметров, около 10 ГБ видеопамяти и скорость, принятая за единицу.
- В turbo 809 M параметров, около 6 ГБ видеопамяти и примерно в 8 раз выше скорость, чем у large.
Модели с суффиксом .en понимают только английский, для русского они не подходят. Версия large-v3 обучена на 1 млн часов слабо размеченного и 4 млн часов псевдоразмеченного звука, ошибок у неё на 10–20% меньше, чем у large-v2. В карточке есть предупреждение: модель может выдать текст, которого нет в записи, и склонна к повторам.
Как сопоставить модель со своей видеокартой
- Посмотрите, сколько видеопамяти у вас свободно, и сравните с цифрами выше: small берёт около 2 ГБ, medium около 5 ГБ, large около 10 ГБ.
- Для русского берите многоязычную модель, без суффикса
.en. - Помните, что русский WER из статьи OpenAI получен на Fleurs, где дикторы читают текст, а не говорят свободно.
- О том, как модель устроена, расскажет разбор работы Whisper.
Где Поток не ответ на этот вопрос
Поток — облачный сервис, распознавание на серверах в России; без интернета не работает. Это приложение для диктовки на Windows, macOS и Linux: размера модели там выбирать не приходится. Версий для Android и iPhone нет. Готовые записи расшифровывает Telegram-бот potok_now_bot, подробнее — что делает бот и что приложение.
Частые вопросы
У turbo 809 M параметров, а декодер урезан с 32 до 4 слоёв; в карточке модели указано небольшое ухудшение качества. Средний WER на Open ASR leaderboard 7,83 у turbo и 7,44 у large-v3. Это средние цифры, а не оценка для русского.
У кода и весов Whisper лицензия MIT. На карточке large-v3 указана Apache-2.0, у turbo — MIT. Из-за расхождения проще писать об открытой лицензии и смотреть карточку конкретной модели.
Похожие продукты есть (Wispr Flow, Talkpad, Voisty, встроенные Win+H и диктовка macOS). Поток — российский сервис с собственной моделью, обученной на русской речи; серверы в России, оплата картой РФ в рублях.
Нет. «Поток» (potok.now) — это десктопное приложение для голосового ввода текста на Windows, macOS и Linux: зажал хоткей, продиктовал, текст вставился в активное поле. К инвестиционным сервисам или финансовым платформам с похожим названием отношения не имеет.
На сайте potok.now собраны обобщённые отзывы, отражающие типичный опыт пользователей; в маркетинговых материалах они не выдаются за отзывы конкретных людей с именами.
Скачать установщик с potok.now/download → установить → зарегистрироваться по email → в любом текстовом поле зажать хоткей (по умолчанию Ctrl+Space) → говорить → отпустить хоткей — текст появится в поле.
Если хотите сравнить сами
Возьмите одну свою задачу и надиктуйте её в «Потоке». Первые 14 дней — без ограничений и без карты. «Поток» — облачный сервис: распознавание идёт на серверах в России, без интернета он не работает.
Скачать «Поток»Одна подписка — два инструмента: диктовка в любой программе на компьютере и @potok_now_bot в Telegram, который расшифровывает голосовые, аудио и видео.
Встроенная диктовка и «Поток»
| Средство | Где работает | Русский язык | Где распознаётся речь |
|---|---|---|---|
| Голосовой ввод Windows (Win+H) | Windows 10 и 11 | только в Windows 11 | облако Microsoft, без интернета не работает |
| Диктовка macOS | macOS | есть | на устройстве или на серверах Apple |
| Поток | Windows, macOS, Linux | основной язык | облако, серверы в России, без интернета не работает |
| Задача | Знаков | Печать (200 зн/мин) | Голос (900 зн/мин) |
|---|---|---|---|
| ответ в чате | 300 | 2 мин | 0.5 мин |
| письмо | 1500 | 8 мин | 1.7 мин |
| пост или протокол | 4000 | 20 мин | 4.4 мин |
| статья | 10000 | 50 мин | 11.1 мин |
Первоисточники: support.microsoft.com · support.apple.com