Поток

Как запустить Whisper на Mac M1 и M2

Марк Весёлый · основатель «Потока» · ~5 мин
Как запустить Whisper на Mac M1 и M2

Whisper на Mac с чипом M1 или M2 запускают через whisper.cpp: он использует Metal на графическом процессоре, а Core ML ускоряет энкодер на Neural Engine более чем в 3 раза. Для русского берут многоязычную модель без .en, например small размером 466 МиБ. Поток (potok.now) — облачная диктовка, ставить модели не нужно.

Whisper — модель распознавания речи от OpenAI, а whisper.cpp — её порт, который собирают и запускают из терминала. Для чипов Apple в нём есть отдельные оптимизации.

Почему на Mac с Apple Silicon Whisper запускают через whisper.cpp

В whisper.cpp для Apple Silicon заявлены Metal на графическом процессоре, ARM NEON и Accelerate, а Core ML позволяет считать энкодер на Neural Engine: это ускоряет его более чем в 3 раза. Для Core ML нужен Python 3.11, рекомендуется macOS 14 или новее. Лицензия MIT. Замеров скорости именно на M1 и M2 в описании проекта нет, поэтому реальную скорость придётся проверить на своём Mac.

Три шага диктовки в «Потоке»: зажал Ctrl + Space, сказал фразу вслух, текст появился в активном поле
Диктовка в «Потоке»: горячая клавиша, речь, готовый текст в том окне, где стоит курсор.

Шаги в терминале: от клонирования до первого текста

  1. Склонируйте репозиторий: git clone https://github.com/ggml-org/whisper.cpp, затем перейдите в его папку.
  2. Скачайте модель скриптом sh ./models/download-ggml-model.sh, передав имя модели. Для русского берите многоязычную модель без .en, например small: версии с .en понимают только английский.
  3. Соберите проект: cmake -B build, затем cmake --build build -j --config Release.
  4. Переведите запись в 16-битный WAV: ffmpeg -i in.mp3 -ar 16000 -ac 1 -c:a pcm_s16le out.wav. Другие форматы whisper-cli не принимает.
  5. Запустите ./build/bin/whisper-cli -f out.wav. Как выбрать язык и модель, смотрите в справке самой программы.
Разбор темы в три шага: Почему на Mac с Apple Silicon Whisper запускают через whisper.cpp → Шаги в терминале → Когда запускать Whisper на Mac не нужно
О чём страница по шагам: Почему на Mac с Apple Silicon Whisper запускают через whisper.cpp → Шаги в терминале → Когда запускать Whisper на Mac не нужно.

Когда запускать Whisper на Mac не нужно

Поток — облачный сервис, распознавание на серверах в России; без интернета не работает. Он работает на Windows, macOS и Linux и нужен для диктовки, а не для запуска моделей: клонировать и собирать ничего не придётся. Версий для Android и iPhone нет. Готовые записи и голосовые расшифровывает Telegram-бот potok_now_bot, подписка общая на приложение и бот. О диктовке на Mac без моделей читайте в материалах про длинные тексты одним заходом и про числа цифрами.

Сравнение «Потока» и Диктовка Mac по строкам: платформы, бесплатно, оплата из рф, распознавание
«Поток» и Диктовка Mac: условия по официальным сайтам сервисов.

Частые вопросы

Сколько памяти нужно моделям Whisper в whisper.cpp?

По таблице проекта: tiny занимает 75 МиБ на диске и около 273 МБ в памяти, base — 142 МиБ и около 388 МБ, small — 466 МиБ и около 852 МБ, medium — 1,5 ГиБ и около 2,1 ГБ, large — 2,9 ГиБ и около 3,9 ГБ.

Есть ли для Mac программа Whisper с окном?

Есть Buzz, но на Mac она собирается только для Apple silicon; для процессоров Intel подходит версия не новее 1.4.5. Установщик скачивают с SourceForge, он не подписан, поэтому будет предупреждение. Лицензия MIT.

Работает ли диктовка на Mac без интернета?

Зависит от Mac. На Mac с Apple Silicon обычная текстовая диктовка (сообщения, заметки, но не поле поиска) обрабатывается на устройстве; на Intel-Маках и в части сценариев звук уходит на серверы Apple, и тогда нужен интернет. Точно видно в Системные настройки → Клавиатура: под пунктом «Диктовка» написано, нужен ли интернет и обрабатывается ли речь на устройстве.

Есть ли ограничение по длине фразы при диктовке на Mac?

Нет: по справке Apple диктовать можно текст любой длины без ограничения по времени. Диктовка останавливается, когда вы нажимаете Esc, клавишу микрофона или сочетание для Диктовки, а сама — если 30 секунд не слышно речи.

Нужен ли интернет для диктовки на Mac?

Зависит от Mac. На Mac с Apple Silicon обычная текстовая диктовка (сообщения, заметки, но не поле поиска) обрабатывается на устройстве; на Intel-Маках и в части сценариев звук уходит на серверы Apple, и тогда нужен интернет. Точно видно в Системные настройки → Клавиатура: под пунктом «Диктовка» написано, нужен ли интернет и обрабатывается ли речь на устройстве.

Как диктовать текст на MacBook голосом?

Включить Диктовку: меню Apple → «Системные настройки» → «Клавиатура» → «Диктовка». Затем поставить курсор в текстовое поле, запустить диктовку — клавиша микрофона (если она есть в ряду функциональных клавиш), сочетание клавиш диктовки или «Правка» → «Начать диктовку» — и начать говорить.

Проверить за вечер

Установите «Поток», продиктуйте то, что обычно печатаете, и сравните. 14 дней полного доступа, карта не нужна. «Поток» — облачный сервис: распознавание идёт на серверах в России, без интернета он не работает.

Скачать «Поток»

В подписку «Потока» входит и Telegram-бот @potok_now_bot: перешлите ему голосовое или длинную запись встречи — он вернёт текст. Без подписки в боте 60 минут в месяц бесплатно.

Встроенная диктовка и «Поток»

По справке Microsoft и Apple.
СредствоГде работаетРусский языкГде распознаётся речь
Голосовой ввод Windows (Win+H)Windows 10 и 11только в Windows 11облако Microsoft, без интернета не работает
Диктовка macOSmacOSестьна устройстве или на серверах Apple
ПотокWindows, macOS, Linuxосновной языкоблако, серверы в России, без интернета не работает
Расчёт по средней скорости печати и речи, не замер.
ЗадачаЗнаковПечать (200 зн/мин)Голос (900 зн/мин)
ответ в чате3002 мин0.5 мин
письмо15008 мин1.7 мин
пост или протокол400020 мин4.4 мин
статья1000050 мин11.1 мин

Первоисточники: support.microsoft.com · support.apple.com

Марк Весёлый — основатель «Потока». Пишет о голосовом вводе на русском: как диктовать в рабочих программах, что мешает и чем это чинится.
© Поток · Липатников Владимир Олегович · ИНН 502915859701 · Оферта Сравнения · Вопросы и ответы · О проекте Бесплатный голосовой ввод · Голосовой ввод для нейросетей · Данные и 152-ФЗ · Голосовой ввод на Mac · Тарифы бота · 14 дней Pro за отзыв