Словарь

Что такое rescoring

Марк Весёлый · основатель «Потока» · ~4 мин
Что такое rescoring

Rescoring — это повторная оценка нескольких вариантов распознанного текста, чтобы выбрать наиболее вероятный: система сравнивает не один вариант, а сразу несколько гипотез. По описанию Apple, такая модель «способна оценивать и переписывать результат, рассматривая полный контекст N-лучших гипотез параллельно». Термин технический, из области распознавания речи, а не название функции конкретной программы.

Иногда голосовой ввод на долю секунды показывает не то слово, а затем как будто сам себя поправляет на более подходящее — за этим часто стоит именно rescoring: система не останавливается на первой угаданной гипотезе, а сверяет сразу несколько.

Где термин rescoring всплывает на практике

Rescoring — не то, что видно в интерфейсе программы: это шаг внутри конвейера распознавания речи, который происходит до того, как текст показывается пользователю. Акустическая модель сначала выдаёт черновой набор вариантов того, что могло прозвучать, а затем rescoring помогает языковой модели поправить этот черновой результат: из нескольких похожих по звучанию гипотез выбирается та, что лучше сочетается по смыслу и грамматике во всей фразе целиком.

Термин встречается в описаниях того, как устроено автоматическое распознавание речи в целом, а не в настройках конкретного приложения — обычный пользователь его не видит и не включает отдельно.

Три шага диктовки в «Потоке»: зажал Ctrl + Space, сказал фразу вслух, текст появился в активном поле
Диктовка в «Потоке»: горячая клавиша, речь, готовый текст в том окне, где стоит курсор.

Rescoring простыми словами

Проще всего описать rescoring так: система готовит не один-единственный ответ, а сразу список из нескольких вероятных вариантов распознанного текста — и только потом выбирает из них лучший, сверяя, какой вариант складывается в более осмысленную и грамматически правильную фразу целиком. Официальное описание Apple называет такую модель способной «оценивать и переписывать результат, рассматривая полный контекст N-лучших гипотез параллельно» — то есть сравнение идёт не по отдельному слову, а сразу по нескольким целым фразам.

Это отличает rescoring от самого первого шага распознавания: там модель только предполагает, что могло прозвучать, а на шаге rescoring эти предположения проверяются и уточняются одно против другого.

ТерминЧто значитПример
Rescoringповторная оценка нескольких вариантов распознанного текста для выбора наиболее вероятногоrescoring помогает языковой модели поправить черновой результат акустической модели
Омофоныслова, которые звучат одинаково, но пишутся и означают разное«кампания» и «компания» — омофоны, которые ASR может перепутать без контекста
Серверный инференсвыполнение уже обученной модели распознавания на удалённом сервере для обработки запросов пользователейпри серверном инференсе звук уходит на сервер, а обратно приходит готовый текст; без подключения к сети такая модель недоступна
Нормализация чиселпреобразование произнесённых числительных в цифровую запись при распознавании речи; в отрасли этот шаг постобработки называют обратной текстовой нормализацией (ITN), а «нормализацией текста» (TN) — обратное направление, перевод цифр в слова для синтеза речи«двадцать пятое сентября» становится «25 сентября»

Ограничения Потока по этой части

Использует ли «Поток» именно rescoring внутри своего распознавания — неизвестно, поэтому называть внутреннее устройство его модели этим термином нельзя. «Поток» — облачный сервис: распознавание речи происходит на серверах в России, и без интернета оно не работает. Общий разбор соседних терминов той же области — в разделе словаря на сайте.

Разбор темы в три шага: Где термин rescoring всплывает на практике → Rescoring простыми словами → Ограничения Потока по этой части
О чём страница по шагам: Где термин rescoring всплывает на практике → Rescoring простыми словами → Ограничения Потока по этой части.

Частые вопросы

Rescoring — это то же самое, что распознавание речи?

Нет, это отдельный шаг внутри конвейера распознавания: сначала система получает несколько вариантов текста, и только потом rescoring выбирает из них наиболее вероятный, а не сам процесс распознавания звука.

Что делает rescoring с результатом распознавания?

Он берёт несколько вариантов распознанного текста и выбирает тот, что лучше согласуется по смыслу и грамматике — по описанию Apple, модель оценивает полный контекст N-лучших гипотез параллельно.

Если хотите сравнить сами

Возьмите одну свою задачу и надиктуйте её в «Потоке». Первые 14 дней — без ограничений и без карты. «Поток» — облачный сервис: распознавание идёт на серверах в России, без интернета он не работает.

Скачать «Поток»

Готовые записи расшифровывает Telegram-бот «Потока» @potok_now_bot: пришлите файл или ссылку на YouTube, VK Видео или RuTube — текст придёт в чат. Подписка «Потока» снимает лимит и в боте.

Встроенная диктовка и «Поток»

По справке Microsoft и Apple.
СредствоГде работаетРусский языкГде распознаётся речь
Голосовой ввод Windows (Win+H)Windows 10 и 11только в Windows 11облако Microsoft, без интернета не работает
Диктовка macOSmacOSестьна устройстве или на серверах Apple
ПотокWindows, macOS, Linuxосновной языкоблако, серверы в России, без интернета не работает

Первоисточники: machinelearning.apple.com · support.microsoft.com

Марк Весёлый — основатель «Потока». Пишет о голосовом вводе на русском: как диктовать в рабочих программах, что мешает и чем это чинится.
© Поток · Липатников Владимир Олегович · ИНН 502915859701 · Оферта Сравнения · Вопросы и ответы · О проекте Бесплатный голосовой ввод · Голосовой ввод для нейросетей · Данные и 152-ФЗ · Голосовой ввод на Mac · Тарифы бота · 14 дней Pro за отзыв