Словарь

Что такое confidence score (оценка уверенности)

Марк Весёлый · основатель «Потока» · ~3 мин
Что такое confidence score (оценка уверенности)

Confidence score (оценка уверенности) — числовая оценка того, насколько ASR-система уверена в правильности распознанного слова или фразы. В отличие от WER и CER, её считают сразу при распознавании, без сравнения с эталонным текстом. Низкий confidence score может сигналить о нужде перепроверить слово.

Система распознавания речи не всегда одинаково уверена в собственном результате: одно слово она «слышит» чётко, а другое — с сомнением. Это сомнение можно выразить числом — так появляется confidence score.

Чем confidence score отличается от похожих понятий

Confidence score — числовая оценка того, насколько ASR-система уверена в правильности распознанного слова или фразы. Ключевое отличие от WER и CER в том, когда и как её считают: confidence score система выдаёт сама, сразу в момент распознавания, без сравнения с каким-либо эталонным текстом. WER и CER, наоборот, можно посчитать только после того, как есть готовая правильная расшифровка того же аудио, — сравнивая результат распознавания с ней слово за словом или символ за символом.

Соседние понятия из той же области — автоматическое распознавание речи (ASR), которое и выдаёт confidence score вместе с текстом, а также пакетное распознавание, TTS (синтез речи из текста, обратная задача) и промежуточные результаты — предварительный текст, который система показывает ещё до конца фразы.

Три шага диктовки в «Потоке»: зажал Ctrl + Space, сказал фразу вслух, текст появился в активном поле
Диктовка в «Потоке»: горячая клавиша, речь, готовый текст в том окне, где стоит курсор.

Что такое confidence score (оценка уверенности) на практике

По документации Google Cloud, при распознавании речи система измеряет степень точности своего ответа и присваивает всему запросу число от 0.0 до 1.0 — чем оно ближе к единице, тем увереннее система в результате. Такую оценку считают на основе внутренних вероятностей самой модели распознавания, а не сравнением с человеческой разметкой, как это устроено у WER (word error rate).

Низкий confidence score может сигналить о нужде перепроверить слово.

ТерминЧто значитПример
Confidence score (оценка уверенности)числовая оценка того, насколько ASR-система уверена в правильности распознанного слова или фразынизкий confidence score может сигналить о нужде перепроверить слово
Пакетное распознаваниеобработка уже целиком записанного аудиофайла, а не потока в реальном временипакетное распознавание применяют для расшифровки готовых записей
TTS (Text-to-Speech)технология синтеза речи из текста — обратная задача по отношению к распознаванию речиTTS озвучивает текст, а ASR, наоборот, превращает речь в текст
Промежуточные результаты (partial results)черновой, ещё не окончательный текст, который стриминговая система показывает по ходу распознаванияпромежуточные результаты могут отличаться от финального текста после уточнения

Что из этого заявлено у Потока

«Поток» — облачный сервис, распознавание идёт на серверах в России, без интернета он не работает; у него заявлен WER 2,1% на нашем бенчмарке GolosTest. Одна подписка «Потока» — это приложение для диктовки и Telegram-бот @potok_now_bot для записей и голосовых.

Разбор темы в три шага: Чем confidence score отличается от похожих понятий → Что такое confidence score (оценка уверенности) на практике → Что из этого заявлено у Потока
О чём страница по шагам: Чем confidence score отличается от похожих понятий → Что такое confidence score (оценка уверенности) на практике → Что из этого заявлено у Потока.

Частые вопросы

Confidence score — это то же самое, что WER или CER?

Нет: confidence score система выдаёт сама, в момент распознавания, без эталонного текста для сравнения, а WER и CER считают уже после, сверяя результат с готовой правильной расшифровкой.

Как начать

«Поток» есть для Windows, macOS и Linux. Две недели всё открыто бесплатно, дальше — 2500 слов в неделю без оплаты. «Поток» — облачный сервис: распознавание идёт на серверах в России, без интернета он не работает.

Скачать «Поток»

В подписку «Потока» входит и Telegram-бот @potok_now_bot: перешлите ему голосовое или длинную запись встречи — он вернёт текст. Без подписки в боте 60 минут в месяц бесплатно.

Встроенная диктовка и «Поток»

По справке Microsoft и Apple.
СредствоГде работаетРусский языкГде распознаётся речь
Голосовой ввод Windows (Win+H)Windows 10 и 11только в Windows 11облако Microsoft, без интернета не работает
Диктовка macOSmacOSестьна устройстве или на серверах Apple
ПотокWindows, macOS, Linuxосновной языкоблако, серверы в России, без интернета не работает

Первоисточники: cloud.google.com · support.microsoft.com

Марк Весёлый — основатель «Потока». Пишет о голосовом вводе на русском: как диктовать в рабочих программах, что мешает и чем это чинится.
© Поток · Липатников Владимир Олегович · ИНН 502915859701 · Оферта Сравнения · Вопросы и ответы · О проекте Бесплатный голосовой ввод · Голосовой ввод для нейросетей · Данные и 152-ФЗ · Голосовой ввод на Mac · Тарифы бота · 14 дней Pro за отзыв