Какво е CTC загуба и къде се прилага в ASR?

Загубата CTC (Connectionist Temporal Classification) е функция на загуба, използвана за обучение на модели, които предсказват последователности с неравномерно подравняване на входните и изходните данни, например в задачите за разпознаване на реч (ASR).

Основният проблем при ASR е, че дължината на входния аудио сигнал и транскрипцията на текста не съвпадат, и подравняването между тях е неизвестно. CTC позволява на модела да се обучава без явно подравняване, автоматично вземайки предвид всички възможни съответствия между входните рамки и изходните символи.

Как работи CTC:

• Моделът предсказва на всяка времева стъпка разпределение на вероятности за символите (включително специален символ "blank" — празен).
• CTC изчислява вероятността за правилната последователност, като сумира всички възможни пътища, които могат да бъдат сведени до целевата последователност след премахване на празните символи и повторения.
• Функцията на загуба е отрицателният логаритъм на тази вероятност.

Приложение в ASR:

• Обучение на модели като RNN, LSTM, Transformer, за преобразуване на аудио в текст.
• Позволява да не се изисква точно подравняване между аудио и текст.

Пример: ако моделът предсказва последователност от символи с празни символи и повторения, CTC агрегира всички пътища, които съответстват на целевата транскрипция.

По този начин, загубата CTC е ключов компонент за обучение на системи за автоматично разпознаване на реч, особено когато подравняването между аудио и текст е неизвестно или трудно за получаване.