Šta je CTC gubitak i gde se koristi u ASR?

Gubitak CTC (Connectionist Temporal Classification) je funkcija gubitka koja se koristi za obuku modela koji predviđaju sekvence sa neusaglašenim ulaznim i izlaznim podacima, na primer, u zadacima prepoznavanja govora (ASR).

Glavni problem u ASR je što dužina ulaznog zvučnog signala i dužina transkripcije teksta ne odgovaraju, a usklađivanje između njih je nepoznato. CTC omogućava modelu da uči bez eksplicitnog usklađivanja, automatski uzimajući u obzir sve moguće odgovarajuće puteve između ulaznih frejmova i izlaznih simbola.

Kako funkcioniše CTC:

• Model predviđa u svakom vremenskom koraku raspodelu verovatnoće nad simbolima (uključujući poseban simbol "blank" — prazan).
• CTC računa verovatnoću tačne sekvence sabiranjem svih mogućih puteva koji se mogu svesti na ciljnu sekvencu nakon uklanjanja praznih simbola i ponavljanja.
• Funkcija gubitka je negativni logaritam te verovatnoće.

Primena u ASR:

• Obuka modela kao što su RNN, LSTM, Transformer, za pretvaranje zvuka u tekst.
• Omogućava da se ne zahteva precizno usklađivanje između zvuka i teksta.

Primer: ako model predviđa sekvencu simbola sa praznim simbolima i ponovljenjima, CTC agregira sve puteve koji odgovaraju ciljnoj transkripti.

Na ovaj način, gubitak CTC je ključni sastojak za obuku sistema za automatsko prepoznavanje govora, posebno kada usklađivanje između zvuka i teksta nije poznato ili je teško dobiti.