Mis on CTC kaotus ja kus seda kasutatakse ASR-is?

Seotud aja klassifitseerimise (CTC) kaotusfunktsioon on kaotusfunktsioon, mida kasutatakse mudelite treenimiseks, mis ennustavad järjestusi, mille sisend- ja väljundandmed ei ole joondatud, näiteks kõne tuvastamise (ASR) ülesannetes.

ASR-is peamine probleem on see, et sisendheli signaali pikkus ja teksti transkriptsiooni pikkus ei ühti ning nende vahelise joondamise kohta pole teavet. CTC võimaldab mudelil õppida ilma selge joondamiseta, automaatselt arvestades kõiki võimalikke vastavusi sisendi raamide ja väljundi sümbolite vahel.

Kuidas CTC töötab:

• Mudel ennustab igal ajastupunktis tõenäosuse jaotuse sümbolite (sealhulgas spetsiaalse "blank" — tühja) kohta.
• CTC arvutab õige järjestuse tõenäosuse, summeerides kõik võimalikud teed, mis võivad pärast tühjade sümbolite ja korduste eemaldamist vähendada sihtjärjestuseks.
• Kaotusfunktsioon on selle tõenäosuse negatiivne logaritm.

Rakendused ASR-is:

• Mudelite, nagu RNN, LSTM, Transformer, treenimine heli tekstiks muutmiseks.
• Võimaldab vältida täpse joondamise nõuet heli ja teksti vahel.

Näide: kui mudel ennustab sümbolite järjestust koos tühjade sümbolite ja kordustega, kogub CTC kokku kõik teed, mis vastavad sihttranskriptsioonile.

Sel viisil on CTC kaotus oluline komponent automaatse kõne tuvastussüsteemide treenimisel, eriti kui heli ja teksti vahelise joondamise kohta puudub teave või on seda raske saada.