CTC жоготуусу эмне жана ал кайда колдонулат ASRда?

Байланыштуу убакыттык классификация (CTC) жоготуу — бул кириш жана чыгыш последовательдүүлүктөрүн тууралабайтган моделдерди үйрөтүү үчүн колдонулган жоготуу функциясы, мисалы, сүйлөө таануу (ASR) тапшырмаларында.

ASRде негизги көйгөй — кириш үн сигналдын узундугу жана текст транскрипциясынын узундугу туура келбейт, жана алардын ортосундагы тууралоо белгисиз. CTC моделге ачык тууралоосуз үйрөнүүгө мүмкүндүк берет, автоматтык түрдө кириш кадрлары менен чыгыш белгилеринин бардык мүмкүн болгон шайкештиктерин эске алат.

CTC кандай иштейт:

• Модель ар бир убакыт кадамында белгилер үчүн ыктымалдуулук бөлүштүрүүнү алдын ала айтат (өзгөчө "blank" — бош белгилерди камтыйт).
• CTC, бош белгилер жана кайталанган белгилерден кийин максаттуу последовательдикке кыскартылуучу бардык мүмкүн жолдорду кошуп, туура последовательдиктин ыктымалдыгын эсептейт.
• Жоготуу функциясы бул ыктымалдуулуктун терс логарифми.

Колдонуу:

• RNN, LSTM, Transformer сыяктуу моделдерди үндөн текстке айландыруу үчүн үйрөтүү.
• Так тууралоо талап кылынбайт.

Мисал: модел бош белгилер жана кайталанган белгилер менен белгилердин последовательдуулугун алдын ала айтса, CTC бардык жолдорду топтоп, алар максаттуу транскрипцияга туура келет.

Ушул жол менен, CTC жоготуусу автоматтык сүйлөө таануу системдерин үйрөтүү үчүн негизги компонент болуп саналат, эгер үн менен тексттин ортосундагы тууралоо белгилүү эмес же кыйын болсо.