Kaip pasirinkti automatinio atmetimo slenkstį ir rankinio moderavimo slenkstį skelbimų moderavimo užduočiai?

Pasirinkti automatinių atmetimo ir rankinio moderavimo slenksčius paprastai grindžiama modelio kokybės metrikų (pvz., tikslumas, recall, F1 balas) ir verslo reikalavimų, susijusių su klaidų lygiu, analize.

1. Automatinis atmetimas (mažas klaidų rizika): pasirenkamas slenkstis, kuriuo modelis su dideliu pasitikėjimu klasifikuoja skelbimą kaip pažeidžiantį taisykles. Tai sumažina klaidingų teigiamų skaičių, kad neblokuotų teisėtus skelbimus. Paprastai slenkstis nustatomas taip, kad tikslumas būtų labai aukštas (pvz., >95%).

2. Rankinis moderavimas (vidutinė rizika): slenkstis, skirtas perduoti rankinei patikrai, pasirenkamas tarp automatinio atmetimo ir automatinio patvirtinimo. Tai neapibrėžtumo zona, kurioje modelis nėra tikras dėl klasifikacijos. Čia svarbu rasti pusiausvyrą tarp skelbimų, kurie pereina į rankinę patikrą, ir moderacijos kokybės.

3. Automatinis patvirtinimas (mažas pažeidimo rizika): skelbimai, kurių modelio pasitikėjimas yra žemiau apatinio slenksčio, laikomi saugiais ir praleidžiami be moderacijos.

Pasirenkant slenksčius, paprastai:

• Nustatomi ROC arba Precision-Recall kreivės.
• Analizuojami verslo tikslai: kiek klaidų leidžiama, kiek išteklių yra skirta rankinei moderacijai.
• Atliekami A/B testai su skirtingais slenksčiais.

Pavyzdys:

Veiksmas	Pažeidimo tikimybės slenkstis
Automatinis atmetimas	> 0.9
Rankinė moderacija	0.6 – 0.9
Automatinis patvirtinimas	< 0.6