Elanların moderasiyası vəzifəsində avtomatik rədd üçün sərhəd və əl ilə moderasiya üçün sərhəd necə seçilir?

İlanların moderasiyası və avtomatik rəddetmə üçün həddlərin seçimi adətən modelin keyfiyyət metrikalarının (məsələn, dəqiqlik, recall, F1 ballı) və biznes tələblərinin səhv səviyyəsinə əsaslanır.

1. Avtomatik rəddetmə (aşağı səhv riski): modelin qaydaları pozan elan kimi yüksək güvənlə təsnif etdiyi həddi seçir. Bu, yalnış müsbətlərin sayını minimuma endirir və qanuni elanların bloklanmamasını təmin edir. Adətən, hədd çox yüksək dəqiqliklə (məsələn, >95%) qurulur.

2. Əl ilə moderasiya (orta risk): əl ilə yoxlama üçün hədd avtomatik rəddetmə və avtomatik keçid arasında seçilir. Bu, modelin təsnifatda qeyri-müəyyənlik zonasını göstərir. Burada, əl ilə yoxlamanın sayı və moderasiya keyfiyyəti arasında balans vacibdir.

3. Avtomatik keçid (aşağı pozuntü riski): modelin güvən səviyyəsi aşağı həddən aşağı olan elanlar təhlükəsiz sayılır və moderasiya olmadan keçir.

Hədlərin seçimi üçün:

• ROC və ya Precision-Recall əyriləri qurulur.
• Biznes məqsədləri analiz edilir: nə qədər səhv qəbul edilə bilər, əl ilə moderasiya üçün nə qədər resurs mövcuddur.
• Müxtəlif hədlərlə A/B testləri keçirilir.

Nümunə:

Əməliyyat	Pozuntü ehtimalı üçün hədd
Avtomatik rəddetmə	> 0.9
Əl ilə moderasiya	0.6 – 0.9
Avtomatik keçid	< 0.6