Как да изберем праг за автоматично отхвърляне и праг за ръчна модерация в задачата по модериране на обяви?

Изборът на прагове за автоматично отхвърляне и ръчна модерация в задачата за модериране на обяви обикновено се основава на анализ на метриките за качество на модела (например, прецизност, recall, F1-скор) и бизнес изискванията към нивото на грешки.

1. Автоматично отхвърляне (нисък риск от грешка): се избира праг, при който моделът с голяма увереност класифицира обявата като нарушаваща правилата. Това минимизира броя на фалшивите положителни, за да не се блокират легитимни обяви. Обикновено прагът се поставя така, че прецизността да е много висока (например, >95%).

2. Ръчна модерация (среден риск): прагът за предаване за ръчна проверка се избира в интервала между автоматичното отхвърляне и автоматичното одобрение. Това е зона на несигурност, където моделът не е сигурен в класификацията. Тук е важен балансът между броя на обявите за ръчна проверка и качеството на модерирането.

3. Автоматично одобрение (нисък риск от нарушение): обявите с увереност на модела под долния праг се считат за безопасни и преминават без модерация.

Обикновено:

• Строят се ROC или Precision-Recall криви.
• Анализират се бизнес целите: колко грешки са допустими, колко ресурси има за ръчна модерация.
• Провеждат се A/B тестове с различни прагове.

Пример:

Действие	Праг на вероятност за нарушение
Автоматично отхвърляне	> 0.9
Ръчна модерация	0.6 – 0.9
Автоматично одобрение	< 0.6