Wat is de kans op een correct antwoord bij verschillende strategieën voor het kiezen van een klasse in de blad van de boom en hoe bereken je dit voor willekeurige kansen?

In beslissingsbomen bevatten de bladknopen meestal de verdeling van klassewaarschijnlijkheden, bijvoorbeeld (P(C_i)) voor klasse (C_i). Strategieën voor het kiezen van een klasse in de bladknoop beïnvloeden de kans op een correct antwoord:

1. Kies de klasse met de hoogste waarschijnlijkheid (argmax)

   • De kans op een correct antwoord is gelijk aan de maximale waarde (\max_i P(C_i)).
   • Dit is de meest gebruikte strategie, die de classificatiefout in de blad minimaliseert.

2. Willekeurige keuze van de klasse volgens de waarschijnlijkheidsverdeling

   • De kans op een correct antwoord is de som van de kwadraten van de klassewaarschijnlijkheden: [ \sum_i P(C_i)^2 ]
   • Dit hangt samen met het feit dat de kans om klasse (C_i) te raden (P(C_i)) is, en de kans dat de werkelijke klasse ook (C_i) is, ook (P(C_i)) is.

3. Kiezen volgens een vaste strategie (bijvoorbeeld altijd dezelfde klasse)

   • De kans op een correct antwoord is de waarschijnlijkheid van die klasse in de bladknoop.

Voor arbitraire waarschijnlijkheden (P(C_1), P(C_2), ..., P(C_k)), waarbij (\sum_i P(C_i) = 1), zijn de berekeningen:

• Bij het kiezen van de klasse met de hoogste waarschijnlijkheid: [ P_{correct} = \max_i P(C_i) ]

• Bij het willekeurig kiezen van een klasse volgens de verdeling: [ P_{correct} = \sum_i P(C_i)^2 ]

Op deze manier beïnvloedt de keuze-strategie direct de kans op een correct antwoord, en het kiezen van de maximumwaarschijnlijkheid is meestal optimaal voor de nauwkeurigheid van de classificatie.