რა არის H(X) კლასიფიკაციის კონტექსტში, მაგალითად ენტროპია?
sobes.tech AI
პასუხი AI-სგან
H(X) — ეს შემთხვევითი ცვლადის X ენტროპიაა, რომელიც ზომავს X-ის განაწილებაში გაურკვევლობას ან ქაოსს. კლასიფიკაციის კონტექსტში, ენტროპია აჩვენებს, რამდენად პროგნოზირებადი არაა ცვლადი X (მაგალითად, ობიექტის კლასი).
ფორმალურად, დისკრეტული შემთხვევითი ცვლადის Xთვის, რომლის ალბათობები p(x):
[ H(X) = -\sum_{x} p(x) \log_2 p(x) ]
რაც უფრო მაღალია ენტროპია, მით უფრო დიდია გაურკვევლობა. კლასიფიკაციის დავალებებში, ენტროპია გამოიყენება მონაცემების განყოფილების ხარისხის შეფასებისთვის (მაგალითად, გადაწყვეტილების ხეებში), სადაც მიზანია, განყოფილების შემდეგ ენტროპია შემცირდეს, ანუ კლასები უფრო ჰომოგენური გახადოს.
მაგალითი: თუ ნიმუშში 50% მიეკუთვნება კლას A-ს და 50% კლას B-ს, ენტროპია მაქსიმალურია (1 ბიტი). თუ ყველა ობიექტი ერთ კლასს მიეკუთვნება, ენტროპია 0-ია.