Оптимизатсияи Bayesian барои HPO чист?

Байесӣ оптимизатсия усули оптимизатсия аст, ки барои ҷустуҷӯи самараноки гиперпараметрҳои беҳтарин дар модели (HPO — Оптимизатсияи гиперпараметрҳо) истифода мешавад.

Ният ин аст, ки ба ҷои ҷустуҷӯи ҳамаи маҷмӯаҳои эҳтимолии гиперпараметрҳо (ки метавонад хеле гарон бошад), алгоритм моделро бо эҳтимолият месозад, ки вобастагии сифати модел аз гиперпараметрҳоро нишон медиҳад. Одатан, аз равандҳои Gaussian ё моделҳои дигар барои арзёбии функсияи ҷавоб истифода мешавад.

Пас, бар асоси ин модел, гиперпараметрҳои самараноктар барои давраи оянда интихоб карда мешаванд, ки имкон медиҳад, ки танзимоти хубтарро зудтар пайдо кардан мумкин аст.

Тарзи тақрибанӣ:

1. Нуқтаҳои ибтидоӣ (ҳосилҳои гиперпараметрҳо) интихоб карда мешаванд ва сифати модел арзёбӣ мешавад.
2. Модели эҳтимолӣ (модели ивазкунанда) функсияи сифат сохта мешавад.
3. Бо ёрии функсияи acquisition, маҷмӯаи ояндаи гиперпараметрҳо барои санҷиш интихоб карда мешавад.
4. Ин такрор карда мешавад, то ки меъёри қатъкунӣ ба даст ояд.

Ин имкон медиҳад, ки шумораи давраҳои моделро дар муқоиса бо ҷустуҷӯи пурра ё тасодуфӣ хеле кам кунад.