Mis on Optuna ja millised on selle pruners?

Optuna on raamatukogu automaatseks hüperparameetrite optimeerimiseks (HPO) masinõppe ülesannetes. See võimaldab tõhusalt otsida parimaid mudeli parameetreid bayes'i optimeerimise meetodite ja teiste strateegiate abil.

Pruners Optunas on mehhanismid, mis katkestavad (eemaldavad) ebaõnnestunud või vähem lootustandvad katsed (trials) varases staadiumis, et säästa arvutusressursse. Nad analüüsivad vahe tulemusi ja otsustavad, kas jätkata treeningut.

Optuna peamised pruners:

• MedianPruner — peatab katsed, kui nende vahe tulemused on halvemad kui teiste katsete mediaan samal etapil.
• PercentilePruner — katkestab katsed, kui nende tulemused on halvemad kui määratud protsentil.
• SuccessiveHalvingPruner — rakendab järjestikuse vähendamise strateegiat, jättes alles ainult parimad.
• HyperbandPruner — laiendus SuccessiveHalving'ile koos adaptiivse ressursside haldamisega.

Pruners kasutamine aitab kiirendada optimeerimisprotsessi, keskendudes kõige perspektiivikamatest konfiguratsioonidele.