Middle — Senior
Miks peaaegu lõpetati suurte 9x9, 7x7, 5x5 konvolutsioonide kasutamine?
sobes.tech AI
Vastus AI-lt
Suured konvolutsioonid (näiteks 9x9, 7x7, 5x5) on praktiliselt unustatud mitmel põhjusel:
- Kõrge arvutuslik kulu: suured filtrid nõuavad palju rohkem operatsioone, mis aeglustab koolitust ja inferentsi.
- Kohaliku teabe kadumine: suured tuumad katavad liiga suure ala, mis võib viia oluliste kohalike tunnuste hägustumiseni.
- Väikeste konvolutsioonide tõhusus: mitme järjestikuse väikese tuumaga (näiteks 3x3) konvolutsiooni kasutamine võimaldab mudelitel haarata sama vastuvõtuala, kuid väiksemate kuludega ja suurema mittelineaarsusega.
Näiteks kasutab VGGNet arhitektuur mitmeid 3x3 konvolutsioone järjest, asendades ühe suure, mis parandab kvaliteeti ja tõhusust.