Kas ir bottleneck slānis un kam tas tiek izmantots?

Bottleneck slānis ir slānis neironu tīklā, parasti ar mazāku neironu skaitu salīdzinājumā ar iepriekšējiem un sekojošajiem slāņiem. Tā galvenais uzdevums ir saspiest informāciju, izcelt svarīgākās iezīmes un samazināt datu dimensiju.

Konvolucionālo neironu tīklu (CNN) kontekstā, bottleneck slāņi bieži tiek izmantoti, lai:

• Samazinātu aprēķinu slodzi, samazinot parametru skaitu.
• Uzlabotu modeļa vispārējo spēju, novēršot pārapmācību.
• Izceltu kompaktu iezīmju reprezentāciju, kas ir noderīga nākamajiem slāņiem.

Piemērs: ResNet arhitektūrā, bottleneck slāņi sastāv no secības 1x1, 3x3 un vēlreiz 1x1 konvolūcijām, kur pirmās un pēdējās 1x1 konvolūcijas samazina un pēc tam atjauno iezīmju izmēru, kamēr 3x3 slānis apstrādā saspiesto reprezentāciju.