Wat is RegNet en wat is de aanpak van de ontwerpruimte?

RegNet is een familie van neurale netwerkarchitecturen die is ontwikkeld met behulp van de design space-benadering, een systematische methode voor het zoeken en optimaliseren van modelarchitecturen.

Het idee van de design space in de context van RegNet is dat in plaats van te zoeken naar één specifieke architectuur, er een verkenning plaatsvindt van het mogelijke architectuurruimte met parameters zoals de breedte van lagen, diepte, aantal kanalen, enzovoort. Dit stelt ons in staat patronen en principes te identificeren voor het bouwen van efficiënte netwerken.

RegNet laat zien dat eenvoudige en regelmatige configuraties (bijvoorbeeld een lineaire toename van de breedte van de lagen) complexere architecturen, gevonden via automatische zoekmethoden, kunnen overtreffen. Dit vereenvoudigt het ontwerp en verbetert de prestaties van modellen bij computer vision taken.