In diep reinforcement learning is een gesnoeid netwerk een goed netwerk.
In deep reinforcement learning, a pruned network is a good network
February 19, 2024
Auteurs: Johan Obando-Ceron, Aaron Courville, Pablo Samuel Castro
cs.AI
Samenvatting
Recent onderzoek heeft aangetoond dat deep reinforcement learning agents moeite hebben om hun netwerkparameters effectief te benutten. We maken gebruik van eerder inzicht in de voordelen van sparse trainingtechnieken en tonen aan dat geleidelijke magnitude pruning agents in staat stelt om de effectiviteit van parameters te maximaliseren. Dit resulteert in netwerken die aanzienlijke prestatieverbeteringen opleveren ten opzichte van traditionele netwerken en een soort "schaalwet" vertonen, terwijl slechts een fractie van de volledige netwerkparameters wordt gebruikt.
English
Recent work has shown that deep reinforcement learning agents have difficulty
in effectively using their network parameters. We leverage prior insights into
the advantages of sparse training techniques and demonstrate that gradual
magnitude pruning enables agents to maximize parameter effectiveness. This
results in networks that yield dramatic performance improvements over
traditional networks and exhibit a type of "scaling law", using only a small
fraction of the full network parameters.