Nog tijdens zijn actieve loopbaan stapte Andersson het trainersvak in. Hij leidde IFK Norrköping in 2015 naar de Zweedse landstitel. Een jaar later werd hij aangesteld als bondscoach van het Zweeds voetbalelftal, waar hij Erik Hamrén opvolgde na het EK voetbal 2016. In de allereerste wedstrijd onder zijn leiding speelde de nationale ploeg op 6 september in Solna met 1-1 gelijk tegen Nederland in de eerste kwalificatiewedstrijd voor het WK voetbal 2018 in Rusland.