Carlsson var statsråd och biträdande industriminister 8 oktober 1982 – 14 oktober 1985, tillförordnad kommunikationsminister 1985 samt försvarsminister 14 oktober 1985–1991. Han var riksdagsledamot 1985–1991.
Carlsson var reparatör vid Hallstaviks pappersbruk 1951–1964, förhandlingsombudsman för Svenska Pappersindustriarbetareförbundet 1965–1970, förbundsordförande 1970–1982, ledamot av landssekretariatet 1971–1982, 1:e vice ordförande i ICEF 1973–1982, ledamot av träforskningsrådet och skogsbranschrådet 1973–1982, av handelspolitiska rådet 1971–1982 och av elransoneringsnämnden. Han var styrelseledamot i 3:e AP-fonden, vice ordförande i näringspolitiska rådet, ordförande i kooperativa rådet, expert i 1973 års skogsutredning 1973–1978, ledamot av skogsägareföretagskommittén 1978–1979 och av energisparkommittén 1974–1980.
Carlsson gjorde sig allmänt känd, och fick kritik från marinofficerarna, när han 1987 kritiserade förslaget att marinen skulle köpa nya kustkorvetter: "Stora plåtschabrak för att marinofficerarna ska få glänsa på kommandobryggan är ingenting att spilla pengar på." Carlsson gjorde avbön i TV-programmet Gomorron Sverige för sitt yttrande med uttalandet: "Jag är rätt citerad, och det var högst olämpligt av mig att prata på det sättet,... jag är oerhört arg på mig själv för det här. Självklart har jag respekt för marinofficerarna och deras arbete."