In den folgenden Jahren war Sinowatz maßgeblich an der Umsetzung der Reformen im Schulwesen beteiligt, Schülerfreifahrt, Gratisschulbuch und Abschaffung der Schulgebühren gehen auf ihn zurück. 1981 avancierte Sinowatz zum Vizekanzler, nachdem Hannes Androsch aus dieser Funktion ausgeschieden war. Bei den April-Wahlen des Jahres 1983 verlor die SPÖ die absolute Mehrheit, und Bruno Kreisky trat nach über 13 Jahren als Bundeskanzler ­ die längste Amtszeit seit Eduard Taaffe am Ende des vorigen Jahrhunderts ­ zurück. Ihm folgte Fred Sinowatz zunächst als Chef der Regierung, später auch als Vorsitzender der SPÖ nach. Die Kanzlerschaft von Fred Sinowatz endete abrupt im Juni 1986, als Sinowatz aus dem Wahlsieg des ÖVP-Kandidaten bei der Bundespräsidentschaftswahl die Konsequenzen zog. Zwei Jahre gehörte Sinowatz in der Folge noch dem Nationalrat an, ehe er sich im Herbst 1988 in den Ruhestand zurückzog, sich dort historischen Studien widmend.