Leader del Partito Repubblicano Italiano, è stato più volte ministro e, tra il 28 giugno 1981 e il 1º dicembre 1982, Presidente del Consiglio dei ministri, il primo non democristiano nella storia dell'Italia repubblicana, uno dei pochi a diventarlo da senatore, nonché il primo e l'unico a provenire dal PRI. Fu inoltre Presidente del Senato dal 1987 al 1994 e senatore a vita (nominato nel 1991 da Francesco Cossiga).
Nel 1981 fu nominato da Pertini Presidente del Consiglio dei ministri, il primo non democristiano nella storia dell'Italia repubblicana; l'esperienza terminò traumaticamente nell'estate del 1982, a causa di quella che lui stesso ribattezzò la "lite delle comari" tra i due ministri economici del suo governo, il democristiano Nino Andreatta (Tesoro) e il socialista Rino Formica (Finanze). Alla base di questa controversia vi è la scissione che si sta consumando in questi anni fra tra Tesoro e Banca d'Italia (allora guidata da Carlo Azeglio Ciampi), consistente nel sollevamento di Bankitalia dall'obbligo della garanzia del collocamento integrale in asta dei titoli pubblici offerti dal Ministero del Tesoro.
Nell'agosto di quell'anno ricostituì un governo perfettamente identico al precedente (lo "Spadolini-bis", ribattezzato dai radicali "la minestra riscaldata"), ma in novembre dovette dimettersi a causa del disimpegno del PSI di Bettino Craxi. Nell'ottobre 1982 il leader palestinese Yasser Arafat si recò in visita ufficiale in Italia e in Vaticano, visita in cui fu accolto dal presidente della Repubblica italiana Pertini e da Papa Giovanni Paolo II e da molti altri politici italiani e vaticani.
Gli unici a rifiutarsi d'incontrare Arafat furono proprio il presidente del consiglio, Giovanni Spadolini, e i radicali di Marco Pannella ed Emma Bonino.
Grazie al cosiddetto "effetto Spadolini", alle elezioni politiche anticipate del 1983, per la prima volta nella sua storia, il PRI supererà il 5% dei voti alla Camera dei deputati; in alcune grandi città come Torino diventerà il terzo partito, dietro DC e PCI, ma davanti ai socialisti.
Dal 1983 al 1987 fu Ministro della difesa sia nel primo che nel secondo dei due governi presieduti da Bettino Craxi. In questa veste, fu protagonista nella "crisi di Sigonella", nel 1985, dissentendo dalla politica filo-palestinese del premier Craxi e del Ministro degli esteri Andreotti. All'indomani della crisi diplomatica tra Italia e USA, che aveva rischiato di degenerare in uno scontro armato, chiese la Crisi di Governo risoltasi però con il reincarico al leader socialista.
Quell'episodio riconfermò il suo atlantismo, che in quegli anni andava sempre più assumendo caratteristiche minoritarie nella politica estera italiana: già nel 1982 aveva dovuto subire una presa di posizione italiana di equidistanza tra Londra e Buenos Aires, nel conflitto delle Falkland, in ragione della piega terzomondista presa – una volta tanto unitariamente – dai due principali partiti alleati del suo governo, la DC ed il PSI.
Successivamente, schiacciato dal "CAF" (l'alleanza tra Craxi, Andreotti e Forlani), non partecipò più alle altre compagini governative di Pentapartito. Dal 2 luglio 1987 al 14 aprile 1994 fu Presidente del Senato della Repubblica con il consenso sia della maggioranza di pentapartito sia dell'opposizione di sinistra (ottenne 249 voti al primo scrutinio nel 1987 e 188 preferenze al terzo scrutinio nel 1992).
Il 26 giugno 1989, in seguito alla crisi del Governo De Mita, il Capo dello Stato Francesco Cossiga gli affidò un incarico esplorativo per la formazione di un nuovo governo. L'11 luglio Spadolini, non essendo riuscito a trovare una maggioranza, restituì l'incarico a Cossiga che, dopo aver richiamato l'esponente irpino della DC, conferirà l'incarico ad Andreotti.
