Nato a Milano, durante la seconda guerra mondiale si trasferisce sul Lago di Como. La formazione scolastica avviene presso i padri somaschi e nel Collegio Arcivescovile Alessandro Volta di Lecco.

Aldo Rossi ha studiato architettura al Politecnico di Milano, dove si è iscritto nel 1949 e si è laureato nel 1959 avendo come relatore Piero Portaluppi.

Dal 1955 ha cominciato a collaborare con la rivista di architettura "Casabella-continuità", diretta da Ernesto Nathan Rogers, come redattore. La collaborazione è terminata nel 1964 quando la rivista ha chiuso.

La pratica giornalistica continua però all'interno delle redazioni di "Società" e "Il contemporaneo", che fanno di Rossi uno dei partecipanti più attivi del fervente dibattito culturale. I primi articoli riguardano architetti come Alessandro Antonelli, Mario Ridolfi, August Perret ed Emil Kaufmann.

Si lega in matrimonio con l’attrice svizzera Sonia Gessner, che lo legherà indissolubilmente al mondo del cinema e del teatro, suoi grandi interessi sia come uomo di cultura che come padre: al cinema approderà il figlio Fausto, al teatro la figlia Vera, e nel 1973 lo stesso Rossi si cimenterà dietro la macchina da presa.

Inizia l'attività professionale presso lo studio di Ignazio Gardella nel 1956, passando poi per lo studio di Marco Zanuso. Nel 1963 inizia anche l'attività didattica: prima è assistente di Ludovico Quaroni (1963) presso la scuola di urbanistica di Arezzo, successivamente di Carlo Aymonino all'Istituto di Architettura di Venezia.

La sua attività professionale, inizialmente dedicata prevalentemente alla teoria architettonica e a piccoli interventi edilizi compie un salto di qualità quando Carlo Aymonino gli fa realizzare parte del complesso "Monte Amiata" nel quartiere Gallaratese a Milano. Nel 1971 vince il concorso di progettazione per l’ampliamento del cimitero San Cataldo a Modena che gli donerà la fama internazionale. La storia dell’architettura, Architettura contemporanea, pubblicata 5 anni più tardi da Manfredo Tafuri e Francesco Dal Co, si chiude proprio con il progetto del giovane architetto milanese.