Wie bei vielen anderen Kliniken geht auch die Gründung dieses Wiener Krankenhauses auf Kaiser Franz Joseph I. zurück. Viele Jahrzehnte erinnerte der Name des 1864 erstmals eröffneten Spitals auch an seinen kaiserlichen Gründer: Die Rudolfstiftung trug den Namen des Kronprinzen Rudolph, Sohn des Kaisers. 

Der heutige Bau wurde 1977 eröffnet und bietet 800 Betten. Die Klinik Landstraße wird in den kommenden 5 Jahren bei laufendem Betrieb saniert.