Na místě dnešního Rudolfina nestála ještě v polovině 19. století žádná budova. Byl to dlouho zanedbaný prostor za staroměstskými hradbami. V červnu 1873 koupila pozemek Česká spořitelna a rozhodla se k padesátému výročí svého založení investovat své zisky do stavby budovy, která měla sloužit hudbě a krásnému umění. Vedle koncertního sálu se plánovalo zázemí pro konzervatoř a galerijní a muzeální prostory. Stavbou byli pověřeni architekti Národního divadla Josef Zítek a Josef Schulz. Výsledkem jejich práce byla na svou dobu zcela výjimečná budova, jejíž slavnostní otevření se konalo 7. února 1885, kdy Česká spořitelna slavila šedesáté narozeniny. Budova dostala své jméno po korunním princi Rudolfovi.
Rudolfinum sloužilo svému účelu až do vzniku Československé republiky. V sobotu 4. ledna 1896 zde Antonín Dvořák dirigoval historicky první koncert České filharmonie. V roce 1919 začal v Rudolfinu zasedat československý parlament, který v dnešní Dvořákově síni mimo jiné třikrát zvolil prezidentem Tomáše Garrigue Masaryka.
V průběhu druhé světové války bylo Rudolfinum pod vedením architektů Antonína Engela a Bohumíra Kozáka znovu přestavěno. Koncertní sál opět začal sloužit svému původnímu účelu a stal se sídlem pražské Německé filharmonie. Po osvobození se do Rudolfina, nazývaného Dům umělců, vrátila Česká filharmonie a sídlily v něm i Hudební fakulta Akademie múzických umění a konzervatoř. Její studenti pak Dvoranu, která byla za první republiky poslaneckou jídelnou, používali jako tělocvičnu.
Poslední celková rekonstrukce Rudolfinum probíhala v letech 1990 až 1992 podle návrhu Karla Pragera, který vrátil budově její původní účel a poslání – koncertní a výstavní. Neorenesanční budova na břehu Vltavy je od svého znovuotevření domovskou scénou nejen České filharmonie, ale i sídlem Galerie Rudolfinum.
Dvořákova síň je považována za akusticky nejlepší sál v České republice. Abonentní koncerty v ní proto pořádají i další významné orchestry. Rudolfinum je také vyhledávaným místem pro hudební festivaly. Navíc má skvěle vybavené Studio Rudolfinum, které umožňuje pořizování nahrávek i audiovizuálních záznamů.
V roce 2020 vyšla ke 135. výročí budovy více než pětisetstránková publikace s názvem Rudolfinum: Chrám umění. Nabídla texty od desítky autorů, kteří zmapovali architektonické u kulturně-historické dějiny budovy od první myšlenky až po začátek 90. let 20. století. Příběhy institucí, jež v Rudolfinu sídlily, se v knize prolínají s osudy osobností, které budově vtiskly jeho tvář. Knihu doprovází přes 270 historických fotografií, výkresů, plánů či plakátů.
