Del periodo Románico (s. X-XIII) todavía quedan algunos ejemplos en Viena, como son la iglesia de San Ruperto, considerada la más antigua de toda Viena, y la parte antigua de la Catedral de San Esteban (la fachada principal y las dos torres “de los paganos”), la cual se inició en 1137.
En el Gótico vienés (s. XIII-XVI) podemos apreciar la mezcla del gótico italiano, del francés y de la tradición austriaca. Es una época de esplendor en Viena y ello se refleja también en su producción arquitectónica. El edificio más característico es la Catedral de San Esteban (consagrada en 1337); otras obras góticas importantes son la iglesia de María am Gestade, la Cámara del Tesoro y la Capilla Imperial (donde actúan los Niños Cantores de Viena los domingos) del Palacio de Hofburg, la iglesia de los Agustinos (Augustinerkirche, donde se guardan los corazones de los Habsburgo), etc.
El Renacimiento es el período artístico menos representado en Viena, aunque las pocas obras que podemos contemplar son excepcionales, como lo demuestra la Puerta de los Suizos (Schweizertor) del Palacio de Hofburg.
Seguidamente llega el Barroco, donde la arquitectura alcanzó uno de los más elevados niveles creativos de toda Europa. Entre los grandes nombres de la arquitectura barroca vienesa hay que destacar a J.B. Fischer von Erlach, quien fusionó las influencias extranjeras con los elementos austriacos más característicos; obra suya son edificios tan destacados como la iglesia de San Carlos Borromeo (Karlskirche, obra cumbre del Barroco), parte del Palacio de Schönbrunn (aunque queda muy poco de él y casi todo lo que vemos es obra de Nikolaus von Pacassi) y parte del Palacio de Hofburg (como la Biblioteca Nacional, las caballerizas y la sala más elegante de Viena en la que actúa la Escuela Española de Equitación). Otro artista importante de este periodo es von Hildebrandt, primer arquitecto de la corte de Viena y autor de varios palacios como el Palacio de Schwarzenberg y los Palacios gemelos de Belvedere. Casi todos los palacios de Viena son obras del Barroco (además de los mencionados, destacan también los palacios Daun-Kinsky, Harrach, Lobkowitz, Schwarzenberg, Trautson, Auersperg y tantos otros), al igual que muchas de las iglesias (como la iglesia de San Pedro, la de los Jesuitas, la de los Dominicos, la de los Franciscanos, etc.), y otras obras como la Columna de la Santísima Trinidad (o Columna de la Peste, 1679).
Como oposición al triunfal Barroco surge el Clasicismo donde, dejando atrás la excesiva decoración barroca, se vuelve a los modelos clásicos griegos y romanos.
A principios del s.XIX hay que mencionar el estilo Biedermeier, que caracterizó la arquitectura sencilla y con sobria decoración de la burguesía vienesa de la época.
Pero con el s.XIX llega además la arquitectura Historicista, característica de la época de Francisco José I, en la que se intentan recuperar los estilos de tiempos pasados pero incorporándoles algunas características culturales del momento; es la época de los “neo”. Así, vamos a encontrar edificios neorrománicos, neogóticos, neorrenacentistas, neobarrocos,... Este es un momento muy importante en Viena, ya que se realiza un nuevo trazado urbanístico de la ciudad y Francisco José manda derribar las murallas que rodean el centro de la ciudad (primer distrito) para construir en su lugar la gran avenida Ringstraβe, alrededor de la cual se construyen los edificios públicos más importantes, como la Ópera del Estado, el Ayuntamiento, el Parlamento, la Bolsa,... Algunos de los arquitectos destacados de este periodo son G. Semper y K.F. von Hasenauer (autores, por ejemplo, del Burgtheater y de los Museos de Historia del Arte y de Historia Natural) y H.F. von Ferstel (autor de la iglesia Votiva y del edificio de la Bolsa entre otros).
A finales del s.XIX y principios del s.XX llega a Europa el Modernismo (también conocido como Art Nouveau, Modern Style, Liberty, Jugendstil, Secesión, Art Déco,...), como una reacción a los estilos anteriores. En Viena llega de la mano de arquitectos como Otto Wagner (encargado además del nuevo plan urbanístico de Viena), Josef Maria Olbrich (discípulo del anterior) y Adolf Loos (que consigue en sus casas un ascetismo de líneas y un funcionalismo no alcanzado hasta entonces), y de artistas como Gustav Klimt.
Con la nueva República (a partir de 1918) se llevan a cabo varios proyectos municipales de construcción, destacando el impresionante complejo de apartamentos Karl-Marx-Hof, de Karl Ehn, con 1.325 viviendas y más de 1 km. de fachada. También de esta época son la Engelsplatz de Perco, y el Reumannhof de Gessner.
De la época posterior a la II Guerra Mundial hay que señalar a arquitectos como Roland Rainer (autor del Palacio de Deportes y de la Böhlerhaus), Schwanzer (autor del Museo del s.XX), Clemens Holzmeister, Richard Neutra, Lippert,...
Las diferentes vanguardias, tales como el Expresionismo, el Realismo, el Futurismo, el Surrealismo, etc., han encontrado también su lugar en Viena.
De época más reciente, no podemos dejar de mencionar al arquitecto Friedensreich Hundertwasser, cuyos diseños arquitectónicos revolucionarios se caracterizan por el rechazo de la línea recta, el uso de formas irregulares, múltiples y brillantes colores, formas orgánicas y la incorporación de la naturaleza en la arquitectura. Algunas obras de este artista, a veces comparado con el arquitecto catalán Antonio Gaudí por sus formas biomórficas, son los apartamentos conocidos como Hundertwasserhaus (pisos ondulantes en cuyos tejados hay tierra y vegetación y de cuyas ventanas salen ramas de árboles que crecen dentro de las habitaciones), la Kunsthaus Wien y la remodelación de la fachada de la incineradora de Spittelau.
Otro arquitecto actual, considerado además el primer arquitecto postmoderno de Austria, es Hans Hollein, cuyos edificios, como la Haas-Haus, de formas geométricas y curvas, son algunas de las realizaciones más emblemáticas de la arquitectura austriaca moderna.