Nach mehreren Planwechseln wurde vom Stadtgärtner Rudolph Siebeck 1871 ein neuer Plan für den Park vorgestellt: Dieser sollte sowohl der Bestimmung als Erholungsort als auch der prominenten Lage zwischen den vier großen Monumentalbauten Rathaus, Parlament, Universität und Burgtheater entsprechen. Vom ersten Entwurf übernahm Siebeck die breite Mittelstraße auf der Achse Burgtheater-Rathaus und den halbkreisförmigen Platz vor dem Rathaus. Die Parkanlage wird durch diese breite Straße, die den freien Blick auf die Hauptfassade des Rathauses ermöglicht, in einen fast symmetrischen Nord- und Südteil getrennt. Die beiden Grünflächen mit je einem Springbrunnen erhielten durch gekrümmte Wege und dichtere Bepflanzung einen landschaftlichen Charakter. Zur Mitte hin wurden die Bäume und Büsche lockerer gesetzt; an den Seiten zum Parlament und der Universität bilden die Bäume und Sträucher auch heute noch einen Sichtschutz.

Obwohl der Spatenstich zum Rathaus erst am 25. Mai 1872 erfolgte, begann man mit den Arbeiten für die Parkanlage bereits im Frühjahr desselben Jahres. Typisch für Stadtparks im letzten Viertel des 19. Jahrhunderts ist die Ausstattung mit Blumenrondellen, Teppichbeeten, Pavillons, Wetterhäuschen, Springbrunnen, exotischen Bäumen und Denkmälern. Sie passten zur Erholungs- und Bildungsfunktion der Anlagen. Der Rathauspark ist in dieser Hinsicht keine Ausnahme.