Comunitatea ortodoxă, constituită în anul 1871, se reunea până în anul 1894 în localuri închiriate. Sinagoga a fost inaugurată în toamna anului 1895, în 18 septembrie, în ajun de Roş Haşana. Primarului Carol (Károly) Telbisz) i s-a oferit o cheie de aur (probabil aurită) a locaşului, iar la finele ceremoniei, oaspeți şi gazde au cântat împreună imnul național al Austro-Ungariei. În anul 1901 a fost ales rabinul Bernát Schück, originar din Székesfehérvár (Alba Regală), în funcțiunea de rabin, urmat de fiul lui, Andrei Schück.

Construită după planurile arhitectului Karl Hart în stil eclectic cu ornamente maure, neoromanice şi neogotice, sinagoga are dimensiuni modeste în comparație cu celelalte două mari sinagogi.

În 1910, sinagoga a fost mărită, dar fotografii din 1914 şi 1915 arată că sinagoga avea încă o singură cupolă centrală. Ulterior şi-a dobândit aspectul actual, cu două cupole centrale şi două mai mici, laterale.

În curtea sinagogii funcționau un heder (o grădiniță), o mikve (baie rituală) şi un abator ritual. Școala primară ortodoxă, înființată în anul 1918, s-a mutat 10 ani mai târziu într-un sediu nou în capătul curții. Placa de marmură în interiorul sinagogii comemorează construirea şcolii în 1928, cinstind numele celor care au contribuit: prim-rabinul Bernhard (Bernát) Schück, preşedintele comunității Iacob Rothbart, arhitecții Arnold Merbl şi Iacob (Jakab) Klein şi alții. Clădirea e despărțită acum de curtea sinagogii printr-un zid.

În anul 2005 s-a introdus un sistem de încălzire mulțumită donației lui Ioan Holender, directorul Operei din Viena timp de zeci de ani, astfel că celebrarea sărbătorilor de iarnă în incinta sinagogii a devenit posibilă.