בית הכנסת, שכונה גם "וולינער שול", נבנה ע"י חברי עמותה שעסקה בעזרה הדדית בשם "עזרת ישראל". המגרש נרכש על ידי קבוצת סוחרים יהודיים "ליטאיים" מליטא ומרוסיה הלבנה. המתכנן היה האדריכל גוסטב לנדא גוטנטגר ובנייתו הושלמה בשנת 1904. התורמים החשובים לבניית בית הכנסת היו אלכסנדר פוזננסקי, אברהם רוסק ומשפחת בלין.
בית הכנסת הועלה באש ע"י הנאצים בליל 10-11 נובמבר 1939. לפני שרפתו אילצו הגרמנים את הרב סגל להתעטף בטלית ותפילין ולחלל את ספרי התורה בידיו. שרידי קירות בית הכנסת פונו בחודש מרץ 1940