In der Levetzowstraße Ecke Jagowstraße befand sich eine große Synagoge, die seit 1941 als Sammellager für Deportationen in die Vernichtungslager dienen musste. Im Krieg beschädigt wurde sie 1955 abgerissen.
Im Jahr 1960 entstand eine kleine Gedenkstätte, mit einer Mauer, einer Gedenktafel und einem Haken zum Aufhängen von Kränzen.
Erst 1985 wurde ein Wettbewerb zur Erstellung eines Mahnmals ausgeschrieben, den der Bildhauer Peter Herbich und die Architekten Theseus Bappert und Jürgen Wenzel gewannen. Dieses Mahnmal konnte am 14. November 1988 eingeweiht werden, kurz nach dem 50. Jahretag des Novemberpogroms.
Das Mahnmal besteht aus mehreren Teilen:
Schräg in den Himmel ragt eine Eisenwand. Auf ihr sind die 63 Transporte nach Osteuropa in die Ghettos, Konzentrations- und Vernichtungslager aufgelistet. Die Eisenwand-Schrifttafel hat die Höhe der einstigen Synagoge.
Auf einer Betonplatte davor finden sich gußeiserne Reliefs der größten Berliner Vereins- und Gemeindesynagogen als Symbol ausgelöschter deutsch-jüdischer Kultur. Sie bilden den Hintergrund für das eigentliche Mahnmal am Rand der Straße:
Eine Gruppe von Gefangenen auf einer Rampe und in einem Eisenbahnwaggon.