Die erste mennonitische Begräbnisstätte befand sich ab 1678 in der heutigen Paul-Roosen-Straße; damals hieß sie Große Roosenstraße und benannt nach der Pastorenfamilie Roosen.
Seit 1873 befindet sich der Friedhof in Bahrenfeld. Während die Kapelle im 2. Weltkrieg abgebrannt ist, konnte das Gärtnerhaus von 1896 bis heute erhalten bleiben.
Hier befinden sich auch noch 38 Grabsteine von Historikern, Pastoren und Kaufleuten, die unter Denkmalschutz stehen und durch Straßennamen im Altonaer Raum bekannt geblieben sind: