An einer Uferstelle der Donau, an der besonders oft Treibgut und Wasserleichen angespült wurden, entstand 1840 das erste Grab eines Namenlosen.Es war im heutigen Simmering, in der Nähe des Alberner Hafens.
So entstand allmählich ein beschaulicher Ort der ewigen Ruhe, an dem im Laufe der Jahre 104 Opfer des Wassers ihr Grab fanden.Nur 43 von ihnen konnten nachträglich identifiziert werden.Bis ins Jahr 1940 wurden unbekannte Wasserleichen, die man in der Donau fand, hier bestattet.
In einer eigenen kleinen Kapelle wurde und wird den Ertrunkenen und den Opfern des Hochwassers gedacht.Besonderes Engagement bewies der ehrenamtliche Totengräber Josef Fuchs, der von 1906 bis 1996 lebte, und sich fast sein ganzes Leben für den Friedhof einsetzte.
Die eisernen Kreuze, die noch heute das Erscheinungsbild prägen, wurden von Josef Fuchs eingesetzt.Am Friedhof der Namenlosen bekam jeder Tote zumindest einen (gespendeten) Holzsarg, um in Würde ruhen zu können.
