Am 20. November 1979, dem Neujahrstag des islamischen Kalenderjahres, wurde die Moschee feierlich eröffnet. An der Eröffnung hatten unter anderen Bundespräsident Rudolf Kirchschläger und Bundeskanzler Bruno Kreisky (S) teilgenommen. Bis heute ist sie die einzige Moschee in der Bundeshauptstadt – neben rund 45 islamischen Gebetsstätten.
Der Grundstein für das Islamische Zentrum, das von einer eigenen Stiftung verwaltet wird, wurde bereits 1968 von den Botschaftern acht islamischer Staaten gelegt. Jahrelang geschah dann aber aus Geldmangel gar nichts. Erst die Spende des saudi-arabischen Königs Daisal Bin Abdul Aziz brachte 1975 die Bauarbeiten an der Moschee mit einem Kuppeldurchmesser von 20 Metern wieder ins Rollen. Die Ausschreibung für deren Errichtung gewann der damals noch unbekannte Wiener Baumeister Richard Lugner, der daraufhin seine Lastwagen mit der Aufschrift “Wir bauen nicht nur Moscheen” schmückte.
2003 entspann sich eine Kontroverse um den täglichen Ruf des Muezzins am Ufer des Entlastungsgerinnes. Hatte dieser Jahre lang nur zum Freitagsgebet gerufen, erschallte der Ruf seit Mitte des Jahres dreimal täglich. Dies rief Proteste der Anrainer hervor. Mittlerweile hat man sich auf einen Kompromiss geeinigt: Seither ruft der Muezzin leiser.
Bis zu 1.500 Menschen finden sich an Freitagen in der Moschee ein, der auch eine Koranschule angeschlossen ist. Daneben existieren in Wien rund 45 Gebetsstätten, deren größte nicht mehr als 500 Personen fasst.
