Gül Baba (Vater der Rosen) wurde nach der Rose benannt, die er an seinem Turban trug. Die von ihm gezüchteten Rosen waren für ihre Schönheit weit und breit berühmt. Er brauchte diese PR tatsächlich, denn er war in größerem Umfang am Verkauf von Parfümen beteiligt. Der Überlieferung nach wurde das Gebiet um den Rózsadomb (Rosenhügel) Ende des 19. Jahrhunderts nach Gül Baba benannt, da der Derwisch an den südöstlichen Hängen des Budaer Berges einen großen stufenförmigen Rosengarten angelegt hatte. Als Mitglied eines der muslimischen Orden, des Bektaschi-Derwisch-Ordens, predigte er im Dienst einer Reihe von Sultanen die Worte des Korans. Gül Baba war ein gutherziger Derwisch von edlem Charakter, der bei der Einnahme der Budaer Burg verwundet wurde und bald darauf in der von ihm in eine Moschee (Gebetshaus) umgewandelten Kirche – der heutigen Matthiaskirche – starb. Das Grabgewölbe über seinem Grab ließ der III. Pascha von Buda errichten.
Als Buda 1686 von den vereinigten europäischen Truppen zurückerobert wurde, zogen sich die Türken zurück, und die Gül-Baba-Türbe ging in den Besitz des Jesuitenordens über, der den Ort nach seinem Geschmack „christlicher“ gestaltete. Nach der Auflösung des Ordens wurde das Grundstück im Jahr 1861 schließlich von dem Architekten János Wagner als Privateigentum gekauft, der es ab Mitte der 1880er Jahre über einen Zeitraum von etwa 20 Jahren zu einer als Ferienhaus genutzten Villa für seine Familie umbaute. Das nächste bedeutende Ereignis in der Geschichte des Grabmals geschah 1914, als es zum Denkmal erklärt wurde und seine Renovierung begann. Bei den Ausgrabungen unter der Leitung des Anthropologen Lajos Barhucz wurde in der Mitte der Türbe ein älteres, kräftig gebautes, 164 cm großes Skelett gefunden, das als die Überreste von Gül Baba identifiziert werden konnte. Während des Zweiten Weltkriegs wurde die Türbe durch die Mauern der Wagner-Villa, die sie umgaben, vor Bombenangriffen geschützt. Die Restaurierungsarbeiten begannen Anfang der 1960er Jahre nach Entwürfen von Egon Pfannl. In den 1970er Jahren wurde auch noch eine Aussichtswarte um die Türbe gebaut. Nach fortschreitendem Verfall wurde die Türbe in den 1990er Jahren erneut renoviert.