ül Baba (Padre de las Rosas) debió su nombre a las rosas que llevaba en su turbante. Las rosas que cultivaba eran famosas por su belleza en todo el mundo. Necesitaba buenas relaciones públicas porque tenía un gran interés en el negocio de los perfumes. Según la tradición, a finales del siglo XIX, los alrededores de la Colina de la Rosa recibieron su nombre de Gül Baba, ya que el derviche creó una gran rosaleda escalonada en la ladera sureste de la colina de Buda. Como miembro de la Orden de derviches Bektas, una Orden del islam, predicó el Corán a una sucesión de sultanes. Gül Baba era un derviche de buen corazón y carácter noble, que fue herido en la toma del castillo de Buda y murió poco después en la iglesia que había convertido en mezquita, la actual iglesia de Matías. La tumba fue construida por el pachá III de Buda.
Buda fue retomada por las tropas europeas unidas en 1686, por lo que los turcos se retiraron, y la tumba de Gül Baba pasó a ser propiedad de la Orden de los Jesuitas, que hicieron el lugar más "cristiano" a su gusto. Tras la disolución de la Orden, la parcela de propiedad privada fue finalmente adquirida en 1861 por el arquitecto János Wagner, que construyó su villa en torno a ella como casa de vacaciones familiar durante un periodo de unos 20 años desde mediados de la década de 1880. El siguiente acontecimiento importante en la historia de la tumba fue en 1914, cuando fue declarada monumento y comenzó su restauración. Durante las excavaciones dirigidas por el antropólogo Lajos Barhucz, se encontró en medio de la tumba un esqueleto más antiguo y de fuerte constitución, de 164 cm de altura, que pudo ser identificado como los restos de Gül Baba. Durante la Segunda Guerra Mundial, la tumba estuvo protegida de los bombardeos por los muros de la villa Wagner que la rodeaban. Las obras de restauración comenzaron a principios de los años 60, según los planos de Egon Pfannl. En la década de 1970, se construyó un mirador alrededor de la tumba.