Tekkenin inşasına Sersem Ali Baba tarafından 1538 yılında başlanmış ve 1548’e kadar devam etmiştir.

Zaman içinde Harabati Baba Tekkesi adını alarak Bektaşiliğin önemli merkezlerinden biri olarak faaliyet göstermeye başlamıştır. Sonradan eklenen yapılarla birlikte Bektaşi külliyesi sadece dini değil, kültürel ve eğitici faaliyetlerde bulunan bir dergâh haline gelmiştir.

Harabati Baba Tekkesi, külliyesini meydana getiren yapılarda yer alan süslemelerle doğu geleneğini yansıtmaktadır.

Harabati Baba Tekkesi’nde süslemelerin yanı sıra, farklı içerikte pek çok kitabe yer almaktadır.

Külliyeyi oluşturan yapıların çatıları, sütunları, bacaları, renkli dış duvarları ve külliye düzeninde göze çarpan unsurlar, kültürel ve mimari açıdan büyük önem taşır.

Tekkenin geniş bahçesi, Şar Dağları’nın taze havasını içinize çekerken çeşit çeşit çiçekleri ve gülleriyle büyüleyicidir.

Tüm bu özellikleri sayesinde tekke bölgede ve Balkanların ötesinde özel bir öneme sahiptir.

Harabati Baba Tekkesi külliyesini oluşturan dini ve sivil yapılar arasında mihman evi, kütüphane, kışlık odası, aşevi, mescid, sebil, şadırvan, Fatma’nın evi (Harem Dairesi), köşkhane, türbe ve kabirler, ahırlar ve tali yapılar bulunmaktadır.