1934 yılında Hacı Bektaş'ta doğdu, ilkokulu Hacı Bektaş'ta bitirdikten sonra 1946 yılında Ankara'ya gelerek Erkek Sanat Enstitüsü Elektrik bölümünden 1952 yılında mezun oldu. Devlet Havayolları inşaat Reisliği'nde görev aldı.
1957 yılında Ankara Muhabere Okulu'nda Yedek Subay Eğitimi görüp Bu görevi tamamladıktan sonra Hacı Bektaş Belediye Fen işleri görevine atandı. Aynı zamanda Hacı Bektaş Veli Dergahı ile ilgilenip Anıtlar Derneği yönetimine katılarak tamir, restore ve Dergah'ın müze olması için yoğun çalışmalarda bulundu. 1964 yılında resmen müze oluşundan sonra yetkili memurluğa atandı.
Ali Sümer Dergah'ın kapanması döneminde ilk olarak Ankara'ya götürülmüş olan eşyaları daha sonra da etrafta ve halkın elinde bulunan eserleri toplayıp sergileyerek müzeyi bugünkü şekline ulaştırdı.
Evli, dört çocuk ve altı torun sahibi olan Sümer, kurucusu olduğu ve Yönetim Kurulu üyeliği ile Bilim Kurulu Başkanlığı yapmakta olduğu Anadolu Kültürünü Koruma Araştırma Vakfı (AKKAV)'nda çalışmalarına devam etmekte iken 11.02.2007 günü Hakka yürüdü. Çok sevdiği çilehane de sevgiliye kavuşmanın huzuru içinde yatıyor.
