Diyarbakır'da doğan Cemiloğlu, 1916 yılında Diyarbakır’da boksa başladı. 1921'de İstanbul'a geldikten sonra Serj Kibrit'ten ders almaya başladı. Fransa Milli Takımı'na alınmak istendi, fakat kabul etmedi. Avrupa Şampiyonu Fransız Louis Pretan'la karşılaştı. 1930'da Türkiye'ye dönerek Ankara'da boksu başlattı.