İlçe sınırları içinde bulunan Tercil, Ayındar ve Mihrani kalelerinin kalıntıları yöre tarihinin çok eskilere dayandığını göstermektedir. Asurlular zamanında yörede kurulan "HATARO" adlı Tercil Kalesi´nden adını alan Hazro, ilk çağlardan bu yana sırasıyla Perslerin, Makedonya Krallığı´nın Roma ve Bizans İmparatorluklarının idaresinde bulunmuştur. İslamiyet´in Anadolu´ya yayılmasıyla birlikte Hz. Ömer zamanında Müslümanların eline geçen Hazro, bu tarihten itibaren bölgede kurulan Müslüman beylik ve emirlikler arasında sık sık el değiştirmiştir.
Cumhuriyet Dönemi´nin başlarında küçük bir bucak olan Hazro´da 1943´te belediye teşkilatı kurulmuş, ardından ilçe Haziran 1954 tarihinde Silvan´dan ayrılarak Diyarbakır iline bağlı bir ilçe olmuştur.
Tarih boyunca birçok devletin hâkimiyetine geçen ilçede en önemli tarihi eser ULU CAMİİ´dir. Eyyubiler zamanında 13. yüzyılda yapılan bu cami; ilçenin merkezinde, ilçeye hakim bir tepede inşa edilmiştir. İlçe sınırları dahilinde harabe haline gelmiş tarihi bir medrese ve bir de kilise bulunmaktadır.