Bezirgânlar Hanı arsası diye bilinen bu yerde önceleri, IV. Mehmed’in kızlarından Hatice Sultan’ın eşi Musâhib Mustafa Paşa (ö. 1096/1685) tarafından yaptırılan ve altında dükkânlar bulunduğundan Yüksek Cami denilen bir mâbed vardı.
1284’te (1867-68) bu caminin yanması üzerine, vakıf gelirleri kullanılmak ve Sultan Abdülaziz ile annesi Pertevniyal Vâlide Sultan’ın da büyük maddî yardımları sağlanmak suretiyle yapımına 1872’de başlanıp birkaç yılda tamamlanan kâgir bir cami inşa ettirildi.
Aziziye Camii tamamen kesme taştan yüksek bir bina olup harime merdivenle çıkılmaktadır. Camilerde usulden olan avlusu yoktur. Şadırvanlar ise minare kürsülerine bitişiktir. Altı sütunlu ve üç kubbeli son cemaat yerini takip eden harim kare bir plana göre yapılmış olup büyük bir kubbe bu mekânı örtmektedir.
Caminin iki yan duvarında beşer giriş bulunması Türk mimarisinde pek rastlanmayan bir özelliktir. Kubbe kasnağının etrafında sıralanan sivri külâhlı ağırlık kulecikleri ile dört köşede yükselen değişik biçimli ve başlı başına bir mimariye sahip olan dört büyük ağırlık kulesi, Aziziye Camii’ne değişik bir görünüm vermektedir.
Yivli gövdeli çifte minare de nisbetleri ve şerefe biçimleri bakımından Türk minarelerine göre değişiktir. Yapının her cephesinde yuvarlak kemerli büyük pencereler vardır. Minber ve mihrap zengin süslemeli olarak bölgede göktaş adı verilen mavimtırak taştan işlenmiştir.
Mihrap ile kapıların üstünde çok güzel yazılar yer almaktadır. Aziziye Camii, XIX. yüzyılda Türk mimarisine hâkim olan Avrupa sanat akımlarının birkaçının karıştırılması suretiyle meydana getirilmiş, belirli bir üslûbu olmayan ve cami mimarisinde bazı yenilikler deneyen değişik bir yapıdır.