Okulun geçmişi 1731'de, Eski Ayazma Sarayı'nın müştemilatındaki boş alana kurulan Humbaracı Kışlası'na kadar uzanıyor. Bu alanda 1734'te Mühendishane-i Hümayun açıldı.
1758'de ise Sultan III. Mustafa tarafından yaptırılan Ayazma Camisi'nin inşasıyla birlikte Mühendishane'nin yerine Ayazma Sıbyan Mektebi kuruldu. İki katlı, taş örme ve dış cephesi ahşap olarak inşa edilen okul, uzun yıllar bu isimle eğitim verdi.
Okulun girişindeki kitabede de yapının 1758'de Sultan III. Mustafa tarafından yaptırıldığı belirtiliyordu. 1842'de ise aynı binada 'Üsküdar Mekteb-i İbtidaiyesi' adıyla eğitim verilmeye başlandı.
Türk resim sanatının öncü isimlerinden Şeker Ahmet Paşa da okulun mezunları arasında yer aldı.
