广州市第二中学创建于1930年8月，现校址所在地曾是广州著名的书院学海堂(清道光四年，两广总督阮元创办)、菊坡精舍（清同治六年建校，首任学长是著名学者陈澧）、应元书院（同治八年，广东布政使王凯泰创办）的所在地，书香浓郁，闻名遐迩。广州市二中原选址于西关蓬莱路，首任校长徐甘棠。抗日战争胜利后，因蓬莱路校址已设为广州市一中，1947年初，学校在原市一中校址复办。

学校以培养现代化人才为目标，着眼于人的创新精神、实践能力、健全人格的培养与塑造，教育质量稳定，办学成果显著，形成了具有鲜明特色的"元元传承，厚德格物"的办学理念，形成了"合理负担高效益，因材施教高质量"的办学特色。我校中考与高考成绩长期处于广州地区的前列，两个毕业年级的工作一直荣获广州市一等奖。英语、语文、历史等学科都是公认的品牌学科。从上世纪80年代起，几乎每年都有总分或单科状元涌现，社会誉之"历史名校，状元摇篮"。

由于办学成绩显著，学校先后荣获广州市先进单位、广州市文明示范校园、广州市民主管理工作先进单位、广州市诚信示范单位、广州市抗击非典先进单位、广州市先进工会、广州市先进团委、广州市无偿献血先进集体、广州市"雷锋号"志愿服务先进集体和广州市学生军训先进单位等光荣称号。