匯波樓位于大明湖東北岸北水門之上。北水門為曾鞏任齊州知州時，于宋神宗熙寧五年（公元1072年）所建，是濟南唯一的北城門，既可設閘泄水、防水，又可通舟楫。明洪武四年（公元1371年）修建新城墻時，在北水門上建了一座兩層高的城樓，因城內諸泉水匯流入大明湖，再經(jīng)北水門流出城外，故命名為匯波樓。