望嵩楼位于子城中,为汝州名楼之首。子城在汝州城内明清时州治（今县前街东段北）西北，大约为今广育路体育场西北一带，系唐、宋、金、元时的汝州治所。望嵩楼即为子城内文庙的戟门门楼。

望嵩楼始建于唐，之名始见于刘禹锡的诗作《送廖参谋东游》:“九陌逢君又别离，行云别鹤本无期。望嵩楼上忽相见，看过花开花落时。”楼之命名，自然是登楼可望嵩岳之故。

望嵩楼历唐、宋、金、元四代，各有诗作为证。如唐员外郎胡证的《北楼晚望少室山》，宋庄公岳的《登望嵩楼》，汝州同知张彀的《登楼戏作》，汝州刺史吕卿云的《登楼戏留三绝》，元分治盐法路官程明德的《登望嵩楼四绝》，盐运使王克敬的《嵩楼小酌》，达鲁花赤廉秋堂的《嵩楼晚眺》及汝州知州韩彦礼的《次韵》等。

望嵩楼于宋时曾进行过重修，知府将军李公以有《修望嵩楼》诗记其事。望嵩楼废于元末，元代进士张政就只能见其遗址，不无哀叹地写下了《登望嵩楼故址二首》。

望嵩楼虽然早已不复存在，但有关它的诗赋，却像一条不涸的河流一直在流传着。唐朝大历（唐代宗年号）十才子之首的李益曾两次登临，赋诗述怀。第二次登临时写道:“黄昏鼓角似边州，三十年前上此楼。今日山川对垂泪，伤心不独为悲秋。”清宋六经的《望嵩楼赋》描写细腻，文辞华美，想象力丰富，音韵和谐，可为代表。