山陽城遺址位于焦作是東南待王鄉(xiāng)墻南村的北側(cè)。據(jù)《后漢書.君國志》載：周文王子蔡叔監(jiān)殷，食邑于河內(nèi)，山陽有蔡城，或曰蔡叔邑。《史記》載：秦時，長信侯于山陽之地居之。《三國志》也記有東漢末年，曹丕稱帝，貶漢獻帝劉協(xié)于山陽城，以河內(nèi)之山陽邑萬戶奉漢獻帝為山陽公。城墻大部分高出地面，清晰可見。古城呈不規(guī)則的長方形，缺東南角。北城墻長1850米，破壞嚴重，有斷有續(xù)；東城墻長1350米；西城墻長1000米，除自然風化外，保存基本完好；南城墻中間大部分已無痕跡。城墻周長為5000米，有9門（北5門、西2門、東1門、南1門）的痕跡。城墻寬14-35米，殘墻高4-6米，為夯筑而成。城墻斷面夯土層明顯，每層厚10-15厘米，厚薄均勻。城東北有漢獻帝的墓冢。在城的西北角發(fā)現(xiàn)有漢代的完整瓦當與碎瓦片等遺物，在城南挖掘出用青石板平鋪的地面，在城墻上多次揀到過銅鏃，在城的附近還發(fā)現(xiàn)了被箭射穿成孔的人頭骨，在城外馬作墓群區(qū)曾經(jīng)出土過刻有山陽銘文的陶器。城內(nèi)原有法明寺、藏梅寺（佛教稱千佛殿），城北的墻北村有石巖寺（下院）等名寺古剎。現(xiàn)寺院的古建筑雖已無存，但還存有千佛石刻造像碑、重修神農(nóng)廟碑等文物。

從有關(guān)文獻資料及城墻遺址的夯土層看，山陽城為漢代所筑。建筑雄偉，結(jié)構(gòu)合理，城墻堅固，利于防御，反映了漢代勞動人民夯土建筑的高超技藝，是古代勞動人民聰明智慧的結(jié)晶，也是研究漢代政治、經(jīng)濟、文化及城市規(guī)模、市區(qū)規(guī)劃等方面的實物例證。

1963年6月，公布為河南省第一批省級文物保護單位。