铁柱泉，居河东边墙内侧，在今盐池县中部冯记沟乡。因此处有清泉一处而得名。明代，铁柱泉的泉水甘洌，水量很大，每日可供数万骑饮喝而不干涸。铁柱泉周围草场丰美，皆是肥沃可耕之地。对于荒漠山区来说，这里可算是一块不可多得的风水宝地了。
明代传说，铁柱泉旁有一石窟，名叫铁柱泉窟，窟内阴森可怖，多年来，无人敢进去。景泰年间，有一姓李的富人，终于按捺不住自己好奇的心和贪婪的欲望，便决定进去探个究竟。
一天，他带着一个仆人点着灯进去。主仆二人在窟内摸索着走了大约20米的样子，突然发现有一扇石门，推开一看，里面有一尊铜铸的佛像，旁边有两具僧人的尸体，尸体上覆盖着锦被，其面如生，主仆二人惊愕不已。仔细一瞧，尸体周围摆放着很多金银财宝，李姓富人大喜过望，便不顾一切地拿了很多。正准备退出石门，谁知此时刮来一股飒飒阴风，将灯吹灭，将石门关闭，同时鼓钹齐鸣。这突如其来的怪异现象，把李姓富人吓了个半死，立刻丢掉捡来的财宝，仓皇从石窟里爬了出来。第二天，他招集了不少人前去挖掘，但石窟坚硬如铁，始终没有掘开。这显然是一则神话故事。不过也有人认为，这是造墓者为防止他人盗墓而设置的机关。这则故事均被明代修撰的《弘治宁夏新志》《嘉靖宁夏新志》《万历朔方新志》作为“祥异”而收录在里面。明代宁夏地方志收录这则传闻难道纯属是猎奇吗？这则传闻寄托或隐含着什么寓意呢？窃以为这大概与铁柱泉的重要地理位置不无关系。
嘉靖十五年（1536年），都察院左都御史兼兵部侍郎的刘天和奉命总制三边军务。下车伊始，他便亲自带领宁夏镇的文武官员到宁夏边塞要地去巡查，了解熟悉各关隘、城寨、道路及戍守兵马等情况。刘天和一行来到铁柱泉后，在此停驻多时。当他对铁柱泉及其周围的情况作了详细的调查了解后，便叹息地对诸将说：“御戎上策，其将在此矣。可城之，使虏绝饮，固不战自惫矣。”他认为铁柱泉周围几百里没有水源，如果在这里筑城，将水泉包在城内，就可使敌骑无水可饮而不战自败。他之所以“叹息”，是因为这样一个有战略意义的地方“，何前哲弗于是图哉？”意思说，为什么以前的总制、巡抚、总兵们不谋划这个地方呢？刘天和筑城卫泉的想法立即得到了宁夏巡抚张文魁的大力赞同和支持。这年七月，开始动工修筑铁柱泉城。宁夏各级官吏对这件事都很重视，按察司佥事谭訚（yín）亲自“度垣墉，量高厚，计丈尺”。镇守、总兵官也没闲着，特别是宁夏镇总兵王效积极性很高，他督帅官兵，准备了筑城用的木柱、畚箕、铁锹等工具。筑城时，军民人人乐于此事，个个竞相出力，工程进展很快，不到一个月时间，铁柱泉城竣工。城周回2公里余，城墙高厚各三丈多，非常坚固。铁柱泉被包在城内，以城卫泉；城外挖了护城壕，以壕卫城。城内又筑了不少官署和房舍。总之，官署仓场，无一不备；楼观城垣，巍巍壮观。刘天和在城内置兵1500名，又招募了一部分当地人，共同守城，选拔了一位才能俱佳的武官担任守将。另外，又在城外开辟了一些田地，让士兵和当地人耕种，还开辟草场，供放牧和繁殖牲畜。
从此，铁柱泉这一鞑靼骑兵入侵宁夏、固原的补水站，现在变成了明军的边防要塞———铁柱泉城了。
60年后，即万历二十三年（1595年），另一位三边总督李汶驻节铁柱泉城时，曾写了一首《驻铁柱泉》的七律诗，诗前有几句小序是这样写的：“驻铁柱泉，怀往岁，卜虏穿塞入银、麟，边报错至。”看来自从筑了铁柱泉城后，边患似乎少了些，不像往年边报交错相至。诗中曰：“泉开铁柱水流澌，地主依然献饩时。”“饩（x）ì”，赠送人的粮食或饲料。说明铁柱泉城周围垦荒种地的人多了，也有了收获，他们还向官军献了粮草呢。在铁柱泉城，总督大人也能睡个安稳觉：“梦断翻嫌鸡唱早”。
万历三十五年（1607年），宁夏巡抚黄嘉善又将经历了70多年的铁柱泉城砌以砖石，由土城变为砖包城了。西墙正中有腰墩，四隅有角台，东门带瓮城。守兵不但可在城外空地开垦屯种，而且还于近旁石沟盐池采盐自食。闲云潭影日悠悠，物换星移几度秋。作为明代古城，现已废圮（pǐ），当年可日饮数万骑的铁柱泉今日水量已很小了。
