两者的区别：
1、外观不同
淮山药：表面黄白色或淡黄色，有纵沟、纵皱纹及须根痕，偶有浅棕色外皮残留。体重、质坚实，不易折断，断面白色粉性，有细小点状突起。气微、味淡、微酸，嚼之发黏。
铁棍山药：形如其名，就是说外形坚硬笔直，似铁棍。铁棍山药比较细，捏一下手会硌得慌，表皮为土黄色或土褐色，表皮光滑有白色斑点，须根长而密，毛眼较突出，芦头渐细，长（20~30厘米），有时具有红色不规则斑痕。掰开来看，铁棍山药断面比较白，纤维较细。
2、产地不同
淮山药的产地是很多的，在我国的安徽，江苏等地非常的流行，除此之外，在广州一带也种植得非常多。虽然在不同的地方种植，但是它的欢迎程度是非常高的，因为大家都喜欢它的味道，而且也非常在意它所带来的一些保健作用，所以现在很多地区也种植了这种淮山药，不仅可以做成蔬菜来吃，还可以把它当作治病的食疗来用。
铁棍山药原产地是温县地处黄河和沁河交汇口上游的包络地带，母亲河黄河与发源于太行山脉的沁河水共同滋润着这片土地，三面环山、一面临水的自然条件得天独厚。
淮是指的产地河南，古人叫道地药材(就是我们说的地道或是说真正的产地),故，淮山药就是医生要求拿出自河南产地的山药。其中以“铁棍山药”为著名传统土特产山药指的是河南、山东、河北等地所产的山药，它的茎通常带紫红色，含淀粉和蛋白质，可食用。为多年草本植物，茎蔓生，常带紫色，块根圆柱形，叶子对生，卵形或椭圆形，花乳白色，雌雄异株。
铁棍山药是众多山药品种之一，是怀山药中的精品。铁棍山药上有像铁锈一样的痕迹，因故得名铁棍山药。铁棍山药营养良好，药用价值高，在古籍记载中便已入药。河南焦作温县是铁棍山药的地理标识原产地。铁棍山药按栽培土壤的不同分为沙土和垆土两种铁棍山药。
