平型关北有恒山如屏高峙。南有五台山巍然耸立，海拔都在1500米以上。这两山之间尽一条不甚宽的地堑式低地，平型关所在的平型岭是这条带状低地中隆起的部分，所以形势很险要。由于恒山和五台都是断块山，十分陡峻，成了晋北巨大交通障壁，因此这条带状低地便成为河北平原北部与山西相通的最便捷孔道。一条东西向古道穿平型关城而过，东连河北紫荆关，西接山西雁门关，彼此相连，结成一条严固的防线，是北京西面的重要藩屏，明清时代，京畿恃以为安。

明代，蒙古骑兵频繁侵边，抢掠财物，尤其嘉靖年间为烈。最严重的一次是嘉靖三十二年（1553），蒙古鞑靼部俺答又率兵大举南侵，从大同深入浑源攻平型关，乘虚而入，遂陷平型关。接着由此直趋灵丘、广昌（今河北涞源），进逼紫荆关。途中遇明将陈凤率军抵抗，蒙古兵便分头掠繁峙，侵略蔚县并屠掠延庆诸城，后因受到明军与百姓阻击又遇连日下雨便猖狂北逃。

这里又因发生了举世闻名的平型关战役而闻名。1937年9月25日，日本最精锐的板垣师团主力在平型关长城区遭到了八路军115师师长林彪率领的八路军的全力攻击，在此一役歼灭日军近千人，毁敌汽车100辆，大车200辆，缴获步枪1000多支，轻重机枪20多挺，战马53匹，另有其他大量战利品。