全曲分三层：第一层（头三句）：写潼关雄伟险要的形势。峰峦如聚，波涛如怒，山河表里潼关路，峰峦如聚：形容重岩叠嶂，群山密集，绵亘不断。「山河」句：言潼关外有黄河，内有华山，形势十分险要。潼关：在今陕西潼关县北，历代皆为军事要地。
张养浩于天历二年（公元1329年），因关中旱灾，任陕西行台中丞以赈灾民。途经潼关，看到的是“峰峦如聚，波涛如怒”的景象。 本层描写潼关壮景，生动形象。第一句写重重叠叠的峰峦，潼关在重重山峦包围之中，一“聚”字让读者眼前呈现出华山飞奔而来之势、群山攒立之状；因地势险要，为古来兵家必争之地。山本是静止的，“如聚”化静为动，一个“聚”字表现了峰峦的众多和动感。第二句写怒涛汹涌的黄河，潼关外黄河之水奔腾澎湃，一“怒”字让读者耳边回响千古不绝的滔滔水声。黄河水是无生命的，而“如怒”则赋予河水以人的情感和意志，一个“怒”字，写出了波涛的汹涌澎湃。“怒”字还把河水人格化，“怒”字注入了诗人吊古伤今而产生的满腔悲愤之情。为此景所动，第三句写渲关位于群山重重包围、黄河寒流其间那除隘之处。“山河表里潼关路”之感便油然而生，至此潼关之气势雄伟窥见一斑，如此险要之地，暗示潼关的险峻，乃为历代兵家必争之地，也由此引发了下文的感慨。
第二层（四一七句）：望西都，意踌躇。伤心秦汉经行处，宫阙万间都做了土。西都：指关中一带，周、秦、汉、北朝、隋、唐等朝均在这里建都。踌躇：原指犹豫不决，徘徊不前。这里形容思潮起伏，陷入沉思。「伤心」句：言经过秦汉的故都，想起那「你方唱罢我登场」的兴亡往事，引起无穷的伤感。「宫阙」句：言在无数的战乱中，过去的宫殿已经化为了一片焦土。宫，宫殿。阙，王宫前的望楼。
写从关中长安万间宫阙化为废墟而产生的深沉的感慨。第四、五句点出作者遥望古都长安，凭吊古迹，思绪万千，激愤难平。“望西都，意踌躇”，写作者驻马远望、感慨横生的样子。作家身处潼关，西望旧朝故都长安，西都”即长安，长安不仅是秦汉都城，魏、晋、隋、唐都建都长安。作为六朝古都，当年是何等的繁华、昌盛。昔日的奢华早已灰飞烟灭不复存，只剩下一片残垣断壁的衰败景象，怎能不令诗人踌蹰伤心呢？ 曾经是好几个朝代的都城，它的繁荣昌盛的景象在古籍中也曾有过记载，可如今眼前只剩下一片荒凉，万千滋味涌上心头，遥想当年，秦之阿房，汉之未央，规模宏大，弥山纵谷，可如今崇丽之宫阙，寸瓦尺专皆荡然无存，想到今番前去的任务，他不禁感慨万千。第六、七句“伤心秦汉经行处，宫阙万间都做了土”点出无限伤感的原因。“宫阙万间都作了土”，便是这由盛到衰的过程的真实写照，是何等令人“伤心”啊!这一层看起来只是回顾历史，而没有直接提到战争，然而历代改朝换代的战争的惨烈图景读者很容易想象。在这里概括了历代帝业盛衰兴亡的沧桑变化。这里作者面对繁华过后的废墟所发出的“伤心”实乃悲凉。为秦汉旧朝统治者悲凉，恐怕“宫阙万间都做了土”（《三辅黄图》：“阿房宫，亦曰阿城。惠文王造宫未成而亡，始皇广其宫，规恢三百余里。离宫别馆，弥山跨谷，辇道相属，阁道通骊山八百余里。”后来项羽引兵西屠咸阳，“烧秦宫室，火三月不灭”。见《史记·项羽本纪》。故曰：“阿房一炬”。） 这种局面是他们不曾想到的吧！同时亦为百姓悲凉，秦汉的一宫一阙都凝聚了天下无数百姓的血和汗，像秦汉王朝为彰显一个时代的辉煌，集国之全力塑起阿房、未央之建筑，但它却随着秦汉王朝的灭亡而化为焦土。辉煌过去，随即而来是朝代的变换.百姓在战争中苦不堪言 。此情此景，让作家沉重的说出第三层“兴，百姓苦；亡，百姓苦”这句千古流传的语句。
第三层（末四句）：兴，百姓苦，亡，百姓苦。 写作者沉痛的感慨：历史上无论哪一个朝代，它们兴盛也罢，败亡也罢，老百姓总是遭殃受苦。一个朝代兴起了，必定大兴土木，修建奢华的宫殿，从而给人民带来巨大的灾难；一个朝代灭亡了，在战争中遭殃的也是人民。他指出历代王朝的或兴或亡，带给百姓的都是灾祸和苦难。这是作者从历代帝王的兴亡史中概括出来的一个结论。三层意思环环相扣，层层深入，思想越来越显豁，感情越来越强烈，浑然形成一体。全曲景中藏情情中有景，情景交融。
怎样理解“兴，百姓苦；亡，百姓苦。”这句话？
兴，百姓苦；亡，百姓苦。”是全曲之眼，是全曲主题的开拓和深化。如果这首曲子的曲意仅仅停留在 “宫阙万间都做了土”上，那么它仅仅宣扬了佛家“一切皆空的思想”，它与其它怀古诗（与《洛阳怀古》“功，也不久长！名，也不久长！” 陈草庵《山坡羊 叹世》“兴，也任他；亡，也任他。” 《骊山怀古》“赢，都变做了土；输，都变做了土。”赵庆善《长安怀古》“山，空自愁；河，空自流。”杨慎《临江仙》“是非成败转头空”）的主题并无多大区别。在否定历史的同时，也否定了积极有为的人生态度。正因为最后两句就使得这首曲的境界大大高出同题材的其它作品。这首曲可贵之处在于它有深切的人文关怀，有对老百姓疾苦深切同情与关怀。
“亡，百姓苦”好理解。王朝灭亡之际战乱频仍，民不聊生。“兴”，怎么也“百姓苦”呢？王朝之“兴”必大兴土木，搜刮民脂民膏，百姓不堪其苦。像秦王朝兴起时，筑长城，开驰道，造官室，劳役繁重，百姓受尽了苦。“兴，百姓苦”一句，发人所未发，深刻而警策。兴则大兴土木，亡则兵祸连结，不论“兴”、“亡”受苦的都是百姓。归纳总结：这首小令语言精练，形象鲜明且富有人民性，是整个元散曲中的优秀作品。
《潼关怀古》中对历史的概括，显指元代现实生活：怀古实乃伤今，沉重实乃责任。这种复杂的感情要结合作家的生平经历才能理解。张养浩自幼才学过人，曾向平章不忽木献书，被提拔，后任堂邑县尹、监察御史等职，因评时政，得罪当权者被罢官，为避祸不得不隐姓埋名；后被召起，官至礼部尚书。50岁时辞官归隐于济南云庄，关中旱灾时被重新任命，赶赴陕西救赈灾民。多年的宦海沉浮，让他把功名富贵都参破，不再在意统治者对自己的评判；济南云庄的归隐生活，不仅让他欣赏礼赞自然的风光，更让他体察民生只艰辛；尊奉孟子民本之思想，让他深深懂得民生之重要；刚正不阿、仗义执言的性格，让他有勇气面对现实说出心中真实的想法。元代百姓生活之苦被作家以怀古的形式表现出来。这种忧民之心使他“到官四月，倾囊以赈灾民，每抚膺痛哭，遂得病不起。”这是一个有良知的读书人真实的本性和真实的生活，也是当时社会所难得一见的。
张养浩特殊的仕途经历，决定了他的怀古散曲中有一种参破功名富贵的思想，《骊山怀古》中写到“赢，都做了土；输，都做了土。” 《洛阳怀古》中写到“功，也不长；名，也不长。” 《北邙山怀古》中写到“便是君，也唤不应；便是臣，也唤不应。”这些曲中张养浩把胜负之数、功名之分、生死之际，看成了毫无差别的，只是借古人古事述说富贵无常、人生如梦。只有《潼关怀古》以难得的沉重，以深邃的目光，揭示了封建社会里一条颠扑不破的真理“兴，百姓苦；亡，百姓苦。”
元代的统治者对读书人实行民族歧视政策，直到元仁宗延祐二年（公元1315年）才正式实行科举取士制度，况且这种制度也是不公平的，这就造成下层读书人在很大程度上对元统治者失去信心，对社会缺少责任感，所以同时期其他作家怀古作品都深刻地打上时代地烙印：他们或感伤古王朝之覆，发一通思古之幽情；或感叹古今之巨变，流露对世事人生把握不定之惶恐；或有感于岁月流逝，抒发个人沉沦不遇之忧情。惟有《潼关怀古》洋溢着沉重的沧桑感和时代感。
从作品内容、作家其他怀古作品、同时期其他作家怀古作品三个层面上看，《山坡羊·潼关怀古》都表现为 一份难得的沉重。
