在中國歷史上，修建長城，一直很多中原王朝的必修課。他們將長城視爲抵禦北方遊牧民族入侵的屏障。從西周時期，就已經有修建長城的傳統。在當時的長城上，人們會修建烽火臺，用來作爲敵軍入侵的警報。而著名的“烽火戲諸侯”，就是發生在那個時候。
到了後來，雖然中國曆經多次改朝換代，但修建長城，一直被作爲必修項目保留下來。直到清朝時期，長城依舊在修建。所以，當所有王朝都在修建長城的時候，那兩個不主張修建長城的王朝，反而成了異類。
唐朝確切的說，唐朝並非完全沒有修建過長城。不過，那是在統一天下的時候，爲了抵禦住其他諸侯的進攻，這才下令修建了一條長城，用來發揮軍事要塞的作用。但到了唐朝統一後，就再也沒有修建過長城了。當年李世民也曾跟大臣討論過，是否應該修建長城。許多大臣也同意修建長城，因爲李世民統治時期的唐朝，邊境的禍患依然嚴重。突厥、高昌、吐谷渾、吐蕃、契丹、高麗，這些都是當時能直接威脅到唐朝邊疆安穩的隱患。
而修建長城，則是效法秦、漢時期的做法，抵禦邊患。但李世民卻沒有同意修建長城的看法。在李世民看來，修建長城是一個浩大的工程，需要耗盡大量的國力、民力。唐朝初年，國力仍然沒有真正恢復。相比較於隋煬帝時期，仍有不小差距。如果忽然使用了這麼大的財力去修建長城，很可能會造成國力枯竭，天下重新陷入混亂。而且，李世民認爲，與其躲在長城的另一邊被動的防禦，不如主動出擊。這樣一來，在戰爭時期，可以更好的打擊敵人。在和平時期，可以讓邊境跟唐朝互相融合。
在元朝時期，一個名爲馬可波羅的歐洲人曾遊歷過中國，並留下一本《馬可波羅遊記》，暢行歐洲。不過，在這本遊記中，並沒有留下關於長城的記載。從馬可波羅的遊記中可以推斷，當年他是由新疆開始，經過甘肅，走河西走廊，最後到達元大都。如果將馬可波羅的路線，與中國長城的遺蹟對比就會發現。這位歐洲人，至少有兩次可以看到長城。一次是在敦煌地區，一次在河套平原。如果馬可波羅沒有記載，只能說明一個問題。元朝對於過去的長城，並沒有重修，導致它們看起來只是一堆不起眼的廢墟。
