当秦始皇吞并六国、大行“包举宇内”之志时，其宿敌匈奴正纵横于北方辽阔的草原上。早在战国时，匈奴铁骑不断劫掠内地，地处北方的赵、燕、秦三国深受其害，遂各筑长城防御。秦统一天下后，利用三国故长城，连为一体，西展至临洮，东延至辽东，筑成万余里的土石防御工程，其主观意图是用来防御北方游牧民族的内侵，但长城对中国历史发展的影响，已远远地超出了单纯的军事用途。
长城外，从西北，经北部，到东北的西部，简称“三北”，是广袤万里的草原地带，由游牧民族占据。长城之设，反映了中国古代农耕民族同游牧民族的分隔，于是在古人的认识中，就形成了“内外”这样一个新的政治地理概念。正如《后汉书》所说：“天设山河，秦筑长城……所以别内外，异殊俗也。”秦修筑的长城，同自然界的山河一样，是区分内外民族与文化的分界线。此后历代官方乃至民间所说的“内外”，概以长城为界。
长城之设，逐渐引起人们“中国”观念的重大变革。早在西周时已使用“中国”这个称谓，但它与当代以中国为国名完全不同。西周所称“中国”，是指西周王室居于众部族及诸侯的中心地域，即“天下中心之国”，后推而广之，凡遵奉周礼的诸侯国，统称为“中国”，这里既包含血缘亲族，又包含不同地域的非血缘的政治文化同一体，但最根本的内涵，还是以文化异同来加以区分的。秦并六国，废分封，置郡县，全国统于中央，不分地域，不分文化异同，凡属郡县辖境，均在“中国”的疆域之内。长城的出现，改写了“中国”政治地理及国家疆域的旧概念，将所辖北方疆域一直推进至长城脚下，这意味着秦代“中国”已突破此前的狭小范围，其地域空前扩大，人们对“中国”的认识也逐渐放大。《汉书·西域传上》写道：“秦始皇攘却戎狄，筑长城，界中国。”这段话，生动地概括了长城修筑后人们对“中国”的新认识。“界中国”，就是长城“为中国之竟(境)界也”，即指华夏民族与长城外游牧、渔猎民族地区的分界线，而并非国界。
历代修长城，“大一统”受阻
秦始皇统一中国，开创了中国“大一统”的崭新局面，这是商周以来划时代的伟大变革。“大一统”指以一统为大，原为儒家的政治主张，孔子着《春秋》，意在尊崇周王，反对国家分裂，维系全国一个政权、一个统治者，这就是“大一统”的本义。秦修长城，就把“大一统”扩展到长城脚下。汉以后历代能否突破秦的局限，将“大一统”发展和扩大到长城外，关键取决于能否真正统一长城外“三北”地区的诸游牧民族。历代王朝所称“外患”“边患”，几乎无例外的来自这里，二十四史中留下了难以计数的记录。
自秦至清初，上下两千余年间，生息在“三北”地区的游牧民族与渔猎民族十分活跃，例如匈奴、乌桓、鲜卑、氐、羌、党项、回纥、高句丽、突厥、蒙古、契丹、女真、满洲等，都在不同历史时期，频频进攻中原，构成对中央王朝的长久威胁。因此，历代王朝承袭秦制，反复修筑长城，以其为国家安全之保障。比较各代修长城，又以明朝为最。自明太祖洪武十四年(1381)筑山海关，迄至崇祯帝亡国前，明持续修筑长城，长达250余年。工程之浩大，修筑之完备，长城之绵长，都创中国历史之最。
历代修长城，并没有从根本上消除“边患”，挡不住游牧民族的铁骑奔驰，却严重阻碍国家“大一统”的进一步发展。把“三北”少数民族限隔在长城外，不能真正行使国家管辖权，只满足于定期朝贡，实际上只是维持表面的统一，当中央王朝衰弱，或者某一游牧民族变得强大时，原先那种松散的政治隶属关系就会被打破，冲突或战争就不可避免。
清以前，历代没有从根本上解决“三北”的民族问题，其“大一统”一直徘徊在长城一线。
康熙帝废长城，“天下一家”
清以前历代王朝的国家“大一统”，表面上是为长城所阻，实际上是传统、狭隘的民族观念制约着人们的思想。这种由区分“内中国外夷狄”到“天下一家”的破局，是从清朝的康熙帝开始的。
国的统一始告完成。清朝的“大一统”能否巩固，尤其是能否进一步发展，同历代一样，关键取决于“三北”游牧民族的动向和清朝所采取的政策，其中如何看待长城又是一大关键。
康熙二十八年(1689)，清朝与沙俄签订《尼布楚条约》，划定中俄东段边界，“三北”之一的东北趋于安定。二十九年，以噶尔丹为首的准噶尔割据势力公然发动战争，侵夺内外蒙古，直接威胁京师。康熙帝毅然决策征伐，很快就阻挡住了噶尔丹的攻势。次年，康熙帝率诸王、贝勒、大臣前往多伦诺尔(今内蒙古多伦)，约集内外蒙古来此“会盟”，定疆界，制法律，为外蒙的喀尔喀蒙古诸部编制盟旗，使其接受清朝的管辖，从而实现了北部乃至西北的空前统一。蒙古问题宣告解决。
就在这次“会盟”之后，有大臣看到长城年久失修，建议拨款修理。康熙帝继承皇太极、顺治帝提出的“满汉一家”的民族思想，进而又发展成为“中外一视”“天下一家”的“大一统”思想，发现长城的存在不利于国家的统一，尤其不利于与“三北”游牧民族的政治一体化，于是否定了修长城的建议，并说出了一段意义深远的话：
“秦筑长城以来，汉、唐、宋亦常修理，其时岂无边患？明末，我太祖统大兵长驱直入，诸路瓦解，皆莫敢当。可见守国之道，惟在修法养民，民心悦，则邦本得，而边境自固，所谓众志成城者也。”(《清圣祖实录》)
