西汉初年，匈奴人入侵河西，两次挫败月氏，迫使月氏人西迁徙于两河流域（锡尔河、阿姆河）。整个河西走廊为匈奴领地。强盛的匈奴以“控弦之士三十余万”的威势，对西汉王朝构成了严重威协，并且经常骚扰掠夺。雄才大略的汉武帝继位后，采取武力防御和主动进攻两者兼用的战略，于建元二年（前138年），首次派遣张骞出使西域，联络月氏、乌孙夹击匈奴。元狩二年（前121年），汉王朝决定断敌右臂，张我左掖，进发河西走廊。同年春，派骠骑将军霍去病统率万骑从陇西出塞，进军河西，大获全胜。不仅生擒了浑邪王的儿子、柏国，还缴获了匈奴的“祭天金人”，给河西的匈奴势力以沉重的打击。汉武帝把这一战利品放置在甘泉宫”（陕西凤翔）加以供养礼拜。莫高窟第323窟北壁绘有此段故事。这年夏天，霍去病亲率骑兵涉过居延水，直冲祁连山，斩杀敌兵3万余人，使河西的匈奴势力受到毁灭性打击，其间，匈奴统治集团发生内讧，浑邪王杀死休屠王，携其部4万余人投降汉朝。汉元鼎二年（前115年），张骞二次出使西域，顺利地从乌孙凯旋而归。从此，开通了通往西域的丝绸之路。张骞“凿空”之行，是中西交通史上的创举，为促进中外以及中原同西域各民族之间的经济文化交流，建立了不朽的历史功绩。
为了彻底断绝匈奴与西羌的通路和联系，捍卫边关和丝绸之路的安全，汉武帝于元狩二年(前121年)，在河西设置了酒泉郡和武威郡。并采用设防、屯垦、移民等措施，不断充实、加强建设河西。汉元鼎六年（前111年），又将酒泉、武威二郡分别拆置敦煌、张掖两郡。又从令居（今永登）经敦煌直至盐泽（今罗布泊）修筑了长城和烽燧，并设置了阳关、玉门关，史称“列四郡，据两关”，保证了丝绸之路的畅通。从此，中国的丝绸及先进技术源源不断地传播到中亚，西亚和欧洲。欧洲、地中海沿岸和西域的玉器、玛瑙、奇禽异兽、农作物等长途转运到中原。各国使臣、将士、商贾、僧侣往来不绝，都要经过丝路要道敦煌。敦煌成为中西交通的“咽喉锁钥”。当时的敦煌疆域辽阔，统管六县。西至龙勒阳关，东到渊泉（今玉门市以西），北达伊吾（今哈密市），南连西羌（今青海柴达木）。敦煌建郡之后，为西汉王朝经营西域打下了坚实的基础。如贰师将军李广利伐大宛国，获汗血马；赵破奴击姑师国俘获楼兰王，都是以敦煌为粮草、兵马供应基地而一举获胜的。
东汉初年，匈奴又逐渐强盛，征服了曾是西汉管辖的大部分西域地区，丝绸之路被迫中断。公元75年，东汉王朝出兵四路进击北匈奴，凉州牧窦固率河西兵大败匈奴，收复了伊吾等失地，重新打开通向西域的门户。同时派遣名将班超两度出使西域，杀死匈奴使节，联络西域诸国与东汉建立了友好关系，使断绝65年的丝绸之路重新畅通。
自西汉设郡到西晋末的数百年间，丝绸之路虽几通几绝，但敦煌日渐呈现出繁荣昌盛的景象，也逐步发展成为西北军政中心和文化商业重地，成为“华戎所交大都会”。在此期间，敦煌文化发达，名士济济，人才辈出：有骁勇善战的征边名将张奂，有深明大义的朝臣盖勋，有才学出众的大文学家侯瑾，有勤奋好学、人称“草圣”、“亚圣”的著名兄弟书法家张芝、张昶等。
