汉宣帝神爵(公元前61-公元前58)中，郑吉率渠黎、龟兹五万人迎匈奴日逐王降汉，为安置众多的龟兹国移民，朝廷征伐了数万民众在上郡凿石开山。
上郡位于长安北部，是三辅区域的一部分，这个区域包括京兆尹、左冯翊和右扶风三个部分。其地理位置大致位于今天的陕西榆林南鱼柯堡附近。
成语“虚张声势”的故事就发生在上郡，讲的是当时上郡太守李广与匈奴骑兵的一次遭遇战。
