西汉沿袭秦郡县制,其地仍为雁门郡、代郡之地。雁门郡属并州刺史部。治所善无,共辖14县:善无、沃阳、繁峙、中陵、阴馆、楼烦、武州、汪陶、剧阳、崞、埒、马邑、疆阴、平城,平城为东部都尉治。代郡属幽州刺史部,治所桑干,共辖18县,在今大同境内者10县:道人、高柳、班氏、示氏、平舒、延陵、灵丘、且如、平邑、参合。
东汉各州置州牧,后改州牧为刺史。其地为雁门、代郡之地。雁门郡属并州刺史部,治阴馆,属县十四,今大同市境内有四县:繁峙、武州、崞、平城。代郡属幽州刺史部,治高柳,属县十一,在今大同市境内有六县:高柳、道人、班氏、示氏、北平邑、平舒。建武中,卢芳之乱,沿边八部并废,徙雁门、代郡之民于常山关、居庸关东。建武二十七年(51)复置郡,自善无移雁门郡治阴馆,县仍属。其代郡治高柳。“建安中省云中、定襄五郡,立新兴郡于太原界,郡为一县隶之,而别置平城县于勾注陉南,往属焉。”汉末天下大乱,陉北之地弃为荒徼。建安二十年(215)曹操讨伐乌桓,平定代地。安集北边郡县之民,在今代县东五里置平城县,属冀州新兴郡。黄初元年(220)复置并州,平城属并州雁门郡。无论属冀州新兴郡的平城,还是并州雁门郡的平城,均为同名异地,非今大同。
三国时,其地为乌桓、鲜卑所据。
汉明帝时(58—75)在平城建通光寺,为大同最早的佛寺。
晋大同北部为鲜卑族领地,南部为雁门郡地,其时郡已迁至广武,属县有:广武、崞、汪陶、平城、俊人、繁峙、原平、马邑。永嘉四年(310)晋并州牧刘琨,以拓跋猗卢有救援之功,上书晋怀帝,请封鲜卑拓跋猗卢为代公。建兴元年(313)拓跋猗卢定盛乐为北都,修秦汉故平城为南都,平城复还故治,属代国。
北魏拓跋珪于公元398年自盛乐迁都平城,改号皇帝,改元天兴,并置司州、代尹,治代都平城。徙六州二十二郡守宰、豪杰、吏民三千家于代郡。“营宫室,建宗庙,立社稷”,进行一系列大规模的首都建设。次月“诏有司正封畿,制郊甸”,划定京畿范围:“东至代郡,西至善无,南及阴馆,北尽参合。郊甸范围:东至上谷军都关,西至河(黄河),南至中山隘门塞,北至五原,地方千里。”又设四方四维,置八部帅统兵镇守。
