貴霜帝國由大月氏（dàyuezhī）五翕侯之一貴霜翕侯部落建立。
公元前5世紀到公元前2世紀初，月氏人遊牧於河西走廊西部張掖至敦煌一帶，勢力強大，為匈奴勁敵。約在漢武帝元朔元年（公元前128年）漢使張騫至其國，以後往來漸密。國內分為休密、雙靡、貴霜、肸頓、高附五翕侯。
公元前177年前不久，月氏擊破敦煌附近另一個小遊牧部落烏孫，殺其王難兜靡，奪其地，難兜靡子獵驕靡初生，其部落逃奔匈奴。公元前170年左右被匈奴擊敗，西遷中亞阿姆河流域。
公元前125年征服巴克特利亞（由古希臘人在中亞建立的國家），統治整個阿姆河、錫爾河流域，大月氏部族一分為五，遷往東部山區，設五部翕侯統治，貴霜是其中一部。
公元1世紀中葉貴霜部翕侯丘就卻統一五部，建立貴霜帝國。丘就卻又南下攻擊喀布林河流域和今喀什米爾地區，後定都為高附（今阿富汗的喀布林），初步奠定了帝國的基礎。
