肇東有一段美麗的傳說。在很早以前，有一個拉駱駝的南方人走到這裡，他走南闖北，獨具慧眼，認為這裡是一塊風水寶地。於是每到夏季，他都帶上行李和吃糧來這裡尋寶。有一天，他發現一棵很大的草，根部有鋤杆那麼粗，於是將其當作寶物帶走了。訊息傳開後，周圍的人都聞訊而來，但是誰也沒有挖到大草，而只挖到一些細小的草。因為這些小草根部味道甘甜，故得名為甜甘草，於是人們將此地稱之為甜草崗，也就是肇東。
肇東開發於遼、金時代，始建於1735年。清代，系郭爾羅斯後旗遊牧地。清光緒年間出放蒙荒，墾民漸稠。1906年2月1日，黑龍江將軍奏準，設定肇州廳的同時，於昌五城設肇東分防經歷。翌年委任官員，至1908年肇東分防經歷正式到任。
