隋开皇九年（589），改南康郡为虔州，崇义隶虔州。唐朝，属南康县和大庾县地，隶属虔州。五代末期，属南康县、大庾县、上犹县地，隶昭信军。宋朝隶南安军。元朝，属南康、大庾(yǔ)”、上犹县地，隶南安路。
明正德十二年（1517），析上犹县的崇义、上堡、雁湖3里，南康县的隆平、尚德2里及大庾县的义安、聂都、铅厂3里，置崇义县，隶南安府。清朝，隶南安府。清初沿旧，清康熙二十二年（1683）分乡、里。
民国元年（1912），废府。三年（1914），崇义属赣南道。15年（1926），废道，县直隶于省。21年（1932年）全省分为13个行政区，崇义属第十一行政区。24年（1935年），崇义属第四行政区。
第二次国内革命战争时期，崇义是湘赣革命根据地的一部分。
1931年3月，成立崇义县革命委员会，1931年5月，建立崇义县苏维埃政府，先后隶于江西省和湘赣省苏维埃政府。
1949年8月20日，崇义解放。同时成立崇义县人民政府，隶赣州分区。
1950年7月，属赣西南行政区。
1951年6月，属赣州专区。
1954年6月，属赣南行政区。
1964年，属赣州专区。
1999年7月1日赣州撤地设市，崇义隶属赣州市。
