三国时，属吴国桂林郡地域；晋属广州桂林郡地域；南北朝时，属广州桂林郡地域；隋属扬州始安郡地域；北宋属广南西路邕州庆远府地域。
南宋时期，今县境平乐乡置有罗博州，是邕州下辖的48个羁縻州之一，境域包括今县境江洲、平乐、中亭、金牙、更沙乡及凌云县加尤乡、逻楼镇等地。这是今县境有行政建置之始。其余仍为蛮地，属庆远府下辖的东兰州（羁縻州）地域。
元代归属与南宋相同。隶庆远南丹溪洞等处军民安抚司。
明洪武十二年（1379年），安习、忠、文3个土州并入东兰土州为东兰州后，东兰州将州地划分为12个哨级行政建制，统称内六哨、外六哨，其中外六哨中的本农、凤山、芝山、长里等四哨部分地域，为今县境袍里乡、凤城镇、乔音乡、林峒乡、长洲乡、砦牙乡一带地域行政设置之始。今平乐、中亭、金牙、更沙四乡属泗城府（治今凌云县），今江洲乡属田州（治今田阳县）。
清朝初年，相沿明代建制归属不变。雍正八年（1730年），清朝对东兰土州实行改土归流，将州境一分为
二：以内六哨地设为东兰州，以外六哨地另置土分州，原称东兰土分州，后改称凤山土分州，为凤山县级行政建置之始，仍归东兰州承审，属庆远府管辖，境域包括今袍里乡、凤城镇、乔音乡、林峒乡、长洲乡、砦牙乡，今巴马瑶族自治县甲篆乡、西山乡、巴马镇、凤凰乡，今大化瑶族自治县北景乡那色村、京屯村、乙圩乡巴追村、巴岩村，今天峨县老鹏乡、八腊瑶族乡、纳直乡纳直、当里2村、芭暮乡甲岩村等一带地域。今更沙、金牙、中亭、平乐四乡仍属泗城府，江洲乡属百色厅。
民国初年，仍袭清制。
民国8年（1919年）5月，废土分州设县，隶属田南道。16年，田南道废，原道属各县直隶广西省，由省派任行政督察委员，监督县政。19年，广西独创民团制度，将全省设为12个民团区，凤山县隶百色民团区。23年3月，民团区改设为行政监督区，凤山隶百色行政监督区。24年，广西省府调整旧田南道属各县，割出老鹏乡归天峨县，割出盘阳、凤凰2乡归万冈县（今巴马瑶族自治县），另拨凌云县金牙、谋轩、平乐3乡及百色县相桥乡共4个乡来属，今县境由此定型，仍隶属百色行政监督区。29年4月，省政府将行政监督区改制为行政督察区，原百色行政监督区改称为“第十区行政督察专员兼保安司令公署”，凤山县隶第十区（百色）。31年3月，省政府将12 个行政督察区合并为7个区，原第十区改为第五区，凤山县隶第五区（百色）。38年6月，省从第五区划出东兰、凤山、万冈、乐业4县，从第十区划出天峨1县共5个县另置为第十二行政督察区，其“第十二区行政督察专员兼保安司令公署”设于凤山县城国民中学（今凤山中学），与凤山县政府相距约三四百米远。
1949年11月29日，凤山解放，1950年1月1日，凤山县人民政府正式成立，县级行政区划隶属广西省百色专区。
1952年12月，隶属广西省桂西壮族自治区百色专区。
1956年3月，隶属广西省桂西僮族自治州百色地区。
1957年12月，隶属广西省百色专区。
1958年3月，隶属广西僮族自治区百色专区。
1965年8月，改隶广西僮族自治区（1965年10月更名为广西壮族自治区）河池专区。
1971年3月，隶广西壮族自治区河池地区。2002年6月，隶属广西壮族自治区河池市（地级）。
