Sau năm 1975, Phú Thượng là một xã thuộc huyện Võ Nhai.
Ngày 25 tháng 10 năm 1990, thành lập thị trấn Đình Cả trên cơ sở một phần diện tích và dân số của xã Phú Thượng.
Đến năm 2019, xã Phú Thượng được chia thành 11 xóm: Mỏ Gà, Phượng Hoàng, Đồng Mó, Nà Pheo, Na Phài, Nà Kháo, Suối Cạn, Cao Lầm, Làng Phật, Ba Nhất, Cao Biền.
Ngày 11 tháng 12 năm 2019, sáp nhập hai xóm Đồng Mó và Nà Pheo thành xóm Đồng Mới.