山西考古博物馆为国家二级博物馆，直属于山西省文物局。山西考古博物馆前身是原山西省博物馆，历史悠久，从民国初年1919年阎锡山在文庙成立山西省教育图书博物馆开始，文庙就成为省城太原乃至全省围绕文物博物开展文化活动的重要文化集散地。太原文庙从民国至今经历了数次沿革：1925年更名为山西公立图书馆，附设博物馆；1933年更名为山西民众教育馆，1937年和1940年先后更名为太原博物馆和山西省立新民教育馆，1945年恢复为山西民众教育馆；1949年太原解放后，在文庙成立山西图书博物馆，1953年山西图书博物馆与位于纯阳宫的太原市人民文物馆合并，始称山西省博物馆；2003年，根据山西省博物馆事业发展和新馆建设的需要，在文庙成立省民俗馆。2020年4月，根据省文物局直属事业单位改革，山西省民俗博物馆与山西省考古研究所合并，更名为山西省考古研究院（山西考古博物馆）。山西考古博物馆以考古出土文物收藏、保护、研究、展示和利用工作为主，同时兼顾太原文庙保护利用工作等。