始建于1985年，是全省首批建立的市级博物馆之一。属地方综合性博物馆，是全市文物与自然标本的主要收藏、宣传、教育和科研机构，同时担负着全市文物保护、管理和抢救性发掘工作。坐落在洞山中路15号的新馆已初步建成，建筑面积9812平方米，近期内将完成续建工作。

淮南市博物馆收藏有从新石器时代至明清时期的历代文物，重要藏品有商、周以来的青铜礼器，其中包括春秋晚期蔡昭侯墓、蔡声侯墓、战国楚幽王墓出土的等历代珍贵文物2000余件和经考古发掘的隋、唐寿州窑瓷器标本1万余件，以蔡、楚遗物和寿州窑瓷器最具地方特色。建馆以来先后举办了《从猿到人》、《淮南出土文物陈列》、《红岩魂》等展览，目前，正积极筹划新馆的文物陈列。

淮南市地上地下蕴藏着十分丰富的文物资源，已查明文物点265处，其中全国重点文物保护单位1处；全省重点文物保护单位5处；全市重点文物保护单位13处。建国以来配合基本建设抢救性发掘了大量古代墓葬和遗址，有效地保护了地下文物。