我院始建于1963年1月，名为“泰安县中医院”，是山东省建院最早的中医医院之一，泰安市第一所中医院，山东中医药大学教学医院。医院占地面积1.1万平方米、建筑面积2.1万平方米;在职职工520名(其中卫生技术人员464人，硕士研究生44人，副高级以上职称专家44人);编制床位199张，开放床位240张。2012年门诊量22万人次、出院病人1万人次、各类手术1600例。设有临床医技科室27个，其中中风病科和骨伤科是省级重点专科，儿科是省级和市级重点中医专科建设单位，内一病区是市级重点中医专科。配有核磁共振、螺旋CT、DR计算机放射成像系统、椎间孔镜系统等大型医疗器械设备，资产总额已达7876万元。是一所集医疗、教学、科研、预防保健于一体的现代化新型中医院。

1985年，因泰安撤地建市，我院下放到泰山区，更名为“泰安市中医二院”，使用至今。1994年被评定为国家二级甲等医院，是山东省示范中医院。

建院之时，医院汇集了一批知名的名老中医药专家，其中最具代表性的有：内科专家王逢寅、陈庚吉、吕学泰、韩培信、陈友栋，泰安王氏正骨王逢谦及其传人王文正等。后又先后有国务院政府特殊津贴获得者、省级名老中医药专家李心正，国家级名老中医专家带徒老师韩子江，省级名老中医药专家苗香圃等。他们无私奉献、著书立作，先后主编、出版了《吕学泰医论精粹》、《妇科病治验》等中医临床经验书籍30余部，为中医药学术代代传承打下了坚实的基础，是中医二院宝贵的精神财富。

建院之初，医院就成为山东中医药大学教学医院，后又成为山东中医药高等专科学校、泰山护理职业学院教学医院，为医疗卫生事业的发展培养了大批人才。省政协副主席王新陆、原山东省中医管理局于淑芳局长等领导和专家先后在我院实习过。建院以来，先后培养各类临床实习人员3000多人。同时，我院还承担着辖区内各乡镇卫生院(站)、社区卫生服务中心的乡医培训和进修实习工作，先后举办乡医培训班多期，并选拔优秀社区医生，开展社区中医带徒工作，有效提升了基层中医药服务水平，为泰山区成功创建为全国中医工作先进区和全国中医药特色社区卫生服务示范区做出了积极贡献。