学院前身为衡阳市冶金技工学校和衡阳市有色冶金职工大学，分别成立于1954年和1975年，2000年两校合并组建职业技术院。2006年学院原主办单位，国家大型企业衡阳有色冶金机械总厂经改制并入中国中钢集团后，成立了中钢集团衡阳重机有限公司，学院也随即更名为中钢集团衡阳重机职业技术学院，内设职工大学和技工学校。是一所集大专、中专、高技、中技为一体的正规全日制学院。