1960年农业机械工业部决定组建畜牧机械、水稻机械、山地机械等六个科研院所。当年9月3日农机部“农机干徐字第77号”文件要求在内蒙古自治区建立畜牧机械科研机构,建议将正在筹建中的内蒙古农牧业机械研究所改建为畜牧机械研究所,由农机部和内蒙古自治区双重领导,以地方为主。经请示内蒙古自治区人民委员会副主席高增培,自治区农牧业机械厅和经委于9月10日电复农机部表示同意,内蒙古畜牧机械研究所(以下简称牧机所)正式成立。成立之初,牧机所先后隶属内蒙古农牧业机械厅和重工业厅,所址在呼和浩特市新城东街6号。
1962年9月,第八机械工业部以(62)技研字第54号、内蒙古自治区计委以(62)计基阿字第941号文件批复,同意牧机所建设投资200万元,编制200人。
1964年11月牧机所第一期建设任务竣工,完成固定资产200万元,实有职工126人,其中工程技术人员96人,并由原址迁入现址。搬迁时冶金研究室由牧机所分出,成立内蒙古自治区冶金研究所。
1965年11月,内蒙古自治区人民委员会决定将内蒙古农业机械化研究所(同时挂内蒙古农牧业机械试验鉴定站牌子)并入内蒙古畜牧机械研究所,更名为内蒙古农牧业机械化研究所,隶属关系由自治区重工业厅调整为自治区农牧业机械管理局。当时全所职工l78人,其中工程技术人员115人。
1968年3月成立牧机所革命委员会,隶属于自治区革命委员会生产建设指挥部领导。
1971年,内蒙古自治区重新组建厅局,牧机所划归自治区机械工业厅领导,全所职工l55人,其中工程技术人员72人。
1974年第一机械工业部农机局在天津市召开“农机科研座谈会”,重新确定牧机所为全国畜牧机械科研的“牵头抓总”单位。
1978年6月2日,内蒙古自治区编制委员会批复([78]内编发11号),所名恢复为内蒙古畜牧机械研究所,实有职工286人,其中工程技术人员l21人,由第一机械工业部和内蒙古自治区机械工业局双重领导。
1979年3月国务院批准国家科委、农业机械部《关于调整内蒙古自治区畜牧机械研究所的管理体制的报告》([79]国科发技字第l92号、农机生联字第33号),将牧机所隶属关系调整为农业机械部与内蒙古自治区双重领导,以农业机械部为 主。当年全所职工273人,其中工程技术人员l04人。同时,为保证自治区农机科研工作,从牧机所分出部分人员恢复了内蒙古农牧业机械化研究所。1980年6月,经自治区政府同意,在牧机所民用机械研究室的基础上扩建为内蒙古机电研究所,从牧机所分出。
1981年9月,农业机械部批复了《畜牧机械研究所l981-1985年发展规划》,随后机械工业部对《畜牧机械研究所六五扩建初步设计任务书》进行了批复([82]机农字第908号),牧机所开始进行第二期基本建设,总投资700万元。
机械工业部于l982年11月27日以(82)机办字第l053号文通知牧机所定名为“机械工业部呼和浩特畜牧机械研究所”,隶属于机械工业部。年底实有职工312人,其中科技人员l29人。
1984年7月,国家科委(84)国科发管字489号文件批复,同意将内蒙古呼伦贝尔盟畜牧机械试验站(原名呼盟农牧机械研究所)划归牧机所领导,更名为机械工业部呼和浩特畜牧机械研究所海拉尔试验站。年底全所职工468人(海拉尔试验站79人),其中工程技术人员260人(海拉尔试验站52人)。同年9月,中共机械工业部党组(84)机党函字214号文件批准牧机所为地专级单位。
1998年12月7日,根据国家机械工业局《关于同意中国农业机械化科学研究院与呼和浩特畜牧机械研究所合并的通知》(国机改[1998]568号),牧机所并入中国农业机械化科学研究院。
2000年1 月7日,国家经济贸易委员会和国家科学技术部《关于印发调整国家经贸委管理的10个国家局所属部分科研机构转制方案的通知》(国经贸技术[2000]16号)明确牧机所进入中国农业机械化科学研究院,一同转制为中央直属科技型企业。同年7月,牧机所正式在内蒙古自治区工商行政管理局登记注册,定名为中国农业机械化科学研究院呼和浩特分院。
2001年12月10日,内蒙古自治区科技厅以内科发计字[2001]38号文件批复,同意依托我院组建“内蒙古自治区畜牧业装备工程技术研究中心”。
2004年1月6日,内蒙古自治区科技厅以内科发计字[2004]2号文件批复,同意依托我院组建“内蒙古自治区新能源工程技术研究中心”。
2005年12月19日,国家科学技术部以国科发计字[2005]503号文件批复,同意依托我院组建“国家草原畜牧业装备工程技术研究中心”。
2009年,国家发展与改革委员会批准,依托我院组建“国家地方联合太阳能干燥技术工程实验室”。
2017年,我院完成公司制改革,正式更名为“中国农业机械化科学研究院呼和浩特分院有限公司”。