内蒙古通辽人。1975年11月加入中国共产党。1983年3月起，在自治区纪委先后任秘书、秘书长、常委、自治区政府副秘书长兼办公厅主任、政府党组成员，秘书长兼办公厅党组书记。1996年11月，任包头市委副书记、市长。2003年4月，任自治区党委常委、呼和浩特市委书记。2004年8月14日病逝。
作为市委书记，牛玉儒深知要想使人们生活得更好，首先就要使这座城市有一个坚实的经济基础。
牛书记的为官和为人，值得我们给他叩首——300名出租司机的心声
牛玉儒这个人，从不想着给自己留余地，他总是自加压力，负重前行，无私所以无畏。”
