刘玉，字咸栗，万安人。祖广衡，永乐末进士。正统间，以刑部郎中出修浙江荒政，积粟数百万，督治陂塘为旱涝备。景泰初，历左副都御史，镇守陕西。请遇灾伤，毋俟勘报，即除其赋，庶有司不得借覆核阴行科率，从之。还治院事。福建、浙江盗起，命往督兵捕。议创寿宁县于官台山，以清盗窟。讨平处州贼。已，复巡抚辽东。居官以廉节称。终刑部尚书。父乔，成化初进士。累官湖广左布政使。玉登弘治九年进士，授辉县知县。发粟振饥，奏蠲虚税，复业者千家。擢御史。初，孙伯坚、金琦、王宁皆以传奉得官，已，又以指挥胡震为都指挥，分守通州。玉抗疏言：“传奉不已，继之内批，累圣德，乞皆罢之。”不纳。
武宗即位，甫四月，灾异迭见，玉陈修省六事。出按京畿，中官吴忠奉命选后妃，肆贪虐。玉奏。不问。刘健、谢迁罢，玉驰疏言：“刘瑾等佞幸小臣，巧戏弄，投陛下一笑。顾谗邪而弃辅臣，此乱危所自起。况今白虹贯曰，彗见紫微宫，星摇天王之位。民穷财殚，所在空虚，陛下不改图，天下将殆。乞置瑾等于理，仍留健、迁辅政。”不报。玉遂引疾归。后瑾榜玉奸党，复诬构之。罚输粟塞下者三，最后逮系诏狱，削籍放归。瑾诛，起河南佥事，迁福建副使，皆董学政。正德十五年，累擢南京右佥都御史，提督江防。宸濠反，攻安庆，玉以舟师赴援。事定，改抚郧阳。
世宗即位，召为左佥都御史。论遏乱功，进右副都御史。嘉靖元年改左。历刑部左、右侍郎。初，偕九卿争兴献帝不宜称皇，及帝欲考献帝，又偕廷臣伏阙哭争。六年秋坐李福达狱削籍，卒于家。
玉所居仅庇风雨。天文、地理、兵制、刑律皆有论著。隆庆初，赠刑部尚书，谥端毅。
子悫，南京工部右侍郎。历官亦有声。
