河南舞钢人，毕业于前苏联炮兵军事工程学院，是一名导弹专家，上将军衔。他曾长期在总参谋部装备部门任职，1992年晋升副总参谋长，1994年晋升第一副总参谋长，1996年调任主管国家军事工业的国防科学技术工业委员会主任，1998年进入中华人民共和国中央军事委员会并任新成立的总装备部部长。2002年中共十六大上被选为中共中央政治局委员、中共中央军委副主席。2003年出任国防部长兼中华人民共和国中央军事委员会副主席。2007年中共十七大不再入选中央委员会。2008年在第十一届全国人民代表大会上卸任中华人民共和国国防部部长、中华人民共和国中央军事委员会副主席职务。

1954年7月参加中国人民解放军。

1954年至1956年在解放军南京第三炮兵军械技术学校、第一军械技术学校学习。

1956年7月加入中国共产党。

1956年任第一军械技术学校教员。

1956年至1957年在大连俄语专科学校学习。

1957年至1963年在苏联炮兵军事工程学院学习。

1963年至1969年任总后勤部军械部弹药处助理员。

1969年至1975年任总后勤部装备部兵工处助理员。

1975年至1979年任总参谋部装备部综合计划处参谋。

1979年至1982年任总参谋部装备部综合计划处副处长。

1982年至1989年任总参谋部装备部副部长。

1988年9月被授予少将军衔。

1989年至1990年任总参谋部军务部部长（其间：1990年在国防大学高级干部哲学轮训班学习）。

1990年至1992年任军委军品贸易办公室主任。

1992年至1994年解放军副总参谋长。

1993年7月晋升为中将军衔。

1994年至1996年任解放军第一副总参谋长、总参党委副书记。

1996年至1998年任国防科学技术工业委员会主任、党委书记。

1998年3月晋升为上将军衔。

1998年4月任解放军总装备部部长、党委书记。

1998年11月任中央军委委员、解放军总装备部部长、党委书记。

2002年11月任中共中央政治局委员、中央军事委员会副主席。

2003年3月任中共中央政治局委员、中央军事委员会副主席、国务委员兼国防部部长。

曾任中共第十五届、十六届中央委员，第十六届中央政治局委员以及第十届国务委员。