1983年起，历任天津市政府副秘书长，天津市纺织工业局局长、党委书记，天津市计委主任。

1991年起任天津市副市长、市委副书记、常务副市长、市政府党组副书记、市长、市政府党组书记。

2002年12月起任国家经济贸易委员会党组副书记、副主任。

2003年3月起任国家发展和改革委员会党组成员、副主任。

2005年7月起任国家发展和改革委员会党组副书记、副主任。

2005年12月起任交通部党组书记、部长。

2008年3月任交通运输部党组书记、部长。

2012年8月1日，不再担任交通运输部党组书记。

2012年8月31日闭幕的全国人大常委会会议经表决决定免去李盛霖的交通运输部部长职务，任命杨传堂为交通运输部部长。