1573年,出生于远江国的浜松城(今静冈县浜松市)他是水野信元三男。家康对正室筑山殿冷淡,而且利胜年幼获许跟随家康进行猎鹰(土井家不是三河国的谱代)。
1576年(天正4年)信元因怀疑与武田氏互通消息而被处死。利胜成为了土井利昌的养子。7岁时与年纪相近的安藤重信及青山忠成跟随德川秀忠,役料收入为200表。
1600年,参与关原合战,跟随德川秀忠攻击真田家上田城。
因攻城问题浪费不少时间,未能赶及参与关原的战役,战后获得武藏国500石领地。1601年就任徒头,1602年成为了1万石小见川藩大名。
1604年(庆长9年),负责处理李氏朝鲜正使吕祐吉访日本事务。1605年(庆长)4月,德川秀忠上洛从后阳成天皇就任征夷大将军,而随行的利胜亦在4月29日就任从五位下大炊头,以后成为了秀忠的左右手。
1608年,成功处理日莲宗及净土宗的争执。
161月,被转封至拥有3万2千石领地的佐仓藩。同年10月,接替病逝的本多忠胜担任幕府老中。
16加封4万5千石。
16至16,参加大坂之战,跟随德川秀忠后动,当大野治长猛攻后进行反攻,利胜取得98个首级。战后加封6万2千5百石,与青山忠俊及酒井忠世保护德川家康。战后,加封领地6万2千5百石。
16(元和2年)以秀忠名义制订武家诸法度及一国一城令,告知众大名战国时代已经完结。德川家康死后葬在久能山的葬礼由利胜负责所有一切事务。
16(元和9年),秀忠让位给家光,幕后掌政,利胜与青山忠俊及酒井忠世协助家光,继续发挥他的政治手腕。1625年加封14万石。
1625年,加封领地14万石。
1633年,加封古河藩16万石领地。
1637年,因病提出辞去老中,德川家光劝留未果。
1638年,辞去老中,转任大老。1644年,病逝,享年72岁。葬于今东京都港区的增上寺,今茨城县古河市大手町的正定寺存有遗像,法号稳誉泰翁觉玄宝地院。