1573年，出生於遠江國的浜鬆城(今靜岡縣浜鬆市)他是水野信元三男。家康對正室築山殿冷淡，而且利勝年幼獲許跟隨家康進行獵鷹(土井家不是三河國的譜代)。
1576年(天正4年)信元因懷疑與武田氏互通消息而被處死。利勝成爲了土井利昌的養子。7歲時與年紀相近的安藤重信及青山忠成跟隨德川秀忠，役料收入爲200表。
1600年，參與關原合戰，跟隨德川秀忠攻擊真田家上田城。
因攻城問題浪費不少時間，未能趕及參與關原的戰役，戰後獲得武藏國500石領地。1601年就任徒頭，1602年成爲了1萬石小見川藩大名。
1604年(慶長9年)，負責處理李氏朝鮮正使呂祐吉訪日本事務。1605年(慶長10年)4月，德川秀忠上洛從後陽成天皇就任徵夷大將軍，而隨行的利勝亦在4月29日就任從五位下大炊頭，以後成爲了秀忠的左右手。
1608年，成功處理日蓮宗及淨土宗的爭執。
1610年1月，被轉封至擁有3萬2千石領地的佐倉藩。同年10月，接替病逝的本多忠勝擔任幕府老中。
1612年加封4萬5千石。
1614年至1615年，參加大阪之戰，跟隨德川秀忠後動，當大野治長猛攻後進行反攻，利勝取得98個首級。戰後加封6萬2千5百石，與青山忠俊及酒井忠世保護德川家康。戰後，加封領地6萬2千5百石。
1616年(元和2年)以秀忠名義制訂武家諸法度及一國一城令，告知衆大名戰國時代已經完結。德川家康死後葬在久能山的葬禮由利勝負責所有一切事務。
1623年(元和9年)，秀忠讓位給家光，幕後掌政，利勝與青山忠俊及酒井忠世協助家光，繼續發揮他的政治手腕。1625年加封14萬石。
1625年，加封領地14萬石。
1633年，加封古河藩16萬石領地。
1637年，因病提出辭去老中，德川家光勸留未果。
1638年，辭去老中，轉任大老。1644年，病逝，享年72歲。葬於今東京都港區的增上寺，今茨城縣古河市大手町的正定寺存有遺像，法號穩譽泰翁覺玄寶地院。
