在玄武門之變之前，李世民是沒有下定決心除掉李建成和李元吉的，而秦王府的地位卻岌岌可危，李淵有意的削弱秦王李世民的勢力，不但調走了房玄齡和杜如晦，且令他們不得與秦王有任何聯繫。
李淵又借李元吉出征之即，調尉遲敬德入李元吉帳下聽徵，從文、武方面都對李世民進行限制和削弱，李淵的考慮當時是爲了鞏固太子的地位，他深知李世民對太子的威脅和對權力的覬覦。
而李世民從一開始是沒有下定決心做出弒兄逼父的抉擇的，玄武門之變前一天晚上還在猶豫是否去參加李元吉的出征儀式，當晚是尉遲敬德來到秦王府，對李世民呈明利害，讓李世民痛下了殺兄決心。
其中尉遲敬德有句比較著名的話：秦王，你如果再不有所作爲，起兵謀劃，我和長孫無忌只有今晚就逃命去了。李世民這才意識到問題的嚴重性和自己的地位、性命危機，他立刻招回房玄齡和杜如晦進行商量，謀劃。據說房、杜二人也是尉遲敬德拿刀“請來”的。
拋開尉遲敬德隨秦王東征西討、陣前救駕那些事不說，單在“玄武門之變”中他就立了奇功兩件。
一是射殺李建成，太子派羣龍無首，逐漸放棄抵抗，太子心腹如薛萬均薛萬徹之流最後都作鳥獸散。
二是海池劫駕，也就是囚禁李淵。要知道，“玄武門之變”中，即使李世民殺掉李建成和李元吉，但整個長安城乃至天下都還是李淵說了算。所以，殺太子、齊王只是“玄武門之變”的第一步，第二步也是最關鍵的是控制李淵——天下是李淵的天下，也就是說“玄武門之變”的最終目的是老子，而不是大哥和三弟——尉遲敬德武裝入宮，向李淵彙報說太子、齊王謀反，已經被秦王誅殺。李淵審時度勢，迅速認栽。並且尉遲敬德讓李淵寫下手敕，長安城所有部隊歸秦王節制。玄武門——皇宮——長安城——天下，李世民迅速完成從權力中樞到整個大唐的實際控制。
史書中說李淵庸碌昏聵，渾渾噩噩，在政變中自動讓權。這都是胡說八道，其實，“槍桿子裏面出政權”，李淵自己打出來的江山，這一點他比誰都清楚。如果沒有尉遲敬德的武力脅迫，他不會束手就擒並乖乖讓出皇權的。
正因爲尉遲敬德完成了“玄武門之變”中最重要的一步拼圖，纔在後面的論功行賞中被記了首功。
