徐階嘉靖二年以探花及第，授翰林院編修。後因忤張孚敬，被斥爲延平府推官，受此挫折，從此謹事上官。後又進禮部尚書，兼文淵閣大學士，參與朝廷機要大事。徐階曾密疏揭發咸寧侯仇鸞的罪行，且擅寫青詞爲嘉靖帝所信任。和嚴嵩一起在朝十多年，謹慎以待;又善於迎合帝意，故能久安於位。嘉靖四十一年，得知嘉靖帝對嚴嵩父子的不法行爲已有所聞，於是就命御史鄒應龍參劾，終於使嚴嵩罷官，其子嚴世蕃謫戍。徐階則取代嚴嵩而爲首輔。累官至少師兼太子太師、吏部尚書、建極殿大學士。明穆宗時致仕歸家。
嘉靖帝認爲徐階爲官勤勉，又擅長寫青詞，於是召值無逸殿，與大學士張治、李本一起賞賜飛魚服及上方珍饌、上尊無虛日。衆官推薦徐階擔任吏部尚書，嘉靖帝希望他留在身邊而拒絕了，加太子太保。
當時嚴嵩專權，徐階起初不肯依附嚴嵩。於是嚴嵩經常在皇帝面前說他的壞話。徐階的處境一度十分危險，這使他認識到不能以卵擊石，於是他改變策略，事事順着嚴嵩，從不與他爭執。
爲了得到他的信任，還把自己的孫女嫁給嚴嵩的孫子，表面上十分恭順。嚴嵩的兒子嚴世蕃十分霸道，多次對他無禮，他也忍氣吞聲。同時，徐階向嘉靖帝靠攏，專門挑皇帝喜歡的話說，終於討得嘉靖帝的喜歡，不久，加徐階少保頭銜，接着兼任文淵閣大學士，進入內閣，參預機務。
後來他密奏咸寧侯仇鸞罪狀，使嘉靖帝殺掉仇鸞，得到皇上的信任，加太子太師頭銜，地位進一步提高，僅次於嚴嵩。後來嘉靖帝居住的永壽宮發生火災，暫時住到了玉熙殿，但是這裏地方太小，於是嘉靖想營建新宮殿。他問嚴嵩，嚴嵩請求他回到大內住，嘉靖帝很不樂意。然後問徐階，徐階猜透了嘉靖的心思，於是建議用被燒燬宮殿的剩餘材料，營建新的宮殿，他的建議得到嘉靖帝的贊同。後來由他主持建造成萬壽宮，嘉靖搬了進去。徐階因此加封少師，兼支尚書俸，而嚴嵩漸漸被皇帝冷落。
一年(1562年)，鄒應龍告發嚴嵩父子，皇帝下令逮捕嚴世蕃，勒令嚴嵩退休，徐階則取代嚴嵩爲首輔。
嚴嵩被勒令退休後，徐階親自到嚴嵩家去安慰。他的行爲使嚴嵩十分感動，甚至叩頭致謝。嚴世蕃也乞求徐階替他們在皇上面前說情，徐階滿口答應。徐階回到家裏後，他的兒子徐番迷惑不解地問:"你受了嚴家父子那麼多年的氣，現在總算到了出氣的時候了，你怎麼這樣對待他們?"
徐佯裝生氣罵徐番說:"沒有嚴家就沒有我的今天，現在嚴家有難，我恩將仇報，會被人恥笑的。"
嚴嵩派人探聽到這一情況，信以爲真，嚴世蕃也說:"徐老對我們沒有壞心。"其實，徐階這樣做是因爲他看出皇上對嚴嵩還存有眷戀，而皇上又是個反覆無常的人，嚴嵩的爪牙還在四處活動，時機還不成熟。後來，嘉靖帝果然後悔，想重新召回嚴嵩，在徐階的力勸下，纔打消了這個念頭。
嘉靖四十一年(1562年)，徐階繼任首輔之後，大力革除嚴嵩弊政，十分注重選拔，他先後舉薦高拱、張居正等人進入內閣。他十分愛惜人才，大力營救因上疏指責皇帝過失而被定死罪的戶部主事海瑞。他還十分勤政，凡是皇上交給的任務，即使一夜不睡，也要準時完成，因此他更得嘉靖的賞識。同時，他還經常勸說皇帝停止動輒捕殺邊鎮大臣的做法，緹騎因此省減，詔獄漸少。後來因爲指揮明軍抵擋蒙古騎兵南下有功，升爲建極殿大學士。
嘉靖帝朱厚熜死後，徐階起草遺詔，將大禮議中因反對嘉靖帝而獲罪的大臣全部平反，存者招用，死者優恤。詔書頒佈的那天，許多大臣感激涕零。徐階執政期間，還減輕百姓負擔，清理鹽稅。景王死後，他上奏將景王霸佔的陂田數萬頃給了百姓，使老百姓歡欣鼓舞、奔走相告。他還廢除朝中的許多浪費項目，尤其是皇帝信奉道教的開支。他的做法，得到朝中上下的擁護，人們稱他爲"名相"。
由於穆宗隆慶皇帝朱載垕行爲荒誕不經，徐階經常勸阻他，穆宗十分厭煩。徐階很失望，於是上疏請求退休。正好給事中張齊因爲私人恩怨彈劾他。於是穆宗乘機允許他退休回家。
徐階退休回家後，自己的子弟橫行鄉里，大量購置田產，徐家佔地多達二十四萬畝，加上他的子弟、家奴爲非作歹，致使告他的狀紙堆積如山。徐階用三萬兩黃金賄賂給事戴鳳翔，又通過張居正命令給事陳三謨罷免了海瑞和蔡國熙，不過最終還是落得家破人亡。所以當時人稱他爲"權奸"。
不過，徐階的歷史功績也不能隨意抹去。一是藉機命御史參劾，終使嚴嵩罷官，其子嚴世蕃謫戍。二是在任首輔期間，慧眼識珠，一眼相中張居正並提拔次輔，將來再次挽救大明王朝。
