宋徽宗期間，張綱以首貢進入太學，應試內舍、上舍，均得第一。崇寧殿試御賜狀元及第，授太學正。政和五年張綱被委任國子監。由於蔡京當權，士無大小皆出其門。張綱官居京都後只去蔡家造拜一次，以後絕然不往，引發蔡京不滿。政和六年，張綱遷任太學博士，後改任祕書省校書郎。他進朝入對，論“君子小人混雜，風俗奢靡，宜以祖宗爲法”。因常與蔡京觀點分歧，遂出任主管玉局觀。期間，朝廷計議派遣宦官童貫、蔡攸率兵出使朔方，張綱力論不可受恩不報而出兵朔方，他的諫言未被採納。朔方加強聯盟，嚴守都城，戒嚴轄區，童貫、蔡攸領兵攻克不下。徽宗下詔：凡在上城垛固守滿月者皆調升俸祿。張綱又進言：主憂臣辱，義當而已，因此受賞嗎?誰料此言激怒徽宗，遂將張綱調離京都，出任兩浙提刑。
江南東路將領王進剽悍，手下官吏因很小過錯或得罪，皆被釘手於門。張綱奉詔前往究查。王遣兵圍攻起事，被張綱按下就問，嚴厲治罪。張綱因此遂爲監察御史，任上，他令郡城按月向提刑申報羈押囚犯存亡數，年終根據羈押人數多寡，考覈評定政績優劣。
靖康元年(1126年)六月，東方出現彗星，欽宗詔諭求言。張綱上疏：求言易，聽察難，各主司部門應詳審奏章，考究真情實況，一般事宜則力求簡略。欽宗遂頻諭寬恤民力。張綱又奏利民80件事，求請頒佈中外，但因得罪秦檜被罷官回鄉，隱居茅山華陽洞20年，秦檜死後方出山任職。孝宗登基(1163年)，屢次召張綱出任輔政，他因年事已高，堅持不出。孝宗又專下辭赴行詔，令所在州郡對他常加存問，並賜羊、酒以示優賢。張綱常在案牘之餘埋頭著述，著有《華陽文集》40卷(收入《四庫全書》)、《確論》10卷等多種著作。卒諡文簡，祀七賢祠。《宋史》、《中國歷史人物辭典》皆載其跡。
《宋史·張綱傳》
張綱，字彥正，潤州丹陽人。入太學，以上舍及第。釋褐，徽宗知綱三中首選，特除太學正，遷博士，除校書郎。入對，論：“君子小人簉餚，詢言試事則邪正自別。小人得志邀功生事，禍有不可勝言者。今用事者大言罔上，風俗侈靡，背本趨末，日甚一日。宜以祖考躬行之教爲法，天下有不難化矣。”上稱善。論事與蔡京不相合，擠之去，主管玉局觀。久之還故官，兼修《國朝會要》、校正御前文字。遷著作佐郎、屯田司勳郎。
初，朝議遣童貫、蔡攸使朔方，綱力論不可出師狀，不報。及金渝盟犯京闕，命綱分守四壁，旋解嚴，詔登陴足月者遷。綱曰：“主憂臣辱，義當爾，顧因此受賞邪?”卒不自言。出爲兩浙提刑，移江東。池將王進剽悍恣睢，曹官以小過違忤，遂釘手於門。事聞，詔綱乘傳窮竟。時國勢未安，諸將往往易朝廷，進擁甲騎數百突至綱前，綱叱進階下，即按問，罪立具，自是無越法者。以左司召，權監察御史。請令郡邑月具繫囚存亡數，申提刑司，歲終校多寡行殿最。進起居舍人，改中書舍人。建言乞依祖宗法命大臣兼領史事，詔宰臣呂頤浩監修國史，著爲令。
試給事中。大將有以軍中田不均乞不收租，朝廷將從之，綱執不可。會推恩元祐黨籍家，有司無限制，自陳者紛至。綱建議以崇寧所刻九十八人爲正。自軍興後，小人多乘時召亂，歷五年而怨家告訐者衆。綱謂非所以廣好生之德，乞自蔽囚，後有告勿受。宗室令SK特轉太中大夫，綱言：“庶官超轉侍從非法，且自崇寧以來官職不循資任，致綱紀大壞，今方丕變其俗，奈何以令SK故復違舊章。”詔以次官命詞，舍人王居正復執不行，命遂寢。宣撫使張俊駐師九江，遣營卒以書至瑞昌，縣令郭彥章揣知卒與獄囚通，乃械繫之。俊醞於朝，彥章坐免。綱言：“近時州縣吏多獻諛當路，彥章不隨流俗，是能奉法守職，今不獎而黜，何以示勸?”
除給事中。侍御史魏矼劾綱，提舉太平觀。進徽猷閣待制，引年致仕。秦檜用事久，綱臥家二十年絕不與通問。檜死，召爲吏部侍郎兼侍讀。初講《詩關雎》，因后妃淑女事，歷陳文王用人，寓意規戒。上曰：“久不聞博雅之言，今日所講析理精詳，深啓朕心。”綱言：“比年監司資淺望輕，請擇七品以上清望官，或曾任郡守有治狀者爲之，庶位望既重，材能已試，可舉其職。”從之。權吏部尚書。時以彗出東方，詔求言。綱奏：“求言易，聽察難。宜命有司詳審章奏，必究極其情，無事苟簡。”除參知政事。高宗頻諭輔臣寬恤民力，蓋懲秦檜苛政，期安黎庶。綱乃摘其切於利民八十事，標以大指，乞鏤版宣佈中外，於是人皆昭知上德意。告老，以資政殿學士知婺州，尋致仕。高宗幸建康，綱朝行宮。孝宗登極，召綱陪祀南郊，以老辭不至，詔嘉之，命所在州郡恆存問，仍賜羊酒，卒，年八十四。
綱嘗書坐右曰：“以直行己，以正立朝，以靜退高天下。”其篤守如此。初諡文定，吏部尚書汪應辰論駁之，孫釜再請，特賜曰章簡。釜，慶元間爲諫官，力排道學諸賢，累官至籤書樞密院事。
