1853年出生于江苏海门常乐镇。1869年考中秀才，1874年（同治十三年），前往南京投奔原通州（今南通）知州孙云锦。 1876年（光绪二年）夏，前往浦口入吴长庆庆军幕任文书，后袁世凯也投奔而来，两人构成吴长庆的文武两大幕僚。1880年（光绪六年）春，吴长庆升授浙江提督，奉命入京陛见，张謇随同前往。同年冬，吴长庆奉命帮办山东防务，张謇随庆军移驻登州黄县。1882年（光绪八年），朝鲜发生“壬午兵变”，日本乘机派遣军舰进抵仁川，吴长庆奉命督师支援朝鲜平定叛乱，以阻止日本势力扩张。张謇随庆军从海上奔赴汉城，为吴长庆起草《条陈朝鲜事宜疏》，并撰写《壬午事略》、《善后六策》等政论文章，主张强硬政策，受到“清流”南派首领潘祖荫、翁同龢等的赏识。 1884年（光绪十年）随吴长庆奉调回国，驻防金州，袁世凯留朝鲜接统“庆字营”。不久吴长庆病故，离开庆军回乡读书，准备应试。 1885年顺天府乡试考中举人，1894年（光绪20年）慈禧太后六十大寿辰设恩科会试，考中状元，授翰林院修撰。1904年，清政府授予他三品官衔。1909年被推为江苏咨议局议长。1910年，发起国会请愿活动。1911年任中央教育会长，江苏议会临时议会长，江苏两淮盐总理。1912年起草退位诏书，在南京政府成立后，任实业总长，1912年任北洋政府农商总长兼全国水利总长，1914年兼任全国水利局总裁。后因目睹列强入侵，国事日非，毅然弃官，走上实业教育救国之路。1926年8月24日（农历7月17日）病逝，享年73岁。