不久到了熙宁八年（1075年）二月，王安石再次拜相，但是宋神宗变法之心已经大大动摇，不再支持王安石力行变法，而且变法派内部分裂严重，新法很难继续推行下去。
王安石眼见现实如此，渐渐心灰意冷，次年熙宁九年（1076年），王安石多次托病请求离职，同年长子王雱病故，王安石上辞表，宋神宗准许，王安石再次罢相，从此隐居江宁，其所颁法令亦陆陆续续被废止。
元丰八年（1085年），宋神宗去世，宋哲宗即位，高太后垂帘听政，起用司马光为宰相，司马光提出“以母改子”，新法几乎全被废掉，史称“元祐更化”。
元祐元年（1086年）四月，王安石病逝，享年六十六岁，获赠太傅，葬于江宁半山园，至此，宋朝轰轰烈烈的“熙宁变法”（王安石变法）就宣布寿终正寝，完全失败了。
王安石变法失败，正应了宋神宗与韩琦问对时，韩琦说的那句话“安石为翰林学士则有余，处辅弼之地则不可。”，王安石学问和人品都好，但是治政能力还真的不是商鞅那个水平，无法使宋朝与秦朝一样，变法而强。