新法虽得到赵顼的鼎力支持，但实行起来举步为艰，由于新法在多方面触犯了享有特权的大官僚、大地主、大商人的利益，因此，这次改革从一开始就遭到激烈的反对。这股反对力量得到太皇太后、皇太后和神宗皇后的支持。同时由于新法本身也存在许多缺点，所以也遭到了一些正直的大臣的反对，苏辙、韩琦、司马光都在反对之列。神宗的思想也开始犹疑起来。保守大臣们反对新法，王安石早有思想准备，但是改革派内部分裂，给王安石的打击是格外沉重的。而这时的神宗也不像前几年那样对王安石言听计从，有时甚至不重视他的意见。王安石对神宗慨叹道：“天下事像煮汤，下一把火，接着又泼一勺水，哪还有烧开的时候呢？”
公元1076年(熙宁九年)春天，王安石因身体有病，屡次要求辞职。到六月间，王安石的儿子壮年而逝，王安石悲痛欲绝，精神受到极大刺激，已无法集中精力过问政事。神宗只好让王安石辞去相位，出判江宁府。第二年王安石连江宁府的官衔也辞去了，此后直到1086年去世，王安石再也没有回朝。
王安石两次罢相，都是赵顼向守旧势力妥协的结果。赵顼的目的是为了保住自己的皇位，获得大臣和后族的支持，但是他希望通过变法富国强兵的政治目标并没有变。
他一边安抚守旧派的大臣，启用曾被罢退降职的旧派人物吕公着、冯京、孙固等，一边坚持改革，以平衡新派、旧派的力量。
王安石第二次罢相后的第二年，赵顼改年号为“元丰”，从幕后走到前台，亲自主持变法。然而，变法依旧伴随着反对的声音。失去了王安石，赵顼本就很伤心，又要独自面临巨大的压力，不免有些恼火。他决定实行更为强硬的手段来推行新法，严惩反对变法的官员。
赵顼没有停止改革的进程，经过他的不断努力，宋朝基本建立起了更有利于君主专制的中央集权制，其基本制度一直实行到宋朝末年未再进行大的变动。
