自分税制改革后，地方政府预算内财政困难，出现了一些地方和部门加重农民负担，农民负担一再出现反弹。为了从根本上解决农民负担问题，从1993年开始，河北、湖南、安徽等地开始探索改革农村税费制度的途径。1996年12月30日，中共中央、国务院下发了《中共中央、国务院关于切实做好减轻农民负担工作决定》，体制性税费改革逐渐深入。
  2000年，作为从根本上减轻农民负担的一项重大举措，党中央、国务院决定在安徽全省进行农村税费改革的试点。2000年3月2日，中共中央、国务院正式发布《中共中央、国务院关于进行农村税费改革试点工作的通知》，指出：“中央确定在安徽省以省为单位进行农村税费改革试点，其他省、自治区、直辖市可根据实际情况选择少数县（市）试点。”安徽再一次成为中国农村改革探路的先锋。
  2001年，江苏省根据本省实际及财力情况，自主在全省范围实施了改革试点。2002年，国务院确定河北、内蒙古、黑龙江、吉林、江西、山东、河南、湖北、湖南、重庆、四川、贵州、陕西、甘肃、青海、宁夏16个省市为扩大农村税费改革试点。安徽等地改革试点的主要内容是“三取消、两调整、一改革”，即取消乡统筹费等专门面向农民征收的行政事业性收费和政府性基金；取消农村教育集资；取消屠宰税；3年内逐步取消统一规定的劳动积累工和义务工；调整农业税政策，调整农业特产税政策；改革村提留征收使用办法。从试点情况看，这项改革规范了农村税费制度和征收方式，有效遏制了农村“三乱”，深受农民欢迎。据安徽省统计，实行农村税费改革后，农民负担水平平均减轻25％以上。   
  7月4日，财政部、国家计委、农业部发布《关于取消农村税费改革试点地区有关涉及农民负担的收费项目的通知》，决定在农村税费改革试点地区取消各地按农民人均纯收入收取的乡统筹费等4项涉及农民负担的收费项目。要求进行农村税费改革试点地区的省、自治区、直辖市政府对地方各级政府及其部门出台的涉及农民负担的项目进行清理。
  8月7日，财政部发布《改革和完善农村税费改革试点县、乡财政管理体制的指导性意见》，就改革和完善县、乡财政体制，提出以下几个方面的指导性意见：明确划分县、乡政府的财政支出责任，合理调整支出范围；精简机构、压缩人员，减少不合理开支；实行分级管理的分税制财政管理体制，明确收入归属；逐步建立规范的转移支付制度。
  农村税费改革是中共中央、国务院作出的关于农村发展的重大决策，成为我国农村继土地改革和农村家庭承包经营制以后的“第三次革命”。
  2003年，在试点的基础上，农村税费改革在全国全面推开。2004年，党中央、国务院加大了农村税费政策改革力度，决定从当年开始逐步降低农业税税率，并提出5年内全面取消农业税的目标。
   
  补充阅读：一封信引出“三农”成为改革焦点
  就在《中共中央、国务院关于进行农村税费改革试点工作的通知》发出的当天，2000年3月2日，时任湖北监利棋盘乡党委书记的李昌平以《一个乡党委书记的心里话》为题，向时任总理朱镕基反映“三农”问题，得到了朱镕基的两次批复，当时中央政治局七位常委也给予批示，要求认真搞好棋盘乡的改革试点，从而引发了湖北监利一场“声势浩大”的农村改革，也改变了李昌平的人生轨迹。
  在信中，李昌平写道：“我要对您说的是，现在的农民真苦，农村真穷，农业真危险……农民不再热爱土地，因为百分之八十的农民种田亏本。官员本来是按照土地摊派税赋的，现在只好转而按人丁摊派，叫作‘人头费’。中央政府税收体系中没有这个名目，可是干部执行此项制度却格外认真……丧失劳动力的八十岁的老爷爷老奶奶和刚刚出生的婴儿也一视同仁地交几百元的‘人头费’。”李昌平指出，尽管如此，乡镇政府依然债台高筑，每年从农民那里弄来的钱，除了偿还债务利息外，还不够给干部发工资，因为依靠税费养活的人在过去十年里增加了两倍。于是去借更多的高利贷，去农民头上搜刮更多的钱来还债。
  那封4000多字的信发出还不到一个月，中央调查组就来到了湖北省监利县。调查组直接与李昌平接洽，走访村民，发现情况比信中所反映的还严重。在阅读了调查报告后，朱镕基总理批复说：农民真苦、农村真穷、农业真危险虽非全面情况，但问题在于我们往往把一些好的情况当作全面情况，而误信了基层干部的“报喜”，忽视了问题的严重性。当时任国务院副总理的温家宝也对调查报告作了批示，强调要切实减轻农民负担。2000年6月，湖北省决定在棋盘乡、监利县进行改革，取得经验后在全省推广。