1978-1994年，国家的政策性业务主要由工商银行、农业银行、中国银行和建设银行承担。

1993年12月25日，国务院发布《国务院关于金融体制改革的决定》及其他相关文件，提出深化金融改革，将工、农、中、建四大行建设成国有大型商业银行。为此，从四大行中剥离出政策性业务，组建了专门承担政策性业务的专业银行，即政策性银行。该文件成为政策性银行筹建的主要法律文件，从此，工、农、中、建四大行由专业银行转型为国有商业银行，不再承担政策性金融业务。

1994年3月17日，国家开发银行在北京成立，注册资本为500亿元人民币，主要承担国内开发型政策性金融业务。1994年7月1日，中国进出口银行在北京成立，注册资本为33亿元人民币，主要承担大型机电设备进出口融资业务。1994年11月8日，中国农业发展银行在北京成立，注册资本为200亿元人民币，主要承担农业政策性扶植业务。

政策性银行既是一个政府机构，也是一个金融机构。由政府创立，不以盈利为目的，为贯彻实施政府在管理经济方面的政策意图，在特定的业务领域内，直接或间接地从事政策性投融资活动。弥补商业银行在长期融资上的贷款不足，以实现国家对特殊行业的扶持。政策性银行的金融活动补充和完善了以商业银行为主的现代金融体系的职能。