2003年底，中共中央、国务院决定先行对中国银行和中国建设银行进行股份制改造试点。2004年3月，温家宝总理指出：“目前进行的国有商业银行改革是‘背水一战’，是一场输不起的实践，只能成功，不能失败。”《在十届全国人大二次会议记者招待会上 温家宝总理答中外记者问》，《人民日报》2004年3月15日。短短数语，说明了国有商业银行股份制改革进程之艰难、目标之高远、决心之坚定。
    2004年1月6日，国务院宣布对中国银行和中国建设银行实施股份制改造，并且动用450亿美元外汇储备为两家试点银行补充资本金。为管理好这部分资产，中央汇金投资有限责任公司注册成立，财政部、央行和外汇局派员组成了公司董事会和监事会。本次中国银行与中国建设银行的综合改革，政府确定的总目标是：紧紧抓住改革管理体制、完善治理结构、转换经营机制、促进绩效进步这几个中心环节，在加入世贸组织过渡期内将大多数国有商业银行改造成资本充足、内控严密、运营安全、服务和效益良好、具有国际竞争力的现代化股份制商业银行。
    8月26日，中国银行股份制改造完成，组建成的中国银行股份有限公司（简称“中行股份”）宣告成立。中行股份注册资本186390亿元，折成186390亿股，汇金公司代表国家持有中行股份100%的股权，依法行使出资人的权利和义务。中行股份自成立之日起，将完整承继原中国银行的资产、负债和所有业务。中行股份将继续从事原经营范围和业务许可文件上批准或核准的业务。
    9月21日，中国建设银行股份制改造完成，组建了中国建设银行股份有限公司（简称“建行股份”）。创立后的建行股份注册资本为19423025亿元，折成19423025亿股。建行股份5家发起人股东的情况分别是：中央汇金投资有限责任公司、中国建银投资有限责任公司、国家电网公司、上海宝钢集团公司、中国长江电力股份有限公司。与过去大多数国有大型企业不同，作为我国国有商业银行和两家股改试点银行，中国银行和中国建设银行采取了不设“存续公司”的模式，并准备让银行股份在国内外资本市场上市。
    中行股份和建行股份的成立是我国金融业改革发展历史进程中的一个重要事件，标志着国有商业银行的改革迈出实质性的一步，不仅是国有商业银行改革的历史性突破，而且为我国大型国有企业的改革发展探索出一条新的道路，其对现代金融体系的完善、稳定、安全和可持续发展，以及对社会主义市场经济体系的完善发展和国民经济的持续较快发展，具有十分重要的现实影响和非常深远的历史意义。