城乡二元制度在我国建国后已经形成并逐渐强化,农村土地的集体化是在农业合作化运动和人民公社化运动中形成的,城市土地的国有化改造也是从50年代开始陆续推进,但二元土地制度的正式提出是改革开放后。1982年以前的宪法均只提及我国的生产资料所有制,未言明土地。八二宪法首次明确关于土地的两种所有制并存的法律架构,提出“城市的土地属于国家所有。”“农村和城市郊区的土地,除由法律规定属于国家所有的以外,属于集体所有;宅基地和自留地、自留山,也属于集体所有。”这是中国土地制度有别于其他国家和地区的最重要的制度安排。有学者认为这是国家在工作重点转向大规模经济建设的新时期,处理建设与非国有土地之间利益瓜葛所采取的方法。据《中华人民共和国宪法史》记载,八二宪法制定过程中就土地是否要全盘国有存在较大争议,最后采取了先城市的渐进办法。
因此,1986版土地管理法遵照八二宪法,进一步细化了土地国有的边界,表述为“城市市区的土地属于全民所有即国家所有。”有学者认为这一表述体现出当时的立法者对城市内涵作出限定颇具匠心。
改革开放后的十几年间,土地的“两权分离”——将所有权和使用权剥离,是所有土地制度的基础。农村集体土地作为农用的土地制度是建立了土地承包使用制度,延长土地承包期,形成承包经营权流转的基本规范;农村集体土地作为非农用的土地制度,宅基地制度可以概括为“福利分配、占用无代价、让出无收益”,而集体经营性建设用地市场则是经历了由敞开到逐渐关闭的过程,村集体和农民对集体土地的非农业使用决策权和收益权受到很大限制;城市国有土地制度的重点则是从无偿到有偿,建立与社会主义市场经济相适应的城镇国有土地有偿出让制度,以及划拨与出让并存的双轨制供应。

1998版土地管理法进一步坚持和强化了城乡分治原则,建立了农用地转用审批手续,实行指令性计划管理;将国有土地作为使用土地进行建设的唯一途径,农村土地转为非农用必须经过国家征用。农村土地与城市土地之间的转用制度,清晰界定了两者边界,中国土地市场的发展被分割成完全隔离的两个市场。
随后几年,随着城镇化快速发展和社会矛盾显现,开始逐步尝试弱化和消解这种隔离,通过试点改革和范围限定的方法“谨慎推进”。2004年《国务院关于深化改革严格土地管理的决定》提出“增减挂钩”政策试点,提供农村集体建设用地间接入市路径。重庆基于“增减挂钩”制度,设计试验了地票制度。十七届和十八届三中全会先后提出“建立城乡统一的建设用地市场”。2014年开始,国土资源部再次启动农村集体经营性建设用地入市试点。
而2019版土地管理法,则正式宣布“集体经营性建设用地入市”,删除了“任何单位和个人进行建设,需要使用土地,必须使用国有土地”的规定,虽然用途限定在了工业、商业等经营性用途,但仍然是一项重大制度突破,是对多年来集体建设用地不能与国有建设用地同权同价同等入市的二元体制的较为谨慎的弱化尝试。