鑒於上文在描述未富先老狀況時已牽涉人口和經濟因素，本部分主要從制度層面來探討未富先老的成因。可以預期的是，如果中國的老齡化進程不是由於改革開放期間高速的經濟增長和社會發展 ，以及計劃生育政策的執行而提前催生的，那麼與其他國家相比，則沒有什麼特殊之處。若是這樣，中國隻需參照已經出現老齡化的其他國家的經驗，通過調整產業結構、提高勞動生產率、健全養老保障制度，即可應對老齡化所帶來的各種挑戰。然而，問題在於中國的人口轉變，是在社會經濟發展和計劃生育政策的雙重作用下，特別是后者效果為其他國家所沒有的情況下實現的。因此，中國的未富先老不是一個自然演變過程。

一、城鄉分治與勞動力市場分割

1958年頒布的《中華人民共和國戶口登記條例》，確立了一套較完善的戶口管理制度，以法律形式嚴格限制農民進入城市，限制城市間人口流動。由於能有效地把農村人口控制在城市體制之外，城市福利體系就可相應地建立起來。蔡昉（2008）認為，在所有阻礙勞動力流動的因素中，尚未根本改革的戶籍制度是最為基本制度約束，是妨礙城鄉勞動力市場發育的制度根源和義理所在。至於勞動力市場分割，按工作性質、工作條件及待遇可分為一級勞動力市場和二級勞動力市場。通俗地講，一級勞動力市場由知識、技術和管理精英構成，而二級勞動力市場的勞動者大多是非熟練工人、低技能者，所從事的多為苦、臟、累、差的工作，收入微薄。分割的成因一般有功能性分割、制度性分割和區域性分割 。造成中國勞動力市場分割的主要是制度性因素，且呈現出多樣性特征。

城鄉分治與勞動力市場分割是密切關聯的。一方面，城鄉分治的核心便是為了保護城市就業和福利體系，這必然會導致勞動力市場分割﹔另一方面，勞動力市場分割則進一步強化了城鄉分治。城鄉分治、勞動力市場分割的存在不僅阻礙了人力資源的合理配置，也造成了城鄉發展的巨大差距。除了上文以數字展現的城鄉收入差距外，實際上還有住房、醫療、教育、養老、消費等一系列排他性福利差異，造成現實中存在大量的“半城市化”現象。即農民工進城卻不能享受市民待遇，隻實現了農村人口與城市中低端就業市場的對接，而未完成包括就業、福利、教育在內的全部銜接 。從這個意義上講，戶口歸屬真的很重要！這也是戶籍改革難以推進的根本所在。因為這種改革的目的就是要形成一體化的勞動力市場和城鄉統籌的公共服務體系。對現今中國而言，需做大的利益調整才行。

那麼，城鄉分治、勞動力市場分割與未富先老到底有什麼關系呢？我們隻需看分治、分割的負面影響就能明白。這種制度安排一是扭曲了農村的人口結構。在現行制度框架下，農村勞動力進城務工往往形成“候鳥式”遷移，即在城市工作，但根仍在農村。換言之，戶籍制度的存在，農民工不得不將自己的子女和父母留在農村，造成農村人口老齡化和留守兒童普遍化，弱化了農村社會經濟發展的能力 ，加重了農村的養老負擔，進而制約社會主義新農村建設。也許，人們會說農村勞動力如此流動是“成本—收益”考量下的理性選擇。但值得注意的是，這種考量是在現行制度框架下的無奈選擇，而不是可以舉家遷移的自由選擇。若能舉家遷移、享受城市公共福利，那麼農村的養老負擔也不會如此之重。其次，城鄉分治、勞動力市場分割阻礙了農民工以理直氣壯的身份和合理的價格獲得住房、社保以及子女教育等公共服務。這無疑增加了農民工家庭的支出水平，使得用以養老的資金甚為匱乏。此外，它也會扭曲勞動力市場信息，不利於優化資源配置。綜上可知，城鄉分治、勞動力市場分割通過扭曲城鄉勞動力構成、加大農民工生活成本和扭曲勞動力市場信息等途徑使得未富先老的形勢益加嚴峻。