直辖市的 制度 源于 中华民国政府 于1921年市 自治制 中所称的 特别市 ，1930年施行之市 组织法 将其改称为院辖市，在本法中特别市的 地方自治 权力被大量削减， 市长 自开放直选前皆改由 行政院 直接派任（官派简任）。

国民政府 完成 北伐 统一全国后，先在1928年颁布市组织法特别市组织法，并将全市最高行政机关定名为市政府，最高民意机关定名为市 参议会 ，于1930年制定新的市组织法，将市分为院辖市即原之特别市，日后再改称直辖市 省辖市 ，院辖市与省同级，省辖市则与县同级，设置院辖市之人口门槛为一百万人，省辖市为二十万人，但仅有半数院辖市有达到人口标准。

特别市时期； 上海 特别市， 武汉 特别市， 南京 特别市， 北平 特别市， 天津 特别市， 汉口 特别市， 青岛 特别市， 广州 特别市， 重庆 特别市， 西安 特别市， 大连 特别市， 沈阳 特别市， 哈尔滨 特别市。

院辖市时期；南京市，北平市， 广州市 ，大连市，上海市，青岛市，天津市， 重庆市 ， 哈尔滨 市， 汉口市 ，西安市，沈阳市。