区境隶属上海县高昌乡，直至明、清。
清宣统二年（1910年）区境分属上海城、法华乡、漕河泾乡。
1928年将所辖市、乡改称为区。
1945年抗战胜利后，该年12月国民政府按警察系统原32个警区划分市辖行政区，以序号相称，区境分属上海市第七区（又称常熟区，区公所在宝建路即后来的宝庆路10号）、第八区（又称徐家汇区，区公所在慈云街67号）和第二十六区（又称龙华区，区公所在后马路177弄3号）。
1947年2月取消区的序号，改直称常熟区、徐汇区、龙华区。
1950年6月，上海市设置30个区，包括常熟区、徐汇区和龙华区。
1956年3月，上海市人民委员会调整全市行政区划，龙华区与新泾、真如两区合并为西郊区；常熟区与徐汇区合并，定名为徐汇区。
地名沿用至今。