Trong thập niên 1920 và 1930, Sài Gòn phát triển và đông đúc hơn. Về mặt địa thế cũng như chính trị, nó vẫn khác biệt hẳn với Chợ Lớn, nhưng những tuyến xe điện đã nối liền hai khu vực (những tuyến này tồn tại mãi đến thập niên 1950, rồi bị xe bus thay thế). Hai đô thị không được kết hợp thành một đơn vị hành chánh chung cho mãi đến khi người Pháp ra đi, nhưng đã có sự gắn kết về thương mại qua hệ thống mại bản Pháp và Hoa. Năm 1936, người Pháp xây xong tuyến xe lửa xuyên Đông Dương chạy từ Hà Nội vào Sài Gòn (hành trình này mất 40 giờ và vé bình dân chỉ tốn vài đô la), và nó đã góp phần đẩy mạnh giao thông trên toàn đất nước. Cuối thập niên 1930, tầng lớp đốc phủ sứ trở thành các quận trưởng hoặc, như ở Sài Gòn, các viên chức cấp dưới trong guồng máy hành chánh của Pháp. Trong thập niên này, một số con cái của giới quan lại và địa chủ đã sang Pháp du học, thậm chí có cả con của công nhân. Phần lớn những du học sinh này trở về để làm thày giáo, luật sư bác sĩ hay dược sĩ, nhưng cũng có một bộ phận gia nhập lực lượng cách mạng.
Cũng trong thập niên 1920 và 1930, người Pháp đã xây dựng những đồn điền trà, cao su và cà phê ở miền Nam và miền Trung, và nhiều ông chủ có những biệt thự nguy nga ở cả Sài Gòn lẫn tại đồn điền của họ. Trong thành phố, một người Pháp, mặc sơ mi và quần sọc trắng, có thể làm việc chỉ vài giờ mỗi ngày rồi về nhà, rồi sau khi nghỉ trưa, họ ra quán cà phê hoặc quán rượu, sau đó là đến bữa tối và giờ chơi ở câu lạc bộ. Sau vụ thu hoạch lúa ở Sài Gòn còn thấy xuất hiện một số địa chủ người Việt mặc đồ lụa lưu lại đây vài tuần để mua sắm hàng xa xỉ của Pháp hoặc món ăn sang của người Hoa. Cũng có một nhóm người mới ở đây, đó là dân đảo Corse. Một số xuất thân là lính, một số làm việc trong ngành cảnh sát hoặc quan thuế, thỉnh thoảng một số người Corse dữ dằn, theo kiểu Mafia, với những đường dây buôn lậu hay bảo kê quốc tế, cũng xuất hiện. Một số dân Corse khác mở nhà hàng hoặc quản lý nhà hàng cho các ông chủ người Pháp, và những nơi này, không như các nhà hàng Pháp trước đó, bán cả món ăn Pháp lẫn Hoa, khiến Sài Gòn nổi tiếng về sự kết hợp hai nghệ thuật nấu ăn xuất sắc nhất thế giới. Nhìn chung, cuộc sống ở Sài Gòn và cả Nam Kỳ thì nhẹ nhàng và thoải mái, ngay cả đối với nông dân-trái ngược với cuộc sống ở miền bắc, nơi khí hậu thì khắc nghiệt hơn mà đất đai lại không màu mỡ bằng. Nông dân ở miền Bắc phải dành nhiều giờ mỗi ngày để cày cấy trên đồng ruộng hay đánh bắt cá nhưng nông dân miền Nam có thể cày lật đất trong vài giờ, xạ hạt giống và để lúa tự mọc; khi anh ta đi câu trên xuồng, lúc bình minh hay hoàng hôn, anh ta có thể mang theo một cây đèn và hai mẩu gỗ để gõ vào nhau nhằm thu hút cá. Trong vòng nửa giờ anh có thể kiếm được số cá cần dùng, và giống như người Pháp, anh ta sẽ về nhà nghỉ ngơi. Thông thường người Hoa là những người lao động chăm chỉ nhất. Chợ Lớn đã là một xã hội gắn kết chặt chẽ gồm các bang và dòng họ. Một trong những thủ lãnh đầu tiên của cộng đồng người Hoa là một thương gia giàu có, ông Tích, người sở hữu một đội ghe bầu thu mua lúa ở Đồng bằng sông Cửu Long chở về thành phố qua mạng lưới sông rạch. Chính người quản lý của ông ta, Mã Tuyên, vào năm 1963, đã che giấu hai anh em Diệm và Nhu trước khi họ bị sát hại.
Tuy người Pháp cũng có các cô vợ hờ người Hoa hoặc Việt, nhưng nhìn chung ít có hôn nhân dị chủng. Những gia đình Việt Nam gia giáo không tán thành nhưng cuộc hôn nhân như vậy, phần lớn các cô gái lấy chồng Pháp bị khinh thị và bị cộng đồng của họ ruồng bỏ. Hôn nhân giữa người Việt và người Hoa thì nhiều hơn. Một người Hoa từ Hoa Nam tới Chợ Lớn làm ăn thường để lại một bà vợ ở quê nhà và cưới một cô vợ Việt rồi hình thành một gia đình ở đây, rồi 10 hay 20 năm sau có thể ông ta lại trở về Trung Quốc, để lại đây cô vợ Việt. Một số người Hoa ở lại đây, tuy vài ba năm lại về thăm Trung Quốc một lần, và giống như nhiều Hoa kiều tử tế khác, họ thường gửi tiền về cho gia đình ở quê nhà. Một bài hát Việt Nam thời đó đã mô tả cảm nghĩ của người Việt đối với người Pháp và người Hoa. Bài hát kể về một ông chủ Pháp hồi hương và khuyên cô ba, cô vợ hờ, hãy lấy anh thông ngôn. Tuy nhiên, những người thông ngôn hồi đó lại bị xem là đã xu phụ người Pháp và bị coi thường. Bài hát kể tiếp, "họ chẳng tốt gì cho nhau, cô gái với anh thông ngôn, cho dù cả hai đều có bạc vạn." Bài hát kết thúc với câu, "Cô đi lấy một người Hoa nghèo hèn chỉ có đôi quang gánh để nuôi heo còn tốt hơn".
Giữa hai cuộc thế chiến, người Pháp tự hào là đã bình định được phong trào kháng chiến ở Việt Nam-một niềm tự hào trước khi họ gặp phải một trong những thất bại lớn nhất của lịch sử. Giữa thập niên 1930, các tổ chức kháng chiến vẫn tìm cách tồn tại được ở miền Nam, tuy rằng các nhà tù thì đầy những tù nhân chính trị, và đến cuối thập niên này, lực lượng cách mạng đã hoạt động công khai trở lại tại Sài Gòn. Năm 1940, khởi nghĩa Nam Kỳ nổ ra. Người lãnh đạo cách mạng miền Nam lúc đó là Lê Hồng Phong, xứ ủy Nam Kỳ của đảng Cộng sản Đông Dương mà Hồ Chí Minh đã gầy dựng lại. Ngay sau khi Pháp thua trận ở châu Âu, cuộc khởi nghĩa bị đàn áp dã man, và ông Phong và vợ (là Nguyễn thị Minh Khai) bị bắt và xử tử. Đến lúc Nhật xâm chiếm Đông Dương ít lâu sau đó, cuộc khởi nghĩa đã kết thúc Lực lượng Pháp, đứng đầu là Đô đốc Jean Decoux, được Nhật cho phép tiếp tục nắm guồng máy hành chánh, nhưng thực ra Nhật đã kiểm soát toàn bộ. Họ vẫn giam phần lớn những người Cộng sản nhưng cho một số người theo chủ nghĩa dân tộc sang Nhật, trong kế hoạch dài hạn nhằm thuyết phục các lãnh đạo bản xứ giúp Nhật xây dựng Khu vực thịnh vượng chung Đại Đông Á.
Dưới sự cai trị của Pháp và Nhật, Sài Gòn trở thành một đô thị khép kín. Tuy người Nhật là chủ nhân ông, nhưng cuộc sống nhìn chung vẫn tiếp diễn với nhịp độ thoải mái của nó trong một thời gian. Tuy nhiên, dần dà, điều này nhường chỗ cho một kỷ luật khắt khe. Với mái tóc húi cua, thanh gươm dài và giày đinh, người Nhật thường bị cả người Việt lẫn Pháp-ngoại trừ một thiểu số hợp tác với Nhật-chế giễu sau lưng, nhưng nhìn chung, dân Sài Gòn cũng chấp nhận người Nhật. Than miền Bắc không chở vào Sài Gòn được vì người Nhật dùng nó cho mục đích chiến tranh, nên lúa được dùng làm nhiên liệu, và đến 1944 một nạn đói lan tràn khắp Việt Nam. Hơn một triệu người miền Bắc bị chết đói. Ở Sài Gòn và cả miền Nam, người Việt không đến nỗi chết đói, nhưng họ cũng khốn khổ, và sự đau khổ tăng dần theo thời gian vì người Nhật giảm sản lượng lúa bằng cách bất dân nuôi heo và trồng đay gai, vì người Nhật cần lương thực và sợi. Người Pháp, tuy bị cắt rời khỏi chính quốc, nhưng vẫn còn tồn tại được, và người Hoa cũng sống được một cách đầy đủ, nhưng dân nghèo Việt Nam chịu khổ ngày càng nặng nề hơn khi chiến tranh cứ tiếp tục. Tại Đông Dương, người Nhật ít tàn bạo hơn ở những nơi khác trong vùng Đông Nam Á nhưng khi chiến tranh tiếp diễn, một mạng lưới bí mật của người Việt đã hình thành để chuyển tin tức quân sự cho Đồng Minh, và những thành viên mạng lưới này khi bị bắt đều bị xử tử ngay. Năm 1944, tin tức về việc Nhật bắt đầu thua trận đã lan khá rộng ở Sài Gòn. Những người Việt làm việc cho hãng thông tấn Domei của Nhật và nhân viên mật vụ Pháp, kể cả những gián điệp hai mang, đã lan truyền tin tức này (cũng có một nhóm nhỏ ủng hộ De Gaulle cũng góp sức vào đây). Vào lúc đó, oanh tạc cơ B-29 của Mỹ, được gọi là "cá thu đen" vì chúng từ biển bay vào, đã bắt đầu dội bom các bến cảng và ga xe lửa Sài Gòn trong thành phố thường xuyên nghe tiếng còi hú báo động không kích. Người Nhật bất đầu nhận ra họ thiếu sự cộng tác của người Pháp và thấy phong trào kháng chiến của người Việt ngày càng mạnh với sự lãnh đạo của Hồ Chí Minh và Việt Minh, nên Tokyo quyết định tước bộ máy hành chánh ra khỏi tay người Pháp. Việc này diễn ra vào ngày 9.3. 1945, và năm tháng trước khi chiến tranh kết thúc đã trở thành một thời kỳ tranh tối tranh sáng. Nam ngàn lính Pháp bị Nhật bắt giam tại Sài Gòn, nhưng một số công chức vẫn được tự do để duy trì guồng máy. Phần lớn người Việt và người Hoa vẫn ở trong nhà, chờ đợi kết cục của cuộc chiến.
