Thực dân Pháp tiến quân chiếm đánh Sài Gòn đầu năm 1859 sau khi đánh chiếm thành Ðà Nẵng. Chiếm được một số tỉnh của Nam Kỳ, người Pháp tổ chức một hội đồng thị xã để cai trị nhưng chưa có trụ sở chính thức, cho chính thể thực dân cũ đến Ðông Dương lúc đó. Năm 1871, sau hai năm vào được Sài Gòn, chính quyền thực dân Pháp mới bắt đầu tính kế lâu dài, bàn đến việc xây dựng một nhà làm việc chính thức cho Hội đồng chính quyền Pháp tại Ðông Dương. Lúc này, đường Nguyễn Huệ hiện nay còn là rạch sông, cho nên đã được lưu ý đầu tiên, nhưng vẫn còn e ngại về vấn đề đổ móng xây nền vì nơi đây là vùng đất bùn sông rạch.
Ðể xây dựng tòa Ðô Chính Sài Gòn, nhiều phương án đưa ra nhưng không đạt được sự thống nhất, khiến dự án này phải kéo dài trong nhiều năm. Sau đó, chính quyền thực dân Pháp ở Ðông Dương cũng chọn được phương án tối ưu, và trong thời gian từ năm 1898 đến năm1899, tòa Ðô Chính được khởi công xây cất ngay trên vùng đất đã chọn là trước đường Nguyễn Huệ hiện nay. Kiến trúc sư Gardès chịu trách nhiệm xây dựng đồ án và họa sĩ Ruffier chịu trách nhiệm trang trí. Nhưng do nhiều lý do không thuận lợi, cũng như sự bất đồng chính kiến giữa họa sĩ Ruffier và các nghị viện Việt Nam trong hội đồng Nam Kỳ, cho nên đã kéo dài công trình nhiều năm không khởi công được.
Sự bàn cãi giằng co này cứ thế kéo dài mãi đến năm 1907, sau đó hợp đồng của Ruffier bị bãi bỏ và một họa sĩ khác là Bonnet nhận lãnh hoàn toàn mọi công việc trang trí. Từ quyết định của Thống sứ Pháp, năm 1908, tòa Ðô Sảnh được hoàn thành và vụ Ruffier được đưa ra trước Tham chính viện vì họa sĩ Ruffier đã nhận trước một khoản kinh phí lên tới hai phần ba trong tổng số kinh phí thực hiện công trình. Mãi đến năm 1914, vụ kiện này mới được giải quyết, do đó họa sĩ Ruffier buộc phải hoàn lại toàn bộ số tiền đã lĩnh.
Tòa Ðô Chính được khánh thành vào năm 1909 với sự tham dự của viên Toàn quyền Ðông Dương nhân kỷ niệm 50 năm chính quyền của thực dân Pháp được thiết lập tại Sài Gòn (1859-1909). Tòa nhà được kiến trúc theo kiểu văn hóa Á Ðông kết hợp phương Tây, có vóc dáng biến thể theo kiểu lầu chuông đúc cao có nóc nhọn thường lấy kiến trúc ở vùng miền bắc nước Pháp. Chính giữa mặt tiền là một kiểu trang trí đắp nổi có hình dáng một người phụ nữ đang sung sức, mạnh khỏe, biểu trưng cho đang đi chế ngự thuộc địa, cùng một hình đứa bé đang chế ngự thú dữ, hai bức đắp nổi hai bên tiêu biểu cho nước Pháp cầm gương đi chinh phục thuộc địa vào cuối thế kỷ XIX. Phía trước dinh thự là một bãi cỏ rộng, có ghế đá và bồn kèn - nơi mà ban nhạc của hải quân Pháp thường đến trình diễn cho công chúng xem.
Về tên gọi của tòa dinh thự này, ban đầu có tên là Ủy ban Thị xã (đô thành) do một xã trưởng là người Pháp đứng đầu, cho nên sau khi xây dinh này, người Sài Gòn gọi là dinh Xã Tây. Thời kỳ Nam Kỳ thuộc toàn quyền Ðông Dương, người Pháp cử một chức Ðô trưởng để cai quản thành phố Sài Gòn - Chợ Lớn, trụ sở được đặt tại đây, cho nên dinh này lại được đổi tên là tòa Ðô Chính. Sau Ngày giải phóng Sài Gòn (30-4-1975), tòa nhà này được chính quyền Ủy ban Quân quản dùng làm trụ sở Ủy ban Quân quản Sài Gòn - Gia Ðịnh và từ năm 1986, sau khi Quốc hội nước ta đổi tên thành phố Sài Gòn - Gia Ðịnh, thì tòa dinh thự này chính thức trở thành trụ sở của Ủy ban Nhân dân TP Hồ Chí Minh cho đến nay.
Qua 103 năm xây dựng, trụ sở UBND thành phố Hồ Chí Minh hiện là một tòa nhà cổ kính, hoành tráng nhất tại khu vực trung tâm Sài Gòn xưa và TP Hồ Chí Minh nay. Với ưu thế cả về nghệ thuật kiến trúc lẫn vị trí địa lý, tòa nhà nhìn ra hướng đông gần một km là sông Sài Gòn - bây giờ là công trình thế kỷ hầm vượt sông Sài Gòn hiện đại nhất Ðông - Nam Á.
