Trong cao trào Xô-viết - Nghệ Tĩnh 1930-1931, "Đội Tự vệ đỏ" được thành lập để hỗ trợ cho các cuộc đấu tranh của quần chúng chống địch khủng bố. Tổ chức "Đội Tự vệ đỏ" luôn đi đầu trong các cuộc đấu tranh của quần chúng nổi dậy phá nhà giam, đốt huyện đường, vây đồn lính, bắt giữ bọn hòa lý, uy hiếp, làm tan rã chính quyền tay sai đế quốc ở cơ sở. Vừa tiến hành đấu tranh chính trị, vừa đấu tranh tự vệ, chống khủng bố. "Đội Tự vệ đỏ" còn có nhiệm vụ bảo vệ các phong trào cách mạng của quần chúng, bảo vệ cán bộ, bảo vệ các phiên tòa của Xô-viết - Công nông xét xử bọn phản cách mạng và giữ gìn an ninh trật tự ở những nơi có chính quyền Xô-viết.
Từ thực tiễn đấu tranh cách mạng của cao trào Xô-viết - Nghệ Tĩnh (1930-1931) đã để lại nhiều bài học quý báu về giành chính quyền và giữ chính quyền. Một trong những bài học đó là việc tổ chức, duy trì và phát triển "Đội Tự vệ đỏ". Đảng ta đã xác định "vấn đề tổ chức đội Tự vệ Công nông là một vấn đề quan trọng. Có đội Tự vệ thì Công và Nông mới giúp cho quần chúng tổ chức đấu tranh hơn trước được... khi có đấu tranh thì đội Tự vệ phải đi đầu, đi kèm quần chúng mà hộ vệ và bênh vực đấu tranh".
Tháng 3-1935, Đại hội Đảng toàn quốc lần thứ nhất đã thông qua Nghị quyết quan trọng về "Đội Tự vệ đỏ". Nghị quyết đã chỉ rõ "không có một sản nghiệp nào, một làng nào có cơ sở của Đảng, của Đoàn, của các hội quần chúng cách mạng mà không có tổ chức đội Tự vệ, đó là khẩu hiệu của chúng ta hiện nay. Khi cuộc vận động Mặt trận Dân chủ Đông Dương phát triển thành cao trào cách mạng dân tộc, dân chủ mở rộng, Đảng ta đã chỉ thị "Mỗi làng phải lập ra một ủy ban hành động (do Nông hội cử ra)" lúc tuyên bố đấu tranh thì đổi ra "Ban tranh đấu" do quần chúng cử ra. Mỗi cấp phải tổ chức ra đội Tự vệ để ngăn cản những kẻ phá rối cuộc đấu tranh và để đối phó với các lực lượng phản động".
Tháng 9-1939 chiến tranh thế giới thứ hai bùng nổ. Thực dân Pháp đàn áp khốc liệt phong trào cách mạng Việt Nam. Hàng nghìn cán bộ, đảng viên bị bắt, tù đày. Khả năng đấu tranh hợp pháp trong thời kỳ mặt trận dân chủ không còn nữa, Đảng phải rút vào hoạt động bí mật. Trung ương Đảng chủ trương xây dựng An toàn khu (ATK) để bảo vệ cơ quan, cán bộ của Đảng và đề phòng địch khủng bố. Đầu năm 1940 ATK được thành lập và "Ban công tác đội" ra đời do Trung ương Đảng trực tiếp chỉ đạo làm nhiệm vụ bảo vệ ATK, bảo vệ cán bộ cao cấp của Đảng, giải thoát cho cán bộ Đảng khi bị địch lùng bắt. Ban công tác đội được trang bị vũ khí thô sơ, súng ngắn, được huấn luyện về phương pháp công tác bảo vệ và kỹ thuật chiến đấu, nhưng hữu hạn lắm mới sử dụng vũ khí đánh địch để giữ bí mật lâu dài cho ATK.
Ngày 15-5-1945 Xứ ủy Bắc Kỳ quyết định thành lập "Đội danh dự trừ gian" do Xứ ủy trực tiếp chỉ đạo nhiệm vụ của "Đội danh dự trừ gian" là diệt trừ các tên Việt gian đầu sỏ, nguy hiểm theo chỉ đạo của Xứ ủy Bắc Kỳ và vũ trang tuyên truyền khi cần thiết.
Ngày 4-6-1945, Tổng bộ Việt Minh tuyên bố thành lập khu giải phóng với hai căn cứ địa lớn, gồm sáu tỉnh Cao Bằng, Bắc Cạn, Lạng Sơn, Hà Giang, Tuyên Quang, Thái Nguyên và một số vùng ngoại vi thuộc các tỉnh Bắc Giang, Vĩnh Yên, Phú Thọ, Yên Bái... và công bố mười chính sách lớn của Việt Minh. Một trong mười chính sách lớn đó là: Thủ tiêu lực lượng của Nhật, trừ khử Việt gian, trừng trị lưu manh để bảo vệ chính quyền cách mạng. Các "Đội trinh sát", "Đội hội lương diệt ác", "Đội Tự vệ cứu quốc", "Ban công tác đội" ra đời cùng với "Đội Tự vệ", "Đội danh dự trừ gian" làm nhiệm vụ tiêu trừ Việt gian phản quốc, trừng trị lưu manh để bảo vệ khu giải phóng.
Ngày 19-8-1945 cuộc Tổng khởi nghĩa giành thắng lợi ở Hà Nội và các tỉnh ở Bắc Bộ. Sở Liêm phóng Bắc Bộ được thành lập và tiếp sau đó cùng với sự ra đời của chính quyền cách mạng, ở Trung Bộ thành lập Sở Trinh sát, ở Nam Bộ thành lập Quốc gia Tự vệ cuộc. Hệ thống này được thành lập đến các tỉnh, huyện. Tuy tên gọi ở ba miền khác nhau nhưng các tổ chức đó đều có chung nhiệm vụ là trấn áp phản cách mạng, giữ gìn an ninh trật tự, bảo vệ Đảng, bảo vệ chính quyền cách mạng mới thành lập. Ngày 19-8-1945 đã trở thành Ngày truyền thống của CAND Việt Nam.
Ngày 21-2-1946 Chủ tịch Hồ Chí Minh ký Sắc lệnh 23/SL hợp nhất các lực lượng Liêm phóng và Cảnh sát trong toàn quốc thành "Việt Nam Công an vụ". Thực hiện Sắc lệnh số 23/SL của Chủ tịch Hồ Chí Minh ở Bắc Bộ Sở Liêm phóng đổi thành Sở Công an Bắc Bộ, ở Trung Bộ Sở Trinh sát đổi thành Sở Công an Trung Bộ, ở Nam Bộ Quốc gia Tự vệ cuộc đổi thành Sở Công an Nam Bộ; ở các tỉnh, thành phố có Ty Công an.
Ngày 16-2-1953 Chủ tịch Hồ Chí Minh ký Sắc lệnh 14/SL thành lập Thứ Bộ Công an. Tại phiên họp của Hội đồng Chính phủ từ ngày 27 đến 29 tháng 8 năm 1953, xét công tác công an ngày càng quan trọng cần phải được tăng cường về tổ chức và cán bộ, Hội đồng Chính phủ ra nghị quyết đổi Thứ Bộ Công an thành Bộ Công an.
Từ đó đến nay lực lượng CAND càng được củng cố về mặt tổ chức và lớn mạnh không ngừng, đủ sức đáp ứng yêu cầu, nhiệm vụ bảo vệ an ninh, trật tự trong các thời kỳ cách mạng.