Sau ngày Quốc khánh 2/9/1945, nước Việt Nam Dân chủ Cộng hòa không những phải đương đầu với những khó khăn về kinh tế - xã hội, mà còn phải đối phó với thế lực ngoại xâm câu kết với bọn phản động thực hiện âm mưu tiêu diệt chính quyền cách mạng non trẻ.
Để đối phó có hiệu quả với âm mưu và hoạt động ráo riết của kẻ thù, ngành Công an chủ trương tăng cường lực lượng trinh sát bí mật, tổ chức trừ diệt những tên tay sai gian ác, chặt đứt sự câu móc giữa bọn gián điệp với phản động. Chỉ riêng Sở Công an Bắc bộ đã có tới hơn 500 trinh sát, được biên chế thành 10 đội, cắm chốt đến từng tiểu khu trên địa bàn dân cư của Hà Nội. Trinh sát của ta bắt được nhiều tên tay sai, chỉ điểm, nhưng những phần tử Đại Việt nắm quyền lại không nghiêm trị mà ngang nhiên thả chúng ra. Vì vậy, yêu cầu trấn áp bọn tay sai chỉ điểm càng đòi hỏi cấp bách, cần có một cách làm mới hiệu quả. Đội trinh sát đặc biệt ra đời trong bối cảnh lịch sử ấy, được thành lập vào tháng 2/1946, làm nhiệm vụ bí mật điều tra, bắt cóc, trừng trị những tên Việt gian đầu sỏ, tay sai gian ác.
Thành viên được tuyển chọn vào Đội trinh sát đặc biệt là những trinh sát viên trong số hơn 500 trinh sát của Sở, thông thuộc địa bàn Hà Nội, có tố chất nhanh nhẹn, gan dạ, giỏi võ và sử dụng thành thạo các loại súng cá nhân. Đội gồm 16 trinh sát là: Trần Tấn Nghĩa, Nguyễn Quốc Trung, Đỗ Đức, Đỗ Tiến, Ba Khuê, Ba Đình, Phùng Văn Nhân, Phạm Bá Tâm, Trần Quang Đạt, Phạm Công Dỉnh, Mai Khiêm, Ngọc Châu, Aristo-Quý, Đình Thanh, Lê Hành và Mai Long. Ông Trần Tấn Nghĩa (Phạm Bá Hùng) được cử làm đội trưởng.
Trụ sở chính của đội đóng tại Sở Công an Bắc Bộ (số 75 Trần Hưng Đạo ngày nay) nhưng do đặc điểm hoạt động nên đội thường phân tán lực lượng và chốt tại các trụ sở bí mật trên các phố Triệu Quốc Đạt, Nguyễn Du, Hai Bà Trưng và khu Đấu Xảo là địa bàn hoạt động ráo riết của các loại đối tượng.
Ngay sau ngày thành lập, hai đội viên Phạm Bá Tâm và Ba Khuê đã đột nhập vào tư gia một tên mật thám Pháp, người gốc Ấn Độ tại phố Hàng Gà (Phố Huế ngày nay), đoạt được tài liệu về bọn Việt gian chỉ điểm hoạt động trên địa bàn Ô Đống Mác, tạo điều kiện để đội diệt trừ được 4 tên tay sai nguy hiểm.
Tiếp đó, mấy tháng liền, đội liên tục diệt trừ hàng chục tên mật thám, tay sai gian ác ngay giữa lòng Hà Nội, làm cho bọn Việt gian phản quốc hết sức hoang mang lo sợ. Đội còn hoạt động ở các tỉnh lân cận như Hải Dương, Hà Đông, Sơn Tây, Phú Thọ, bí mật diệt 5 tên chỉ điểm sau khi chúng liên lạc với mật thám Pháp. Cuối tháng 6 và đầu tháng 7/1946, Đội trinh sát đặc biệt tổ chức bí mật bắt hai đối tượng cốt cán của Quốc dân đảng là Tham Trân và Nghiêm Xuân Chi. Khai thác Nghiêm Xuân Chi và Tham Trân, ta biết được Quốc dân đảng câu kết với quân đội viễn chinh Pháp đang ráo riết chuẩn bị cuộc đảo chính phản cách mạng để thành lập chính phủ của Quốc dân đảng, làm tay sai cho Pháp. Đây là một trong những nguồn tin hết sức quan trọng, giúp cho Nha Công an đi sâu điều tra làm rõ cuộc đảo chính sau này.
Đội trinh sát đặc biệt còn bí mật trinh sát trên tuyến tàu lửa Bắc - Nam, bắt một số tên làm liên lạc cho Quốc dân đảng từ Hà Nội về các tỉnh hoạt động trên địa bàn Nam Định, Ninh Bình, Thanh Hóa, Nghệ An, giúp ta nắm được tổ chức và hệ thống chân rết của Quốc dân đảng ở khu vực đồng bằng Bắc Bộ và Bắc Trung Bộ.
Khi ta thực hiện kế hoạch đập tan cuộc đảo chính do Quốc dân đảng câu kết với quân đội viễn chính Pháp tiến hành, "Đội trinh sát đặc biệt" được giao trọng trách là lực lượng chủ công trấn áp 4 trụ sở chính của chúng là số 7 Phố Ôn Như Hầu, số 80 phố Quan Thánh, số 80 phố Đỗ Hữu Vị, chùa Ngũ Xã.
Số 7 phố Ôn Như Hầu là trụ sở công khai của Quốc dân đảng do tên Pham Kích
Cuối năm 1946, quân đội viễn chinh Pháp gây hấn ở Hải Phòng rồi ngang nhiên gây ra các vụ bắn giết ở Hà Nội. Sở Công an Bắc bộ chủ trương quân sự hoá lực lượng trinh sát, do đó Đội trinh sát đặc biệt chấm dứt vai trò lịch sử và đổi tên thành Đội do thám trừ gian. Đội viên của đội, một số ở lại làm lực lượng nòng cốt xây dựng Đội do thám trừ gian, một số chuyển sang công tác bảo vệ căn cứ địa, hoặc vào làm điều độ tàu lửa tại ga Hàng Cỏ để nắm tình hình lâu dài,...
Một năm chiến đấu với những chiến công vang dội, Đội trinh sát đặc biệt không chỉ trừ diệt nhiều tên tay sai gian ác, điều tra làm rõ âm mưu và hoạt động của bọn nội phản câu kết với thế lực ngoại xâm, góp phần cùng các lực lượng trinh sát an ninh hoàn thành xuất sắc nhiệm vụ bảo vệ tuyệt đối an toàn chính quyền cách mạng non trẻ trước hoàn cảnh lịch sử ngặt nghèo của năm 1946. Riêng chiến công ngày 12/7/1946 của đội góp phần đập tan cuộc đảo chính của Quốc dân đảng, câu kết với thực dân Pháp, đã trở thành mốc son chói sáng trong hành trình chiến đấu, trưởng thành của Công an Việt Nam và ngày truyền thống của Lực lượng An ninh nhân dân Anh hùng.
Từ năm 1995 đến nay, đã có một số công trình nghiên cứu khoa học về chiến công ngày 12/7/1946 và đóng góp của CAND trong thời kỳ lịch sử đặc biệt. Nhưng những cống hiến của Đội trinh sát đặc biệt thì chưa có công trình nào đề cập. Nếu các nhà nghiên cứu bỏ công sưu tầm, khảo cứu để có được một công trình, dù nhỏ cũng là sự tri ân cần thiết của thế hệ đương thời với thế hệ An ninh nhân dân đầu tiên. Thế hệ ấy xứng đáng được như vậy
