Đền Bạch Mã đã có từ thời vua Lý Thái Tổ (Lý Công Uẩn) dời đô từ Hoa Lư về Thăng Long. Đền Bạch Mã, một trong Tứ trấn Thăng Long - Hà Nội là di tích lịch sử văn hóa có giá trị đặc biệt của Thủ đô đã được Bộ Văn hóa Thông tin (nay là Bộ Văn hóa - Thể thao và Du lịch) công nhận xếp hạng là di tích lịch sử văn hóa. Đền vốn được lập nên để thờ thần Long Đỗ Thần Quân Quảng Lợi Bạch Mã Đại Vương.
Tương truyền vào thế kỷ 9 sau Công nguyên, viên quan đô hộ nhà Đường là Cao Biền đắp La Thành, khi ra ngoài cửa Đông, thấy một người lạ trong đám mây ngũ sắc. Đêm, Cao Biền nằm mộng thấy người đã gặp tự xưng là Long Đỗ. Cao Biền đem búa bằng đồng chôn yểm. Đêm sau nổi mưa gió, sáng ra thấy búa đồng bị đánh tan như cát bụi. Cao Biền sợ và lập đền thờ.
Năm 1010, vua Lý Thái Tổ dời đô từ Hoa Lư ra Thăng Long, định đắp thành nhưng nhiều lần đắp lên lại bị sụp đổ. Vua cho người cầu khấn ở đền Long Đỗ thì thấy một ngựa trắng từ đền đi ra. Vua lần theo vết chân ngựa, vẽ đồ án xây thành, thành mới đứng vững. Thần được vua Lý Thái Tổ phong làm Thành hoàng của Kinh thành Thăng Long.
Đến thời Lý đền được mở rộng, sau đó có nhiều lần sửa sang thêm, quy mô rộng rãi, cảnh quan tôn nghiêm. Hiện trong Đền còn lưu giữ 10 đạo sắc phong thần của các triều đại phong kiến phong cho thần, trong đó có hai đạo sắc niên đại Cảnh Hưng 44, số còn lại thuộc thời Nguyễn