Ngục Kon Tum do thực dân Pháp xây dựng đầu thế kỷ XX (khoảng từ năm 1915 đến năm 1917) bên bờ sông Đăk Bla. Hệ thống nhà ngục gồm nhà lao trong và nhà lao ngoài. Nhà lao được xây dựng theo kiểu pháo đài vô băng của Pháp, với 4 dãy nhà liền nhau, tạo thành một khối hình vuông, mái lợp ngói, tường trét đất, hai nhà lao có hai chòi gác và chỉ có 1 cửa ra ngoài. Mỗi nhà giam có chiều rộng 3,5m, trong đó dành 2m lát ván nằm cho tù nhân, còn lại là đường đi. Hai đoạn đầu của 2 dãy nhà ngang dọc ngăn thành 4 phòng nhỏ hẹp, 3 phòng để giam tù và một phòng cạnh cổng ra vào là nơi làm việc của quản lý nhà lao. Tuy Ngục Kon Tum có quy mô nhỏ nhưng hành động giam cầm và tra tấn các chiến sỹ cách mạng của thực dân Pháp lại khét tiếng tàn bạo trong thời kỳ 1930-1931...
Ngày 16/11/1988, Bộ Văn hóa Thông tin (nay là Bộ Văn hóa, Thể thao và Du lịch) đã ban hành Quyết định số 1288/QĐ-VHTT công nhận Ngục Kon Tum là Di tích lịch sử cấp Quốc gia