Rời thôn Trường Dục, xã Hiền Ninh, Quảng Ninh, Quảng Bình, Trương Đình Phùng vào tiền tuyến với hành trang mang theo là lòng yêu tổ quốc vô bờ bến. Cha đã mất, anh và em trai còn ở chiến trường nhưng người mẹ già vẫn cầm chặt tay Trương Đình Phùng với lời dặn dò mẫu tử "chân cứng đá mềm, hết lòng chiến đấu vì đất nước nghe con". Khoác áo lính, anh được phân về đơn vị pháo binh tỉnh Quảng Bình, rồi Trung đoàn 55, Sư đoàn 341.
Nhận công tác ở nhiều đơn vị khác nhau, nhưng Trương Đình Phùng đều chứng tỏ được phẩm chất người lính pháo binh của mình. Năm 1968, đang ở chiến trường anh đau đớn nhận tin cả anh trai và em trai đều đã hy sinh. Bên ấm trà xanh, Trương Đình Phùng nhìn xa xăm hồi tưởng lại những ngày binh nghiệp đầy nguy hiểm và lãng mạn của một thời "xẻ dọc Trường Sơn đi cứu nước".
Nhiều lần đơn vị đang hành quân đã bị bom địch rải thảm cắt đường, nhiều chiến sĩ đã ngã xuống nhưng tất cả những người còn sống đều giữ vững niềm tin; tiến về miền Nam và đất nước sẽ ca khúc khải hoàn. Năm 1969, trên đường hành quân dọc Trường Sơn, Trương Đình Phùng đã chuẩn bị hôn lễ để kết hôn nhưng nghe tin Bác Hồ mất anh cùng đồng đội khóc thương tiễn biệt Người và anh quyết định gác lại việc kết hôn của mình.
Năm 1972, Trương Đình Phùng kết hôn với Nguyễn Thị Tuyết, cô giáo làng ở Quảng Ninh. Đám cưới của họ diễn ra trên đường Trường Sơn với tất cả lễ vật đều thuộc về người lính: từ tấm võng dù để che bạt, chiếc bát Trường Sơn, và những khóm hoa rừng. Bên người vợ mới chỉ được vài ngày, anh lại tiếp tục theo đơn vị hành quân lên đường.
"Hai vợ chồng có với nhau 6 mặt con nhưng cả cuộc đời theo binh nghiệp, tôi chỉ có công sinh còn công nuôi dưỡng các con đều thuộc về vợ. Hết chiến trường miền
Sau khi các mặt trận đều thất thủ, quân đội Việt Nam Cộng hoà tập trung quân chủ yếu ở Xuân Lộc, Đồng Nai hòng cố thủ ngăn bước tiến quân giải phóng tiến vào Sài Gòn. Tại đây, chúng tập trung Sư đoàn 18, các lực lượng địa phương, tăng cường Lữ đoàn 1 Dù và 6 khẩu pháo 155 mm tại ngã ba Tân Phong; Trung đoàn 8 bộ binh (Sư đoàn 5), 3 chi đoàn thiết giáp 315, 318, 322 (với hơn 300 xe các loại).
Và tổng số quân chúng huy động để cố thủ Biên Hòa - Xuân Lộc lên tới 25.000, tương đương 2 sư đoàn, 4 trung đoàn và lữ đoàn bộ binh. Ngoài ra, còn có 2 sư đoàn không quân (Sư đoàn 3 và 4) từ Biên Hòa, Tân Sơn Nhất và cả máy bay từ Trà Nóc dưới Cần Thơ cũng được tung vào yểm trợ cho Xuân Lộc. Đơn vị pháo binh của Trương Đình Phùng được giao nhiệm vụ chiến đấu đối mặt cắt hoả lực địch.
Lúc bấy giờ, Trương Đình Phùng được cấp trên bổ nhiệm - Trưởng Ban pháo Sư đoàn 341, đơn vị được giao nhiệm vụ chủ lực đánh chiếm Xuân Lộc, để phối hợp với các đơn vị khác tiến vào giải phóng Sài Gòn. Do pháo của địch hiện đại hơn, lại tập trung lượng lớn quân và vũ khí, nên sau 5 ngày tiến công dữ dội, quân giải phóng vẫn gặp sức chống trả quyết liệt cộng với hoả lực mạnh của địch nên đã bị thương vong tương đối nhiều.
Mới bước vào giai đoạn đầu cuộc chiến Xuân Lộc, nhưng địch đã lạc quan cho rằng Quân đội nhân dân Việt Nam không thể chiếm được Xuân Lộc. Thậm chí, tướng địch Lê Minh Đảo còn cho họp báo tại mặt trận, tuyên bố thách thức quân giải phóng. Ngày 15/4, quân đội ta bắt đầu chuyển hướng tấn công. Pháo 130 ly của ta bắt đầu bắn phá căn cứ không quân Biên Hòa, không cho máy bay từ đây yểm trợ Xuân Lộc.
Cùng thời điểm các đơn vị đã đánh chiếm được ngã ba Dầu Giây. Lúc bấy giờ hoả lực của địch ở Xuân Lộc vẫn rất mạnh. "Chậm giải phóng Xuân Lộc một ngày có thể làm chậm cơ hội giải phóng Sài Gòn", lời của lãnh đạo đơn vị đã làm Trương Đình Phùng mất ăn mất ngủ. Rồi anh tìm ra sáng kiến, cho trinh sát bám sát lưng địch và đặt mặt trận tác chiến ngay sát sườn địch rồi cho nổ súng, địch ở đối diện tưởng bị tấn công bất ngờ, đã nổ súng dữ dội, nhưng chúng không ngờ cả 2 trận địa pháo tiêu diệt nhau đều của chúng.
Với sáng kiến của Trương Đình Phùng, mặt trận pháo của ta sau đó đã hoàn toàn làm chủ tại mặt trận Xuân Lộc. Tất cả pháo binh, thiết giáp của địch đều bị hủy diệt sau mấy ngày đêm cầm cự. Sáng 21/4, những tuyến phòng thủ cuối cùng của quân lực Việt Nam Cộng hòa tại Xuân Lộc tan rã. Từ Xuân Lộc, đơn vị của Trương Đình Phùng hợp chung với các đơn vị khác thần tốc thọc sâu vào sào huyệt của kẻ thù, giải phóng hoàn toàn miền
Giải phóng xong miền