Tháng 7/1943, Hoàng Sâm được giao nhiệm vụ tổ chức đội bảo vệ các tổ xung phong Nam tiến. Tháng 12/1944, Đội Việt Nam tuyên truyền Giải phóng quân được thành lập, cựu đội trưởng Đội du kích Pắc Pó - Hoàng Sâm được lãnh tụ Hồ Chí Minh và đồng chí Võ Nguyên Giáp chọn làm Đội trưởng, rồi đại đội trưởng - khi Đội Việt Nam tuyên truyền Giải phóng quân phát triển thành đại đội. Hoàng Sâm trực tiếp chỉ huy các trận đánh Phay Khắt, Nà Ngần, Đồng Mu và Nà Ngần lần hai.
Nghệ thuật cầm quân sắc sảo
Sau ngày Nhật đảo chính Pháp (9/3/1945), Hoàng Sâm chỉ huy Đội tiến xuống giải phóng các châu Ngân Sơn, Chợ Rã, rồi tiến xuống phía Bắc Bạch Thông, giải tán bộ máy Tổng lý cường hào tại đây. Cuối tháng 3/1945, Hoàng Sâm cùng Đàm Quang Trung chỉ huy đánh quân Nhật ở Phủ Thông và tham gia chỉ đạo thành lập chính quyền cách mạng cấp xã tại địa bàn này.
Thời kỳ tiền khởi nghĩa và Tổng khởi nghĩa Tháng Tám năm 1945, Hoàng Sâm tham gia xây dựng và bảo vệ Khu giải phóng Cao-Bắc-Lạng-Thái-Hà-Tuyên, chỉ huy đánh quân Nhật ở Thái Nguyên, Bắc Kạn.
Sau trận thắng quân Nhật ở Thái Nguyên, Hoàng Sâm đưa đơn vị về Vĩnh Yên, tiêu diệt bọn Quốc dân Đảng phản động Đỗ Đình Đạo. Dẹp được bọn này, ông tiếp tục đưa quân về Sơn Tây bảo vệ chính quyền cách mạng non trẻ ở khu vực Tây - Tây Bắc Hà Nội.
Kháng chiến chống thực dân Pháp bùng nổ, Hoàng Sâm làm Chỉ huy trưởng Mặt trận Tây Tiến, Khu trưởng Chiến khu 2 rồi Khu trưởng Khu 3.
Tại chiến trường Tây Bắc xa xôi, một lần nữa tên tuổi của Hoàng Sâm lại được nhắc đến nhiều bởi nghệ thuật cầm quân sắc sảo trong trận dốc Đẹt; bởi những cuộc đấu trí, đấu mưu mà Liên khu trưởng quân Tầu Tưởng phải "tâm phục, khẩu phục" biếu không 300 khẩu súng... Có rất nhiều câu chuyện sự thật nhưng thoạt nghe tưởng như huyền thoại về tài năng quân sự, về bản lĩnh của tướng quân Hoàng Sâm được bộ đội Tây Tiến và bà con các dân tộc Tây Bắc khâm phục truyền tụng.
Được phong thiếu tướng đợt đầu tiên
Năm 1948, trong đợt phong quân hàm cấp tướng đầu tiên của quân đội ta Hoàng Sâm được phong Thiếu tướng. Năm 1951, Hoàng Sâm được rút về làm phái viên của Bộ tham gia chiến dịch với các Đại đoàn 312, 304. Năm 1953, Hoàng Sâm làm Đại đoàn trưởng Đại đoàn 304, Chỉ huy trưởng Mặt trận Trung Lào, tham gia giải phóng thị xã Thà Khẹt.
Sau chiến thắng Điện Biên Phủ, Hoàng Sâm về chỉ huy tiếp quản Sơn Tây, Hà Đông, rồi làm Đại đoàn trưởng 320 chỉ huy tiếp quản Hải Phòng, làm Phó Chủ tịch Ủy ban quân chính. Cuối năm 1955, Hoàng Sâm được bổ nhiệm làm Tư lệnh Quân khu tả Ngạn rồi sau đó tiếp tục đảm đương các cương vị Tư lệnh quân khu tả Ngạn, Tư lệnh Quân khu 3
Năm 1962, Hoàng Sâm được cử sang làm nhiệm vụ quốc tế tại Lào với bí danh Chăn Đi. Ông đã được các đồng chí lãnh đạo nước bạn hết sức tin cậy và kính trọng. Vừa trở về nước chưa được bao lâu, Hoàng Sâm lại được cử vào làm Tư lệnh Quân khu Trị - Thiên - Huế, một chiến trường cực kỳ nóng bỏng và ác liệt.
Ngày 15/12/1968, Thiếu tướng Hoàng Sâm hy sinh trên chiến trường Bình - Trị - Thiên. Ông ra đi ở tuổi 53 khi mà tài năng quân sự đang ở vào độ chín và tiếp tục toả sáng. Ông có 41 năm công tác và chiến đấu trong Quân đội nhân dân Việt Nam.
Thiếu tướng Hoàng Sâm được Bác Hồ đào tạo và quý mến, được Đại tướng Võ Nguyên Giáp tin yêu; một trong những cán bộ chính trị, quân sự song toàn của Quân đội nhân dân Việt Nam. Cuộc đời và sự nghiệp cách mạng của ông là những trang lịch sử vẻ vang góp phần làm rạng rỡ cho truyền thống cách mạng của quân đội ta. Ông được truy tặng Huân chương Hồ Chí Minh năm 1999, Huân chương Quân công hạng nhất, Huân chương Chiến thắng hạng nhất, Huân chương Kháng chiến hạng nhất. Đại tướng Võ Nguyên Giáp ví ông như Sapaép của Liên Xô.
