Trước Cách mạng Tháng Tám năm 1945, trên địa bàn Quân khu 3 ngày nay đã hình thành một số chiến khu của lực lượng vũ trang Việt Minh như:
Chiến khu Quang Trung thành lập ngày 03 tháng 2 năm 1945, tên gọi ban đầu Chiến khu Hòa-Ninh-Thanh gồm 3 tỉnh: Hòa Bình, Ninh Bình, Thanh Hóa. Đến tháng 5 năm 1945 đổi tên gọi là Chiến khu Quang Trung (Đệ tam Chiến khu); Ngày nay Hòa Bình và Ninh Bình thuộc Quân khu 3; Tỉnh Thanh Hóa thuộc Quân khu 4.
Đến tháng 10 năm 1945, Chính phủ Việt Nam Dân chủ Cộng hòa ra quyết định thành lập các chiến khu, trong phạm vi đồng bằng Bắc bộ và phụ cận có 3 chiến khu là: Chiến khu 2, Chiến khu 3 và Chiến khu 11.
Tháng 5 năm 1952, Trung ương Đảng, Chính phủ quyết định thành lập khu Tả Ngạn trực thuộc Trung ương Đảng. Địa bàn khu Tả Ngạn gồm các tỉnh: Hải Phòng, Kiến An; Hải Dương, Hưng Yên, Thái Bình. Lúc này, Liên khu 3 còn lại các tỉnh: Nam Định, Hà Nam, Ninh Bình, Hà Đông, Sơn Tây, Hòa Bình. Địa bàn Quân khu 3 lúc này gồm có Liên khu 3 và Khu Tả Ngạn.
Ngày 10 tháng 9 năm 1957, Bộ Quốc phòng ra Nghị định 254/NĐ quy định phạm vi và địa giới hành chính do các quân khu phụ trách. Theo đó địa bàn Quân khu 3 lúc này gồm Quân khu Tả Ngạn và Quân khu Hữu Ngạn.
Quân khu Tả Ngạn gồm; Hưng Yên, Hải Dương, Hải Phòng, Kiến An, Thái Bình. Đến năm 1957 có thêm Hồng Quảng và Hải Ninh. Thiếu tướng Hoàng Sâm - Tư lệnh; Nguyễn Quyết - Chính ủy. Nguyễn Năng Hách - Chủ tịch Ủy ban hành chính khu Tả Ngạn (11/1957 - 10/1958)[2].
Quân khu Hữu Ngạn bao gồm: Hòa Bình, Sơn Tây, Hà Đông, Hà Nam, Ninh Bình, Thanh Hóa.
Ngày 1 tháng 11 năm 1963, Bộ Quốc phòng ra Quyết định số 51/QĐ- BQP điều chỉnh địa giới Quân khu Tả Ngạn và Quân khu Hữu Ngạn, tổ chức lại với tên gọi là Quân khu Đông Bắc và Quân khu 3.
Ngày 29 tháng 5 năm 1976, Chủ tịch nướcCộng hòa xã hội chủ nghĩa Việt Nam ký sắc lệnh số 45/LCT hợp nhất Quân khu Tả Ngạn và Quân khu Hữu Ngạn để thành lập lại Quân khu 3 và điều chỉnh địa giới hành chính tách tỉnh Thanh Hóa về thuộc Quân khu 4. Như vậy, từ giai đoạn này, địa bàn Quân khu 3 gồm các tỉnh: Hải Hưng, Thái Bình, Hải Phòng, Quảng Ninh, Hà Bắc, Hà Nam Ninh và Hà Sơn Bình.
Từ hai ngày 29 và 30 tháng 6 năm 1978, Quân khu 3 và Quân khu 1 tiến hành bàn giao nhiệm vụ quân sự, quốc phòng, tổ chức biên chế, vũ khí, trang bị của lực lượng vũ trang hai tỉnh Hà Bắc, Quảng Ninh từ địa bàn Quân khu 3 cho Quân khu 1.
Ngày 20 tháng 4 năm 1979, Chủ tịch Nước ký sắc lệnh tách Quảng Ninh ra khỏi Quân khu 1 để thành lập Đặc khu Quảng Ninh trực thuộc Trung ương. Ngày 7 tháng 7 năm 1979, Đảng ủy Đặc khu Quảng Ninh họp phiên đầu tiên công bố các quyết định của Bộ Chính trị về việc thành lập Đặc khu Quảng Ninh và danh sách Đảng ủy Đặc khu.
Ngày 4 tháng 8 năm 1987, Đảng ủy Quân sự Trung ương ra Nghị quyết số 154/NQ hợp nhất Đặc khu Quảng Ninh vào Quân khu 3. Tại thời điểm này, địa bàn Quân khu 3 gồm 6 tỉnh, thành phố, dân số trên 10 triệu người.
Tháng 3 năm 1997, tách tỉnh Hải Hưng thành hai tỉnh Hải Dương và Hưng Yên; tháng 10 năm 1999, tách Hà Tây về Quân khu Thủ đô. Tại thời điểm tháng 5 năm 2010, địa bàn Quân khu 3 gồm có 9 tỉnh, thành phố là: Quảng Ninh, Hải Phòng, Thái Bình, Nam Định, Hà Nam, Ninh Bình, Hòa Bình, Hải Dương, Hưng Yên; diện tích 20.282,5 km²; dân số 11.981.600 người; có 93 quận huyện, thị xã, thành phố(thuộc tỉnh); có 1.816 xã, phường, thị trấn.
Kết quả: 6 lính Âu-Phi bị tiêu diệt, phá hủy 59 máy bay địch.[51]
Trận chống càn ở làng Phan Xá, Tống Xá - tỉnh Hưng Yên
Thời gian: từ 05 đến 18h ngày 25/09/1951
Lực lượng Quân khu 3: Đại đội 20 bộ đội chủ lực tỉnh Hưng Yên (2 trung đội) và trung đội địa phương huyện Ân Thi, tổng cộng 130 đồng chí và dân quân du kích của 2 làng Phan Xá và Tống Xá.
Lực lượng của địch: khoảng 1000 lính.
Kết quả: Ta[52] tiêu diệt được 500 lính, bắt làm tù binh khoảng 20 lính Âu Phi.
Lực lượng Quân khu 3 tham gia: Trung đội đánh mìn thuộc huyện đội Kim Thành có công binh làm nòng cốt, tổng số có 20 đồng chí, trong đó có 5 đồng chí trực tiếp đặt mìn, phát nổ, còn lại bố trí hai bên bờ sông Rang sẵn sàng yểm trợ.
Lực lượng của địch[53]: Phía đông ga Phạm Xá là một bốt Phạm do một đại đội lính ngụy canh giữ, hai đồn đóng cách nhau 600m làm nhiệm vụ bảo vệ đường sắt ở khu Phạm Xá.
Kết quả: ta[52] tiêu diệt và làm bị thương 778 tên; phá hủy và làm lật đổ 08 toa xe; 20m đường ray; làm ngưng trệ tuyến vận chuyển của địch[53] 4 ngày đêm.
Lực lượng Quân khu 3 tham gia: 02 tiểu đoàn, 2 đại đội và hơn 700 tự vệ; ngoài ra còn có 02 tiểu đoàn bộ đội tỉnh Hà Nam và Ninh Bình.
Lực lượng của địch: 01 tiểu đoàn gồm 450 tên, ngoài ra còn sử dụng lực lượng 1500 quân cùng các phương tiện chiến tranh để ứng cứu giải vây cho quân ở Nam Định.
Kết quả: ta đã tiêu diệt 400 tên địch và rút ra khỏi thành phố an toàn.
Ngô Xuân Lịch, Thiếu tướng.Trung tướng Chính ủy Quân khu 3, Phó Chủ nhiệm, Chủ nhiệm Tổng cục Chính trị, Thượng tướng, Đại tướng ủy viên Trung ương Đảng.
2007-2009, Nguyễn Công Tranh, Thiếu tướng(2005),Trung tướng (2010) Chính ủy Tổng cục Hậu cần(2009-2012).[70]
2009-2011, Nguyễn Thanh Thược, Thiếu tướng(2008),Trung tướng (2012) Chính ủy Quân khu 3.(2011-2014)
2011-12.2014, Đỗ Căn, Thiếu tướng (2011),Trung tướng (2015), Chính ủy Quân khu 3 (2014-2016)