Từ xa xưa, Thái Nguyên đã là nơi sinh sống của người Việt cổ. Trên địa bàn hang Ốc thuộc xã Bình Long đã tìm được dấu tích của người tiền sử có niên đại ít nhất cách đây từ 7000 đến 8000 năm với những vỏ ốc bị chặt đuôi, xương động vật là những tàn tích thức ăn của người xưa. Từ những năm 1980, cũng tại huyện Võ Nhai, các nhà khảo cổ đã phát hiện ra dấu tích của người Việt cổ tại khu vực Mái Đá Ngườm thuộc xã Thần Sa.^[8] Hàng chục ngàn hiện vật từ các hang Phiêng Tung, Mái đá Hạ Sơn I, Hạ Sơn II, hang Thắm Choong, Nà Ngùn và Mái Đá Ranh…ở Thần Sa, với những công cụ cuội được ghè đẽo như: Mảnh tước, rìu tay, công cụ chặt hình núm cuội, công cụ chặt rìa, công cụ chặt 2 lưỡi, công cụ hình sừng bò... Đặc biệt. các nhà khảo cổ đã tìm thấy 3 bộ xương người cổ được mai táng ở Mái Đá Ngườm, xóm Kim Sơn. Mái Đá Ngườm là một di chỉ quan trọng bậc nhất của khu di chỉ khảo cổ học Thần Sa với 4 địa tầng văn hóa khảo cổ, trong đó tầng thứ tư tiêu biểu cho trung kỳ Thời đại đá cũ.^[9]

Dưới triều Đinh, Tiền Lê (TK X), đất nước được chia làm 10 đạo. Khi Lý Thái Tổ lên ngôi năm 1010, 10 đạo được đổi thành 24 lộ, các vùng xa xôi hẻo lánh như Thái Nguyên nằm trong các châu biên viễn. Kể từ khi Nhà Lý định đô ở Thăng Long, Thái Nguyên đã trở thành phên giậu trực tiếp che chở phía bắc kinh thành. Dưới thời Nhà Lý, Thái Nguyên có một danh tướng nổi tiếng, từng 2 lần được vua gả công chúa cho, được dân gian tôn sùng là Đức Thánh Đuổm (xem thêm bài Dương Tự Minh). Trong cuộc kháng chiến chống quân xâm lược Tống năm 1076-1077, phần đất phía nam Thái Nguyên từng là địa đầu của phòng tuyến sông Cầu, nơi diễn ra những trận đánh ác liệt giữa quan quân Nhà Lý với Nhà Tống. Dưới thời Nhà Trần, đầu năm 1226, châu được đổi thành lộ, Thái Nguyên thuộc Như Nguyệt Giang lộ. Năm 1397, Nhà Trần đổi châu Thái Nguyên thành trấn Thái Nguyên (tương đương với tỉnh ngày nay).

Thời thuộc Minh (1407-1427), trấn Thái Nguyên được đổi thành phủ Thái Nguyên lệ thuộc vào ty Bố Chính. Năm 1426, phủ Thái Nguyên đổi thành Thái Nguyên Thừa Chính ty, gồm 3 phủ: Thái Nguyên, Phú Bình, Thông Hóa. Cũng trong thời gian bị Nhà Minh cai trị, dân chúng Thái Nguyên lại liên tiếp đứng lên khởi nghĩa. Tiêu biểu là Lưu Nhân Chú, người huyện Đại Từ, ông cùng cha và anh rể đã tham gia cuộc khởi nghĩa Lam Sơn do Lê Lợi lãnh đạo.

Năm 1428, Nhà Lê sơ được thành lập, Lê Thái Tổ chia đất nước làm 5 đạo, Thái Nguyên thuộc Bắc Đạo. Năm 1466, Lê Thánh Tông chia lại 5 đạo thành 12 đạo Thừa Tuyên, Thái Nguyên là Thái Nguyên Thừa Tuyên. Năm 1467, Nhà Lê tiến hành điều tra địa hình, địa giới, hoàn thành lập bản đồ quốc gia Đại Việt vào năm 1469. Cùng thời gian này, Thái Nguyên Thừa Tuyên được đổi thành Ninh Sóc Thừa Tuyên, gồm 3 phủ: Phú Bình, Thông Hóa, Cao Bằng. Đến năm 1483, Ninh Sóc Thừa Tuyên đổi thành xứ Thái Nguyên. 1533 lại đổi xứ thành trấn Thái Nguyên. Năm 1677, phủ Cao Bằng tách khỏi trấn Thái Nguyên thành trấn Cao Bằng. Thủ phủ trấn Thái Nguyên lúc này đặt tại xã Bình Kỳ, huyện Thiên Phúc (Sóc Sơn, Hà Nội ngày nay).

Dưới thời Gia Long, Thái Nguyên thuộc tổng trấn Bắc Thành. Năm 1813, sau khi huyện Thiên Phúc tách khỏi trấn Thái Nguyên nhập về Bắc Ninh. Thủ phủ trấn Thái Nguyên được chuyển về thành Đồng Mỗ, huyện Đồng Hỷ (nay thuộc phường Trưng Vương, thành phố Thái Nguyên). Năm 1831, 1832, Minh Mạng chia cả nước làm 30 tỉnh và 1 phủ Thừa Thiên. Trấn Thái Nguyên được đổi thành tỉnh Thái Nguyên. Đến năm 1836, tỉnh Thái Nguyên có 3 phủ, 9 huyện và 2 châu.

Dưới thời Pháp thuộc, từ năm 1890, chính quyền thực dân tách huyện Bình Xuyên khỏi tỉnh Thái Nguyên để thành lập tỉnh Vĩnh Yên và thực thi chế độ quân quản, chia nhỏ Thái Nguyên nhập vào các tiểu quân khu thuộc các đạo quan binh. Như vậy, từ tháng 10/1890 - 9/1892 tỉnh Thái Nguyên bị xóa bỏ, phân tán vào các địa bàn khác nhau đặt dưới quyền quản lý của giới cầm quyền quân sự Pháp.

Theo các Nghị định của toàn quyền Đông Dương ký vào các ngày 10 và 15/10/1892, các địa hạt đã bị phân tán (trừ huyện Bình Xuyên) trở về với tỉnh Thái Nguyên, đặt dưới quyền cai trị của một Công sứ. Đến 12/6/1894, toàn quyền Đông Dương ra Nghị định đưa các châu Cảm Hóa, Chợ Rã vào tiểu quân khu Cao Bằng thuộc Đạo Quan binh II, đồng thời tổ chức một đơn vị là Tiểu quân khu Cai Kinh gồm 13 tổng, trong đó có 5 tổng tách từ Thái Nguyên sang. 11/4/1900, toàn quyền Đông Dương ra Nghị định thành lập tỉnh

Trước Cách mạng Tháng Tám năm 1945, nhiều Ủy viên Trung ương Đảng Cộng sản Việt Nam, thường vụ Xứ ủy Bắc Kỳ thường xuyên qua lại hoạt động, phát triển lực lượng ở Thái Nguyên. Năm 1947, Hồ Chí Minh đã tới Thái Nguyên và lãnh đạo cuộc Kháng chiến chống Pháp từ căn cứ chính tại ATK Định Hóa. Cũng tại đây, Chủ tịch Hồ Chí Minh cùng Trung ương Đảng Cộng sản Việt Nam đã quyết định mở Chiến dịch Biên giới thu đông 1950, Chiến cục đông-xuân 1953-1954 cũng như quyết định mở chiến dịch Điện Biên Phủ lịch sử và hàng loạt sự kiện quan trọng khác.

Ngày 19/8/1956 Thái Nguyên là một trong sáu tỉnh và là thủ phủ của Khu tự trị Việt Bắc. Đồng thời, sáp nhập huyện Phổ Yên về tỉnh Vĩnh Phúc, sau khi khu tự trị này bị giải thể, huyện Phổ Yên lại được trả về Thái Nguyên. Năm 1965, chính quyền Việt Nam Dân chủ Cộng hòa đã sáp nhập hai tỉnh Thái Nguyên và Bắc Kạn thành tỉnh Bắc Thái.

Năm 1997, tỉnh Bắc Thái lại tách thành hai tỉnh Thái Nguyên và Bắc Kạn như ngày nay. Khi tách ra, tỉnh Thái Nguyên có 9 đơn vị hành chính gồm: thành phố Thái Nguyên (tỉnh lị), thị xã Sông Công và 7 huyện: Đại Từ, Định Hóa, Đồng Hỷ, Phú Bình, Phú Lương, Võ Nhai, Phổ Yên.