7 xã khu ATK Yên Sơn có 64 di tích lịch sử văn hoá, trong đó riêng xã Kim Quan có 16 di tích. Nơi đây, Bác Hồ và hầu hết các cơ quan Trung ương Đảng, Chính phủ đã ở và làm việc trong thời kỳ kháng chiến chống thực dân Pháp xâm lược. Đến xã Kim Quan, chúng ta được đến thăm lán ở, làm việc và hầm an toàn của Chủ tịch Hồ Chí Minh tại thôn Khuôn Điển, được xếp hạng di tích lịch sử cấp Quốc gia. Đây là nơi ở và làm việc của Chủ tịch Hồ Chí Minh từ đầu năm đến tháng 8 năm 1945. Chính tại nơi này, Người đã chỉ đạo nhiều phiên họp của Bộ Chính trị, Hội đồng Chính phủ, lãnh đạo toàn Đảng, toàn quân, toàn dân ta giành thắng lợi trong chiến dịch Đông Xuân 1953 - 1954, mà đỉnh cao là chiến thắng lịch sử Điện Biên Phủ, đưa cuộc kháng chiến chống thực dân Pháp xâm lược của dân tộc ta đến thắng lợi hoàn toàn. Tại thôn Khuôn Điển còn có các di tích: Hầm an toàn của Trung ương Đảng, hầm an toàn của Chính phủ, văn phòng làm việc của Tổng Bí thư Trường Chinh...

Trong kháng chiến, nhân dân các dân tộc xã Kim Quan đã giúp đỡ, che chở cho cách mạng. Ngày hôm nay, nhân dân các dân tộc xã Kim Quan vẫn luôn tự hào về những truyền thống đó và cùng nhau gìn giữ, góp phần xây dựng quê hương ngày càng đổi mới.

Yên Sơn còn nổi tiếng với di tích đình làng Giếng Tanh, thôn Giếng Tanh, xã Kim Phú được công nhận Di tích kiến trúc nghệ thuật cấp tỉnh. Đình làng Giếng Tanh là tên thường gọi của nhân dân địa phương đã có từ lâu đời. Theo thần phả và tư liệu dân gian còn lưu truyền tại địa phương, Đình được xây dựng năm 1706. Tương truyền, có một cụ già tên là Tiêu Hiệp Phượng thương dân sống trong cảnh bần hàn, đã đến đền thờ Hùng Vương xin vua Hùng phù hộ cho dân qua cơn hoạn nạn. Trước lời cầu xin của ông, vua Hùng cắt cử hai vị tướng đã được phong sắc với hiệu là “Đức vua cả Ngọc Sơn quân linh ứng đại vương và Đức vua cả Nghiêm Sơn trung chính lệnh ứng đại vương” đến miền Yên Sơn để bảo hộ dân làng Giếng Tanh. Từ ngày có 2 vị tướng bảo hộ, dân làng làm ăn yên ổn, mùa màng bội thu. Để tỏ lòng biết ơn 2 vị thành hoàng, người dân đã dựng lên ngôi đình để tưởng nhớ và lấy ngày 10 tháng Giêng là ngày giỗ làng.

Vì vậy, cứ vào ngày 10 tháng Giêng hàng năm, người dân Giếng Tanh lại tổ chức lễ hội. Mỗi nhà đều góp gạo, góp thịt hoặc hoa quả để cùng với cộng đồng làng xã mang lên tế đình. Mọi người cùng cầu mong một năm mưa thuận, gió hoà, mùa màng tốt tươi, nhân dân có cuộc sống no ấm. Lễ hội đã trở thành sinh hoạt văn hoá truyền thống không chỉ thu hút người dân trong huyện, trong tỉnh tham gia mà còn thu hút khách thập phương về dự. Ông Tiêu Cao Bắc, 76 tuổi, thôn 15, xã Kim Phú cho biết: “Từ thời ông, cha của ông đã sống ở đây và hàng năm nhân dân đều nô nức chuẩn bị tham dự lễ hội đình làng. Từ năm 2006 đến nay, ông được nhân dân tin tưởng bầu làm quản lý đình (hay còn gọi là ông trùm đình). Người được bầu làm ông trùm phải được nhân dân bầu, có gia đình nền nếp, con cháu ngoan ngoãn, thảo hiền. Năm 2009, huyện đã chọn tổ chức Lễ hội Đình làng Giếng Tanh quy mô cấp huyện, đây vừa là niềm vinh dự, tự hào cho nhân dân trong làng, vừa là lời nhắc nhở đối với mỗi người dân hãy góp phần gìn giữ, bảo tồn nét đẹp văn hoá của dân tộc mình”.