Hiện nay, huyện đã sưu tầm, thống kê được 265 di tích. 53 di tích đã được xếp hạng, 8 di tích cấp quốc gia. Hệ thống di tích, danh thắng trên địa bàn huyện đã xếp hạng đều được  bảo vệ, phát huy giá trị. Đến nay, đã có 31 di tích được trùng tu, tôn tạo với số tiền trên 5 tỷ đồng, trong đó vốn Nhà nước đầu tư là 1,7 tỷ đồng, còn lại là ngân sách địa phương. Một số xã có di tích đã gắn việc tu bổ nâng cấp với xây dựng kết cấu hạ tầng về giao thông, điện, nước, bãi đỗ xe, nơi ăn nghỉ, dịch vụ, vệ sinh môi trường...

Văn hóa, văn nghệ cổ truyền được các địa phương giữ gìn, bảo lưu và nhân rộng, một số lễ hội được duy trì và thực hiện tốt  như lễ hội đình Cơm Thi, đốt lửa đình Liệu đêm giao thừa, lễ mừng thọ, rước kiệu, lễ hội đền Hàn, đền Rồng, lễ hội đền Trần, lễ khai ấn đền Lý Thường Kiệt... Hằng năm, các xã đã đầu tư hàng tỷ đồng để tổ chức hội thi, hội diễn văn nghệ, trò chơi, trò diễn dân gian và lễ hội truyền thống.

Cùng với việc đẩy mạnh  công tác trùng tu, tôn tạo sửa chữa các di tích, hoạt động lễ hội được các cấp chính quyền địa phương quan tâm. Gắn việc bảo vệ, phát huy giá trị DSVH với công tác xây dựng làng xã, xã văn hóa, triển khai quán triệt thực hiện các văn bản quy phạm pháp luật về DSVH, tuyên truyền, phổ biến pháp luật về DSVH. Xóa bỏ các hình thức đấu thầu, ngăn chặn, bài trừ các hoạt động mê tín, thương mại hóa hoạt động tín ngưỡng, bảo đảm tốt trật tự, an toàn xã hội, tạo điều kiện thuận lợi cho khách thập phương đến tham quan, vãn cảnh.