Theo Ngọc phả, truyền thuyết địa phương cùng nội dung khắc trên bài vị thờ tại chính tẩm thì vị vua thứ nhất được tờ ở đây là Đinh Tiên Hoàng đế, có công dẹp loạn 12 xứ quân thống nhất đất nước lập ra triều đại phong kiến chính thống ở Việt Nam vào thế kỷ thứ X. Đinh Bộ Lĩnh đã cùng Đinh Điền, Đinh Bang về đây lập căn cứ tuyển quân vừa là nơi huấn luyện binh sĩ, là vị trí tiền đồn cho quân doanh ở Hoa Lư Ninh Bình. Chỗ vua Đinh đóng quân chính là điểm mà sau này nhân dân lập sinh từ, rồi đền thờ vua Đinh ở trên đỉnh núi Lăng thiết lập năm 972, là nơi thờ vua Đinh Tiên Hoàng. Giữa thân núi là sinh từ, thời Lê Hoàn làm Thập đạo Tướng quân, vinh quy bái tổ về đây xây dựng năm 971, sau trở thành từ đường nhà Tiền Lê, nhân dân địa phương gọi là đền Trung.Trải qua nhiều biến thiên của lịch sử, đền Thượng, đền Trung nay chỉ còn dấu tích. Hiện chỉ còn đền Hạ, dưới chân núi Lăng, còn gọi là đền Lăng được công nhận Di tích Lịch sử - Văn hóa cấp quốc gia vào năm 1999. Đền Lăng, cung trong thờ tứ vị Hoàng đế, cung ngoài thờ tam vị Đại vương. Đền Lăng được nhân dân tôn lập thời hậu Lê, đầu Nguyễn theo truyền chỉ trước đây của vua Lý Thái Tổ. Dưới thời Pháp thuộc, đền Lăng là di tích sớm được nhà nước chú ý. Ngày 16/5/1925, toàn quyền Đông Dương ra thông báo liệt hạng là di tích được bảo vệ. Đền Lăng cũng là địa điểm được nhân dân lựa chọn tập hợp tuyên truyền cách mạng, du kích địa phương luyện tập các hoạt động chống địch nhảy dù trên đường 21, ngăn chặn bước tiến của địch góp phần bảo vệ thành quả cách mạng.
Lễ hội truyền thống Đền Lăng năm nay được tổ chức với phần lễ an vị, lễ khai hội, lễ tế Nam quan Nữ quan, lễ rước kiệu từ Đền Hạ đến Mả Dấu và từ Mả Dấu về Đền Hạ, rước hương linh cụ Lê Lộc về Mả Dấu, lễ dâng hương, lễ tạ, các trò chơi dân gian và các chương trình văn nghệ. Thông qua lễ hội nhằm tưởng nhớ và tri ân công đức to lớn của vua Lê Đại Hành cũng như các bậc tiền nhân trong sự nghiệp xây dựng và bảo vệ Tổ quốc.
