ถ้ำเขาหลวง อยู่บนเขาหลวง ห่างจากเขาวังประมาณ ๕ กิโลเมตร จากเชิงเขามีบันไดคอนกรีตนำสู่ทางลงถ้ำ เขาหลวงเป็นภูเขาขนาดเล็กมีความสูง ๙๒ เมตร มีหินงอกหินย้อยสวยงาม ภายในมีปล่องที่แสงอาทิตย์สามารถส่องเข้ามาภายในถ้ำได้ทำให้สวยงามยิ่งขึ้น ถ้ำเขาหลวงถือเป็นถ้ำใหญ่และสำคัญที่สุดในเมืองเพชร ภายในถ้ำประดิษฐานพระพุทธรูปฉลองพระองค์อันสำคัญยิ่ง ซึ่งพระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว โปรดให้สร้างถวายพระบาทสมเด็จพระจอมเกล้าเจ้าอยู่หัว ซึ่งเคยเสด็จประพาสมาและทรงโปรดถ้ำแห่งนี้มาก ทั้งยังทรงบูรณะพระพุทธรูปเก่าแก่ที่มีมาแต่โบราณภายในถ้ำนี้หลายองค์ด้วยกัน และโปรดเกล้าฯ ให้สร้างบันไดหินลงไปในถ้ำ
ตรงทางเข้าเชิงเขาหลวงด้านขวามือมีวัดใหญ่อยู่วัดหนึ่ง ชาวเมืองเรียกว่า “วัดถ้ำแกลบ” ปัจจุบันชื่อ “วัดบุญทวี” ซึ่งเป็นวัดใหญ่น่าชมมาก เพราะท่านเจ้าอาวาสวัดนี้เป็นช่าง ได้ออกแบบและสร้างศาลาการเปรียญที่ใหญ่โต ประตูโบสถ์เป็นไม้สลักลายสวยงามมาก วัดถ้ำแกลบนี้มีตำนานเล่าว่า ปากถ้ำแกลบที่วัดนี้คือ ทางเข้าสู่เมืองลับแลอันเป็นเมืองที่มีแต่หญิงสาวทั้งนั้น แต่ก็เป็นเพียงตำนานของชาวเมืองเพชรนับร้อยปีมาแล้ว