วัดถ้ำเขาวงแต่เดิมชื่อ ธรรมสถานถ้ำเขาวง คือโดยภูมิประเทศแล้วเป็นสถานที่ที่มีภูเขาล้อมรอบ ด้านบนมีถ้ำหลายแห่ง ในหน้าฝนจะมีน้ำตกไหลให้ความร่มเย็นชุ่มชื่น พระภิกษุที่มาอยู่อาศัยก็มีความตั้งใจที่จะพัฒนาสถานที่ให้เป็นที่ปฏิบัติธรรมจึงได้ตั้งชื่อว่า ธรรมสถานถ้ำเขาวง ก่อตั้งเมื่อ ปี พ.ศ. ๒๕๓๐
วัดถ้ำเขาวง ตั้งอยู่ในตำบลบ้านไร่ เป็นอาคาร 4 ชั้น มีลักษณะสถาปัตยกรรมเป็นแบบไทย ใต้ถุนเป็นลานเอนกประสงค์รวมทั้งร้านขายของ ชั้นที่ 2 เป็นวิหาร ชั้นที่ 3 เป็นกุฏิ ส่วนโบสถ์จะอยู่ชั้นที่ 4 สร้างด้วยไม้สัก และไม้มะค่า รวมทั้งไม้เก่าจากเรือนไทยจากจัหวัดพระนครศรีอยุธยา อ่างทอง หลังคานำมาจากลำพูน ช่างที่เข้าตัวเรือน รวมทั้งทำส่วนตัวเหงา ป้านลม และจั่ว มาจากพระนครศรีอยุธยา การจัดภูมิทัศน์ในวัดสวยงาม ฉากหลังเป็นเขาหินปูนสูงตระหง่าน ด้านหน้ามีบ่อน้ำซึ่งมีปลาอาศัยอยู่มากมายและสวนที่ตกแต่งด้วยหิน ไม้ดัด และไม้ประดับ ระหว่างทางเดินที่จะขึ้นไปชมถ้ำ จะผ่านน้ำตกเทียม ที่เขาด้านหลังจะมีถ้ำอยู่ 7-8 ถ้ำ บางถ้ำเป็นที่นั่งวิปัสสนาสำหรับพระภิกษุ บางถ้ำเป็นถ้ำค้างคาว บางถ้ำมีหินงอกหินย้อยให้ชม บนเขามีที่ราบกว้างมีต้นไม้หลายชนิด เช่น ไม้ยาง ไม้มะค่า ไม้เสลา เป็นต้น มีสัตว์ป่าอาศัยอยู่บ้าง ยังมีหมูป่าลงมาในบางครั้ง