ภายหลังจากอุปสมบทแล้ว พระมหาแพ ก็ได้เดินทางกลับสู่วัดชนะสงคราม เพื่อตั้งใจศึกษาทางด้านพระปริยัติธรรม ให้ได้ในระดับสูงที่สุด เพื่อที่จะได้นำความรู้ ความสามารถที่ได้ฝักใฝ่ศึกษาเล่าเรียนนั้น นำไปสร้างสรรค์ให้เกิดคุณค่าและประโยชน์ต่อชุมชนและพระพุทธศาสนาอย่างเต็มที่ พระมหาแพ พยายามที่จะศึกษาเล่าเรียนหาความรู้ อ่านหนังสือตำราเรียนอยู่เสมอ และในปีเดียวกันนั้นท่านสอบนักธรรมชั้นโทได้

     โดยความมุมานะพยายาม โดยอาศัยแสงสว่างจากเทียนไขหรือตะเกียง โดยส่วนมากเพราะสาเหตุนี้ นัยน์ตาอันเป็นส่วนสำคัญของสังขาร ก็เกิดอาการเจ็บปวดอย่างรุนแรง ทุกครั้งที่ตรากตรำอ่านหนังสือมากเกินไปในที่สุด นายแพทย์โรงพยาบาลจุฬาลงกรณ์ ได้แนะนำไม่ให้อ่านหนังสืออีกต่อไป มิฉะนั้น นัยน์ตาอาจพิการได้

     ดังนั้นภายหลังจากสอบได้เปรียญธรรม ๔ ประโยคแล้ว การศึกษาด้านพระปริยัติธรรมก็ต้องยุติลง แต่ด้วยความที่เป็นผู้มีใจใฝ่การศึกษา พระแพ เขมังกโร จึงได้ศึกษาและปฏิบัติสมถกัมมัฎฐาน วิปัสสนากัมมัฎฐานในสำนักของพระครูภาวนาฯ วัดพระเชตุพนวิมลมังคลาราม จนชำนาญและดำเนินการสั่งสอนให้แก่ประชาชนทั่วไป

     เมื่ออายุประมาณ ๒๔-๒๕ ปี สมัยยังศึกษาอยู่ที่กรุงเทพฯ ท่านได้เริ่มสนใจในทางปฏิบัติเพื่อหาความสงบทางใจ จึงเข้าอบรมและปฏิบัติวิปัสสนากรรมฐานในสำนักพระครูภาวนาฯ วัดพระเชตุพนวิมลมังคลาราม ได้ความรู้ในแถวทางปฏิบัติมาพอสมควร และยังได้ศึกษาจากพระครูใบฎีกาเกลี้ยง วัดสุทัศนเทพวราราม ซึ่งเป็นฐานานุกรมและศิษย์ผู้ใกล้ชิด สมเด็จพระอริยวงศาคตญาณ สมเด็จพระสังฆราช (แพ ติสฺสเทโว) วัดสุทัศนเทพวราราม ซึ่งเชี่ยวชาญทางด้านสร้าง-ลบผงพุทธคุณ พระครูใบฎีกาเกลี้ยง ท่านได้เมตตาสั่งสอนอบรม และมอบตำราเกี่ยวกับจิตศาสตร์วิทยาคมให้

     ต่อมาทราบว่าในท้องที่อำเภอบางระจัน มีพระอาจารย์เรืองวิทยาคมอยู่รูปหนึ่ง มีคนนับถือและเกรงกลัวมากเพราะวาจาศักดิ์สิทธิ์ ชื่อ หลวงพ่อศรี เจ้าอาวาสวัดพระปรางค์ ท่านจึงได้เดินทางไปฝากตัวเป็นศิษย์ จนมีความสามารถและเป็นที่โปรดปรานของหลวงพ่อศรี เป็นอย่างยิ่ง

     ท่านเล่าว่า หลวงพ่อศรี เมตตาสอนวิทยาคมให้อย่างไม่ปิดบังอำพราง และในขณะที่ก่อสร้างพระอุโบสถ หลวงพ่อศรีก็แนะนำให้ท่านสร้างแหวน และทุกครั้งที่ท่านได้สร้างเสร็จ ท่านจะนำไปถวายหลวงพ่อศรีปลุกเสก (ท่านถามหลวงพ่อศรีว่า สร้างแล้วคนนิยมกันไหม หลวงพ่อศรี ท่านบอกว่านิยมมาก ให้สร้างมากๆ ท่านจะสนับสนุน) ด้วยความเมตตาของหลวงพ่อศรีนี้เอง ทำให้ท่านได้สร้างพระอุโบสถหลังใหม่ ได้สำเร็จในเวลา ๒ ปีเศษ

     พระธรรมมุนี (หลวงพ่อแพ) มีโรคประจำตัว คือ เบาหวาน และโรคชรา เมื่อวันที่ ๒๔ สิงหาคม พ.ศ. ๒๕๔๑ ทางคณะแพทย์ได้เห็นสมควรนำหลวงพ่อเข้าพักรักษาพยาบาล ที่โรงพยาบาลสิงห์บุรี เนื่องจากตรวจพบว่าหลวงพ่อเป็นโรคปอดอักเสบ ทางคณะแพทย์ได้ถวายการรักษาจนอาการดีขึ้น

     ต่อมาในวันที่ ๗ กันยายน พ.ศ. ๒๕๔๑ ท่านอาการทรุดลง จนกระทั่งเวลา ๐๑.๓๐ น. ของวันที่ ๘ กันยายน พ.ศ.๒๕๔๑ ท่านได้มีอาการหัวใจเต้นเร็วผิดปกติ ไม่รู้สึกตัว และหัวใจหยุดเต้น ทางคณะแพทย์ได้ทำการช่วยจนหลวงพ่อฟื้นคืนชีพได้สำเร็จ และทางได้ถวายดูแลรักษาจนอาการดีขึ้น จนกระทั่งเมื่อวันพุธที่ ๑๐ กุมภาพันธ์ พ.ศ.๒๕๔๒ หลวงพ่อท่านได้ละสังขารลงอย่างสงบ ณ ห้อง ๙๐๑ ชั้น ๙ อาคารหลวงพ่อแพ เขมังกโร ๙๔ ปี โรงพยาบาลสิงห์บุรี จังหวัดสิงห์บุรี สิริอายุได้ ๙๔ พรรษา ๗๓