เมื่ออายุ ๙ ขวบได้ศึกษาภาษาไทยและภาษาบาลีตามลำดับในสำนักของพระอาจารย์เพ็ชร วัดแจ้ง จนอายุ ๑๕ จึงบรรพชาเป็นสามเณรที่วัดแจ้ง จนอายุได้ ๑๗ ปีจึงย้ายไปอยู่วัดมเหยงคณ์ ศึกษาภาษาบาลีในสำนักของพระครูการาม (จู)

     อุปสมบทเป็นพระภิกษุ ในปี พ.ศ. ๒๔๑๖ (อายุ ๒๐ ปี) โดยมี พระครูการาม (จู) เป็นพระอุปัชฌาย์ เมื่อพระครูการามย้ายมาเป็นเจ้าอาวาสวัดท่าโพธิ์ในปีต่อมา ท่านได้ตามมาอยู่ด้วย จนพระครูการามมรณภาพในปี พ.ศ. ๒๔๒๗ ท่านจึงได้เป็นเจ้าอาวาสแทน

     พ.ศ. ๒๔๓๒ พระเจ้าน้องยาเธอ กรมหมื่นวชิรญาณวโรรส เสด็จมาตรวจการพระศาสนาในหัวเมืองปักษ์ใต้ พระอธิการม่วงได้เข้าเฝ้าและตามเสด็จกลับมาศึกษาพระปริยัติธรรมที่กรุงเทพมหานคร ทรงให้ท่านอยู่วัดมกุฏกษัตริยารามราชวรวิหาร และในปีฉลูนั้นทรงให้ท่านทำทัฬหีกรรมบวชใหม่ในคณะธรรมยุตโดยมีพระพรหมมุนี (แฟง กิตฺติสาโร) เป็นพระอุปัชฌาย์ ส่วนพระองค์เองเป็นพระกรรมวาจาจารย์ บวชแล้วศึกษากับพระองค์ต่อ จนปีขาล พ.ศ. ๒๔๓๓ ได้เข้าสอบที่วัดพระศรีรัตนศาสดาราม ได้เป็นเปรียญธรรม ๔ ประโยค ปีต่อมาได้ทูลลากลับไปอยู่วัดท่าโพธิ์ตามเดิม

     พ.ศ. ๒๔๔๑ พระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัวเสด็จฯ ประพาสปักษ์ใต้ พระมหาม่วงได้เข้าเฝ้าและถวายรายงานเรื่องการพระศาสนาในเมืองนครศรีธรรมราชเป็นที่พอพระทัย และทรงเห็นว่าท่านมีคุณธรรมและอุตสาหะ จึงแต่งตั้งท่านเป็นพระราชาคณะเจ้าคณะใหญ่เมืองนครศรีธรรมราช ต่อมาวันที่ ๑๙ กรกฎาคม ร.ศ. ๑๒๑ ได้รับโปรดเกล้าฯ ตั้งเป็นเจ้าคณะมณฑลนครศรีธรรมราช และโปรดเกล้าฯ ให้พระยาวุฒิการบดีส่งสัญญาบัตรไปพระราชทาน ต่อมาวันที่ ๑๔ พฤษภาคม พ.ศ. ๒๔๖๙ ทรงประกาศให้รวมมณฑลสุราษฎ์และจังหวัดสตูลเข้ากับมณฑลนครศรีธรรมราช โดยโปรดให้ท่านเป็นเจ้าคณะมณฑลต่อตั้งแต่วันที่ ๒๓ เมษายน พ.ศ. ๒๔๖๙ เป็นต้นไป

     ในระหว่างดำรงตำแหน่งเจ้าคณะมณฑล นอกจากการปกครองสังฆมณฑลให้เรียบร้อย ท่านยังได้ทำงานสนองนโยบายของราชการโดยจัดการศึกษาแบบใหม่ขึ้นทั่วทั้งมณฑลนับแต่เมืองนครศรีธรรมราชไปจนถึงเมืองกลันตัน จนกระทั่งปี พ.ศ. ๒๔๗๒ ท่านจึงขอลาออกจากตำแหน่งเพราะชราภาพ แต่ปรากฏว่าเกิดความไม่สงบขึ้น ท่านจึงได้รับโปรดเกล้าฯ ให้กลับมาดำรงตำแหน่งเจ้าคณะมณฑลอีกครั้งตั้งแต่วันที่ ๒๐ กุมภาพันธ์ พ.ศ. ๒๔๖๗ เมื่อสะสางปัญหาต่าง ๆ เรียบร้อยท่านจึงขอลาออกอีกครั้งด้วยเหตุผลเดิม จึงพระราชทานพระบรมราชานุญาตและให้พระธรรมโกษาจารย์ (เซ่ง อุตฺตโม) เจ้าคณะมณฑลภูเก็ต ดำรงตำแหน่งเจ้าคณะมณฑลนครศรีธรรมราชด้วยอีกตำแหน่งหนึ่งตั้งแต่วันที่ ๙ มิถุนายน พ.ศ. ๒๔๗๑