Khadimul Ummah berarti “pelayan masyarakat”, itulah yang menjadi nama pondok pesantren yang didirikan oleh Abdurrosyid Ahmad bersama tokoh-tokoh masyarakat di dusun Garon, desa Banyuroto, kecamatan Sawangan, kabupaten Magelang pada tahun bulan Rabiul Awwal tahun 2001. Dusun Garon terletak di lereng gunung Merbabu, di tepi jalan raya antara Kaponan-Pakis dengan Ketep-Sawangan.

Oleh pendirinya, pondok pesantren ini diurus selama setahun dan kemudian diserahkan kepada salah seorang santri alumni dari suatu pesantren di Malang Jawa Timur, Mustofa. Hingga 12 tahun kemudian, tokoh-tokoh masyarakat menghendaki agar pendirinya kembali mengurus pesantren ini karena keadaanya terbengkelai, tanpa santri dan tanpa pengasuh. Sejak tahun 2013, pengelolaan Khadimul Ummah menjadi tanggungjawab pendirinya dan menjadi cabang pertama dari Pondok Pesantren Selamat. Untuk memulai aktifitas pendidikan, beberapa santri dan pengasuh dari Pondok Pesantren Selamat Pusat ditempatkan di Pondok Pesantren Khadimul Ummah.

Pondok pesantren ini memiliki potensi yang besar untuk berkembang. Ia didukung penuh oleh masyarakat sekitarnya, terutama 3 orang Kepala Desa, yaitu Banyuroto, Wulung Gunung, dan Wonolelo beserta 16 orang Kepala Dusun masing-masing. Masyarakat pada umumnya menaruh harapan yang besar terhadap Pondok Pesantren Khadimul Ummah dapat berfungsi menjadi wahana pendidikan Islam bagi generasi penerus, bersamaan momentum keinginan masyarakat di sana untuk dapat melaksanakan ajaran Islam dengan baik.