MTs Muhammadiyah Karangkajen semula berlokasi di Jl. Sisingamangaraja No 23 Yogyakarta menempati gedung milik Yayasan Wal Fajri. Dalam perjalanannya empat tahun kemudian mengalami penurunan animo masyarakat, sehingga tahun 1983 yayasan melepaskan. Untuk mengatasi hal tersebut, Pimpinan Cabang Muhammadiyah Mergangsan pada bulan Agustus 1987 memindahkan lokasi madrasah tersebut ke Komplek Panti Asuhan Yatim Putra Muhammadiyah Lowanu Mg 3/1361 Yogyakarta.
Berada di Komplek Panti Asuhan kurang lebih 17 tahun, MTs Muhammadiyah Karangkajen belum mampu mengembangkan secara optimal dikarenakan berbagai kendala, diantaranya ; masalah tempat, gedung, dana dan lain-lain. Kemudian pada tahun 2004 (22 Desember 2004) lokasi madrasah pindah menempati gedung baru milik sendiri di Jl. Sisingamangaraja Gg. Kalijaga No. 4. Alkhamdulillah dari tahun ke tahun MTs Muhammadiyah Karangkajen mengalami peningkatan kwantitas siswa, dibuktikan dengan jumlah siswa yang dari tahun ke tahun semakin bertambah.
Dapat dibandingkan bahwa dalam tahun pelajaran 2003/2004 siswa klas I, II, III berjumlah 68 siswa dan sekarang tahun pelajaran 2012/2013 jumlah siswa ada 255 siswa ( VII : 104, VIII : 77, IX : 74). Hal ini membuktikan bahwa MTs Muhammadiyah Karangkajen semakin diminati masyarakat luas.
