MTs Muhammadiyah Karangkajen semula  berlokasi  di Jl.  Sisingamangaraja  No 23 Yogyakarta  menempati  gedung  milik  Yayasan Wal Fajri.  Dalam perjalanannya empat tahun  kemudian mengalami penurunan animo masyarakat, sehingga tahun 1983 yayasan melepaskan. Untuk  mengatasi  hal  tersebut, Pimpinan Cabang  Muhammadiyah Mergangsan   pada   bulan   Agustus  1987  memindahkan   lokasi  madrasah  tersebut  ke Komplek  Panti  Asuhan  Yatim Putra Muhammadiyah  Lowanu Mg 3/1361 Yogyakarta.

Berada di   Komplek   Panti   Asuhan    kurang   lebih  17 tahun,  MTs Muhammadiyah Karangkajen  belum  mampu  mengembangkan   secara   optimal   dikarenakan berbagai kendala, diantaranya ; masalah tempat, gedung, dana dan lain-lain. Kemudian  pada  tahun 2004 (22 Desember 2004)   lokasi  madrasah  pindah  menempati gedung  baru  milik  sendiri    di  Jl. Sisingamangaraja  Gg. Kalijaga No. 4. Alkhamdulillah  dari  tahun   ke  tahun  MTs  Muhammadiyah   Karangkajen  mengalami peningkatan kwantitas siswa,   dibuktikan  dengan  jumlah  siswa yang dari tahun ke tahun semakin bertambah.

Dapat dibandingkan bahwa dalam tahun pelajaran 2003/2004 siswa klas I, II, III berjumlah 68 siswa dan sekarang tahun pelajaran 2012/2013 jumlah siswa ada 255 siswa ( VII : 104, VIII : 77, IX : 74).  Hal ini membuktikan bahwa MTs Muhammadiyah Karangkajen semakin diminati masyarakat luas.