Bangunan pertama yang didirikan merupakan sebuah sekolah yang dibina secara bergotong-royong. Pada tahun 1957, Jabatan Pelajaran Negeri telah menaikkan taraf sekolah ini kepada Sekolah Bantuan Penuh Kerajaan.
Perkembangan pendidikan di sekolah ini sungguh pesat dan menarik banyak perhatian daripada golongan pendidik, pemimpin dan juga penduduk setempat. Pada 31 Oktober 1965 iaitu kira-kira 8 tahun selepas dinaiktaraf, sekolah ini telah dirasmikan oleh Menteri Pelajaran Malaysia ketika itu iaitu En. Mohd Khir b. Johari. Sempena majlis perasmian yang bersejarah itu, Sekolah Kampung Melayu telah diubah namanya kepada Sekolah Mohd Khir Johari.
Hari berganti hari dan masa berlalu begitu pantas. Pada tahun-tahun berikutnya, beberapa buah bangunan tambahan telah dibina untuk menampung pertambahan murid yang semakin pesat. Dari sebuah sekolah kecil yang hanya menampung 53 orang murid pada awal penubuhannya kini telah mencapai 1500 orang. Pernah suatu ketika jumlah murid mencapai 2100 orang. Pertambahan ini juga menyebabkan pihak sekolah mewujudkan sesi pagi dan petang sejak 1963 lagi.
Keluasan tanah sekolah ini meliputi 8 ekar 3 rod 37 pole. Bangunan sekolah pertama yang dibina secara gotong-royong pada tahun 1956 telah diketuai oleh En. mohd Amin b. Salikin yang merupakan Ketua Kampung di Kampung Melayu.
Berikut ialah senarai nama pengasas Sekolah Kebangsaan Mohd Khir Johari:
01. En. Mohd Amin b. Salikin
02. En. Abdul Rahim b. Ahmad
03. En. Mohd Don b. Abdul Rahman
04. Tn. Hj. Nordin b. Ishak
05. En. Hussein b. Hj. Musa
06. En. Salleh b. Kemin
07. En. Siraj b. Kemin
08. Tn. Syed Abdul Rahman b. Othman
09. En. Mahad b. Mohamad
10. En. Sarni b. Hassan
11. En. Haris b. Dimin
12. En. Buruk b. Mohd Sikh
13. En. Mustapha b. Abu Bakar
14. En. Mulani b. Hassan
Sesungguhnya usaha dan jasa mereka akan dikenang selamanya.
TAN SRI MOHAMED KHIR JOHARI.
Siapakah beliau?
Tan Sri Mohamed Khir Johari dilahirkan pada 29 Januari 1923. Beliau dilahirkan di Kampung Kancut, Alor Star Kedah dan mendapat pendidikan awal di Sekolah Melayu Jalan Bharu dan Sungai Korok sebelum melanjutkan pendidikan menengah di Kolej Sultan Abdul Hamid, Alor Star. Beliau yang lebih dikenali dengan panggilan 'Pak Khir' mempunyai sembilan anak.
Allahyarham merupakan seorang tokoh yang aktif dalam pelbagai aktiviti sosial seperti sukan dan alam sekitar. Beliau pernah dilantik sebagai Presiden Persatuan Sepak Takraw Malaysia (PSM) dan pernah dianugerahkan sebagai Bapa Sepak Takraw oleh Persatuan Sepak Takraw Antarabangsa (ISTAF) setahun kemudian. Di bawah kepimpinannya dalam Persatuan Badminton Malaysia (BAM), skuad negara berjaya membawa pulang gelaran berprestij berpasukan dunia dari Jakarta iaitu Piala Thomas pada 1967.
Allahyarham menjadi penaung kepada Persatuan Kebajikan Pekak dan Pusat Sindrom Down Kiwanis. Allahyarham juga aktif dalam Pertubuhan Kebajikan Islam Malaysia (Perkim) dan Yayasan Amanah Pembinaan Islam (Astaf). Selain itu, allahyarham pernah menjawat Presiden Persatuan Zoologikal Malaysia dan pengasas bersama serta Presiden Pergerakan Pemeliharaan Hidupan Liar, WWF Malaysia.
Allahyarham telah merasmikan upacara pembukaan rasmi Sekolah Menengah Kebangsaan Abdul Rahman Talib, Kuantan pada 12 Jun 1967 dan Sekolah Menengah Kebangsaan Cheras pada 27 Mac 1969 juga Sekolah Kampung Melayu Majidee di Johor Bahru (sekarang dikenali sebagai SK Mohd Khir Johari) semasa menjadi Menteri Pelajaran.
Beliau merupakan satu-satunya tokoh yang namanya banyak diabadikan di sekolah-sekolah seluruh negara. Antara sekolah tersebut ialah SK Khir Johari di Prai (Pulau Pinang), Sekolah Kampung Melayu Majidee (Johor), Sabak Bernam (Selangor) dan SMK Khir Johari Sungai Petani (Kedah), Tanjung Malim (Perak), Beranang (Selangor) dan Bagan Datoh (Perak).
Allahyarham pernah menjadi Menteri Muda di Kementerian Pertanian dan Perikanan pada 1955 sebelum memegang jawatan menteri di beberapa kementerian termasuklah Menteri Pelajaran (1957-1959/1965-1968). Allahyarham juga pernah menjadi Menteri Perdagangan dan Industri (1960-1962/1969-1972), Menteri Pertanian dan Koperasi (1963-1964) dan Menteri Tanpa Portfolio (1973).
Ekoran itu, generasi muda yang mendapat didikan selepas beliau menjadi menteri di Kementerian Pelajaran telah menjadi generasi yang kurang mahir dalam tulisan jawi. Serentak dengan itu juga akhbar utama orang Melayu ketika itu, Utusan Melayu menjadi semakin malap dan tidak popular. Pada tahun 2005, Utusan Melayu telah terkubur dan pihak kerajaan terpaksa menghidupkannya kembali dengan tajaan dari pihak-pihak tertentu.
Allahyarham menghembuskan nafas terakhir pada 19 November 2006 sewaktu sedang bersarapan pagi di kediamannya dan disahkan meninggal dunia akibat sakit jantung. Jenazah Allahyarham Mohd Khir dimandikan dan dikafankan di Masjid Negara sebelum dikebumikan di perkarangan Makam Pahlawan mengikut Istiadat Pengebumian Pembesar Negara kira-kira 6.45 petang.
Lebih 500 orang hadir di Masjid Negara bagi memberi penghormatan terakhir kepada allahyarham termasuklah Timbalan Perdana Menteri ketika itu, Datuk Seri Najib Tun Razak. Semoga roh beliau ditempatkan bersama-sama dengan orang yang beriman.