SMK Chanis mula dibina pada pertengahan tahun 1997. Kerja-kerja meratakan tanah tapak pembinaan dijalankan pada bulan Julai tahun 1997. Pada awal pembinaannya, tiga blok bangunan, sebuah kantin dan bengkel pertanian didirikan di atas tapak tanah seluas 9.307 hektar. Ia terletak di pekan Chanis iaitu sebuah pekan kecil di gugusan Felda Keratong 6 dan Keratong 7.

Pada 28 Disember 1998 kerja-kerja pembinaan siap sepenuhnya. SMK Chanis mula dibuka bagi pengambilan pelajar pertama yang dibuat pada sesi persekolahan 1999. Pelajar kumpulan pertama yang diambil ialah seramai 549 orang pelajar. Daripada jumlah tersebut, 269 daripadanya adalah pelajar lelaki dan 281 pelajar perempuan. Pengetua yang pertama diamanahkan untuk memimpin sekolah ini ialah Encik Hashim bin Puteh.

Pada tahun 2002, struktur fizikal sekolah ini mengalami penambahbaikan bagi memenuhi keperluan semasa dengan pembinaan tambahan sebuah blok bangunan pembelajaran, sebuah dewan dan sebuah makmal komputer.

Blok bangunan pembelajaran yang baru ini dilengkapi dengan makmal sains, bengkel bagi mata pelajaran Teknologi Kejuruteraan, bengkel Seni Reka Tanda, stor peralatan sukan dan bilik darjah.

Sebuah dewan yang dinamakan Dewan Al-Ghazali digunakan bagi tujuan perhimpunan mingguan pagi dan upacara-upacara rasmi sekolah di samping digunakan sebagai dewan peperiksaan dan gelanggang permainan badminton.