Secara etimologis kata Khawarij berasal dari bahasa Arab "Khoroja" yang artinya keluar, muncul, timbul atau memberontak. ini yang mendasari Syahrastani untuk mtnyebut khawarij terhadap orang yang memberontak Imam yang syah. Berdasarkan etimologi ini pula, Khawarij berarti setiap muslim yang ingin keluar dari kesatuan umat Islam.
Sedangkan secara istilah ilmu Kalam, Khowarij adalah suatu kelompok pengikut Ali bin Abi Tholib yang keluar meninggalkan barisan karena ketidaksepakatan terhadap keputusan Sayyidina Ali yang menerima arbitrase (tahkim) dalam perang Shiffin melawan Mu'awiyah bin Abi Sufyanpada tahun 37 H.
Kelompok Khowarij mulanya memandang Ali dan pasukannya berada di pihak yang benar, dan mengakui Ali sebagai kholifah yang Sah, sementara Mu'awiyah berada di pihak yang salah karena memberontak pemerintahan yang sah.
Ali sebenarnya sudah mencium kelicikan dibalik ajakan damai, sehingga ia bermaksud menolak ajakan itu.