Etter at slaget ved Neherwan var over holdt Khawarij gruppen daglige møter i Mekka og gråt over deres avdøde som ble drept i kampene ved Neherwan. En dag sa de til hverandre; «Ingen nytte av å sitte her og gråte. Vi burde drepe de tre, Ali (as), Muawiyah og Amr Aas, som har ødelagt den islamske staten og drept våre brødere.» De inviterte tre frivillige til å utføre disse ærende. Ibn-e Muljim tok på seg ansvaret for å drepe Ali (as), Hajjaj bin Abdullah ble enig om å drepe Muawiyah og Amro bin Bakr Taimeemi tok ansvaret sa; «Jeg kan drepe Amr Aas.» De tre bestemte seg i mellom at de skal utføre den grusomme handlingen den 19. Ramadhan.
To av dem mislyktes, mens Ibn-e Muljim var den eneste til å lykkes. Ibn-e Muljim kom til Kufa og kontaktet fiendene til Ali (as) og bodde i deres hus frem til den 19. Ramadhan. En dag traff Ali (as) Ibn-e Muljim på veien. Ibn-e Muljim prøvde og gjemme seg, men fikk det ikke til, og Ali (as) sa til han; «jeg vet hva du vil her i Kufa.» Med engang Ibn-e Muljim hørte dette ble han så redd og skjelven at hans bein ikke klarte å bære han. Han sa til Imam Ali (as); «O Ali (as) hvis det er slik så gi meg dødstraff, sett meg i fengsel eller bannlys meg fra stedet.» Ali (as) så på han og svarte; «Uansett om jeg kan sette alle dine forslag i praksis så lar ikke Islam meg dømme deg for noe du ikke har utført. Så jeg er pliktig til å la deg gå fri. Kanskje angrer du på valget ditt.»
Den 19. Ramadan år 40 Hijra angrep Ibn-e Muljim hode til Ali (as) med et giftig sverd. Ali (as) var i sajdah, mens han var skadet og ropte ut, «Ved Gud har jeg lyktes.» Fra himmelen skrek engelen Gabriel, «Rettledningens grunnlag har falt – Ali (as) har blitt en martyr.» Folk løp ut av husene sine og arresterte Ibn-e Muljim. De bar Ali (as) til huset hans. Imam Hassan (as) fengslet morderen og informerte sin far om dette.
Ali (as) sa til sin sønn, «O kjære sønn! Denne mannen som er min morder og din fange, pass godt på at han får riktig med mat og drikke og ikke skad han. Hvis jeg overlever vet jeg hva jeg skal gjøre av ham, men hvis jeg dør så slå han kun med et slag over hodet hans.»
Ali (as) overlevde ikke dette slaget. Han døde to dager etter den 21. Ramadan i en alder av 63 år. Han ble gravlagt i all hemmelighet i Najaf (Irak).