Après la mort du Prophète, Salim prit part aux batailles contre les apostats.
Lors de la bataille d’Al Yamama, il combattit au côté de son frère Abu Hudayfa. Comme pour les autres Croyants, cette bataille était pour Salim la bataille de sa vie, il devait donc prendre toutes ses responsabilités.
Le combat avait été particulièrement féroce, car les musulmans avaient durement été touchés au début de la bataille. Mais grâce à l’habileté et au génie militaire de Khalid, les combattants musulmans étaient parvenus à se regrouper à nouveau.
Abu Hudayfa et Salim étaient inséparables sur le champ de bataille. Ils souhaitaient tomber en martyrs ensemble. Alors qu’ils combattaient l’ennemi, Abu Hudayfa criait :
“Ô peuple du Coran ! Embellissez le noble Coran par vos actes.”
Son épée s’abattait ensuite sur les hommes de Musaylima comme de la foudre. Quant à Salim, il criait :
“Quel mauvais porteur du Coran je serais si les musulmans étaient attaqués parce que je n’aurais pas tenu ma position.”
Ô Salim ! Que Dieu t’honore. Tu as certes été digne du Coran que tu portais.
Le jour de la bataille d’Al Yamama fut le dernier jour de Salim dans ce bas monde. Un coup d’épée trancha sa main droite alors qu’il portait l’étendard des Muhajirin. En effet, Salim s’était emparé de l’étendard après que Zayd soit tombé en martyr. Lorsque sa main droite fut tranché, Salim prit l’étendard de sa main gauche en récitant le verset suivant :
“Combien de Prophètes, suivis d’un grand nombre de disciples, ont combattu pour défendre la cause de Dieu, sans jamais se laisser abattre par les épreuves, ni faiblir ni abandonner la lutte ! Dieu aime les gens persévérants.”
Grièvement blessé, Salim s’écroula. A la fin de la bataille, les musulmans le trouvèrent agonisant, il leur dit alors : “Qu’en est-il d’Abu Hudayfa ?” Ils lui répondirent : “Il est tombé en martyr.” Salim leur dit : “Couchez moi auprès de lui.” On lui répondit : “Mais tu es déjà couché à ses côtés ô Salim !”.
En effet, Abu Hudayfa était tombé en martyr au même endroit que son frère. Salim arbora alors un dernier sourire avant de s’arrêter de parler.
Les deux compagnons avaient embrassé l’Islam ensemble, ils avaient vécu ensemble et ils étaient tombés en martyrs ensemble. ‘Omar Ibn Al Khattab avait dit alors qu’il était sur le point de rendre l’ âme :
” Si Salim était encore vivant, je l’aurais désigné comme mon successeur.”