Ketika Rasulullah SAW sedang memobilisasi pasukan untuk perang Tabuk, Abu Khaitsamah sedang berada di luar kota Madinah. Beberapa hari setelah Beliau berangkat ke Tabuk barulah ia tiba kembali di Madinah. Cuaca saat itu sangatlah panas, kedua istrinya menyambut kedatangannya dengan gembira. Makanan dan air yang dingin telah disiapkan untuknya di dalam rumahnya yang berada di salah satu bagian kebunnya yang teduh.
Abu Khaitsamah berdiri di pintu rumahnya, ia memandang dua istrinya dan apa yang telah disiapkan untuknya. Matanya tampak menerawang jauh, tiba-tiba ia berkata, "Rasulullah SAW berada di terik matahari, tiupan angin kencang dan cuaca yang sangat panas, sementara Abu Khaitsamah berada di naungan yang sejuk, makanan yang terhidang dan dua istrinya yang cantik di tengah harta bendanya,… Ini sungguh tidak adil."
Sejenak ia tercenung, kemudian berkata kepada istrinya, "Demi Allah, aku tidak akan masuk ke rumah menemui kalian, sehingga aku menyusul Rasulullah SAW. Sediakan perbekalan untukku."
Setelah semua disiapkan dengan cepat oleh kedua istrinya itu, ia segera memacu untanya untuk menyusul Rasulullah SAW. Di tengah perjalanan ia bertemu dengan Umair bin Wahb al Jumahi yang juga ingin menyertai Rasulullah SAW, merekapun berjalan bersama. Ketika ia telah melihat rombongan pasukan yang sedang beristirahat di Tabuk, Abu Khaitsamah berkata kepada Umair, "Aku mempunyai kesalahan, karena itu tidak masalah jika engkau tertinggal dariku, sampai aku menemui Rasulullah SAW."
Umair memahami keinginannya itu, dan ia membiarkan Abu Khaitsamah memacu untanya lebih cepat untuk lebih dahulu menemui Rasulullah SAW. Para sahabat berkata kepada Nabi SAW, bahwa ada seseorang yang memacu untanya dengan cepat mendekati mereka. Beliau berkata, "Semoga ia adalah Abu Khaitsamah!!"
Ketika penunggang unta itu telah makin dekat, orang-orang membenarkan ucapan Rasulullah SAW tersebut. Setelah menambatkan untanya, Abu Khaitsamah mendekat dan memberi salam kepada Nabi SAW, beliau berkata kepadanya, "Celaka engkau, wahai Abu Khaitsamah!"
Abu Khaitsamah meminta maaf dan menceritakan apa yang dialaminya, dan juga yang telah dilakukanya kepada keluarganya. Setelah penjelasannya tersebut beliau bersabda, “Itu adalah hal yang baik!"
Beliau juga mendoakan untuk kebaikan bagi Abu Khaitsamah.
