Ubadah bin Shamit merupakan kelompok awal shahabat Anshar yang memeluk Islam, yakni ketika terjadi Ba'iatul Aqabah pertama, salah satu dari dua belas orang Madinah yang pertama berba’iat kepada Nabi SAW. Dan pada Ba'iatul Aqabah ke dua, sekali lagi ia menyertai tujuhpuluh orang Madinah yang ingin berba'iat kepada Nabi SAW. Usai ba'iat, Nabi SAW menunjuk dua belas orang pemuka sebagai pemimpin dari kaumnya masing-masing, salah satunya adalah Ubadah bin Shamit untuk beberapa kabilah dari Suku Aus.
Sebelum datangnya Islam, masyarakat Madinah banyak yang menjalin persekutuan dengan kaum Yahudi, begitu juga dengan kaumnya Ubadah bin Shamit. Setelah Islam datang, Nabi SAW mengukuhkan lagi persekutuan itu dalam bentuk Piagam Madinah. Tetapi ketika terjadi perang Badar dan perang Uhud, kaum Yahudi hanya berpangku tangan, bahkan cenderung menyebar fitnah dan menimbulkan kekacauan di kalangan pasukan Muslim. Mereka juga menyombongkan diri bahwa pasukan muslimin takkan bisa mengalahkan mereka kalau mereka bersatu memerangi Nabi SAW.
Ubadah bin Shamit langsung bereaksi melihat sikap kaum Yahudi tersebut, ia memutuskan hubungan persekutuan kabilahnya dengan kaum Yahudi Bani Qainuqa yang telah berlangsung lama, jauh sebelum ia memeluk Islam. Ia datang kepada Nabi SAW dan berkata, "Wahai Rasulullah, sesungguhnya jiwa teman-teman karibku dari kalangan Yahudi sangat keras. Mereka memiliki senjata dan peralatan peperangan yang sangat kuat. Namun demikian, aku hanya berwali kepada Allah dan RasulNya serta berlepas diri dari berwali kepada orang-orang Yahudi. Tiada wali bagiku selain Allah dan RasulNya."
Rasulullah SAW menyambut baik keputusan Ubadah bin Shamit. Dan kemudian turun surah Al Maidah ayat 56 sebagai bentuk dukungan dan pembenaran atas sikap yang diambilnya terhadap kaum Yahudi. Dalam riwayat lain disebutkan, bukan hanya ayat 56, tetapi sikapnya dalam peristiwa tersebut menjadi asbabun nuzul dari Surat Al Maidah ayat 51 s.d. 67.
Suatu ketika ia mendengar penjelasan Nabi SAW tentang tanggung jawab seorang amir, dan konsekwensinya jika ia melalaikan tugasnya, bahkan hanya memperkaya diri sendiri. Seketika tubuhnya gemetar dan hatinya terguncang. Iapun bersumpah tidak akan pernah memegang jabatan apapun, walaupun hanya membawahi dua orang.
Ketika Umar menjabat khalifah, ia tak mampu memaksa Ibnu Shamit untuk memegang suatu posisi pimpinan atau jabatan apapun, kecuali mengajar umat memperdalam pengetahuan keislaman mereka. Kalaupun terjun ke medan pertempuran, ia memilih untuk menjadi prajurit biasa saja walaupun sebenarnya ia seorang sahabat senior dan berpengalaman. Karena itu Umar mengirimkan dia ke Syam (Syiria) bersama Mu'adz bin Jabal dan Abu Darda untuk mengajar umat Islam di sana. Saat itu yang menjadi Amir (gubernur) di sana adalah Muawiyah bin Abu Sufyan.
Ubadah bin Shamit tidak cukup kerasan di sana. Gaya hidupnya adalah didikan Nabi SAW, zuhud terhadap dunia, sederhana, dan lebih banyak menghabiskan waktu untuk ibadah dan belajar (menuntut ilmu). Ketika ia melihatbagaimana cara hidup Amirnya, Muawiyah yang selalu bermegah-megahan dengan duniawiah, ia tak segan melakukan protes sekaligus perlawanan. Setelah tinggal beberapa lama di Syiria dalam suasana jiwa yang tidak nyaman, ia pulang kembali ke Madinah.
Umar menemui Ubadah bin Shamit di Masjid Nabawi, dan bertanya, "Apa yang menyebabkan engkau kembali ke sini, ya Ubadah?"
Ubadah menceritakan semua yang terjadi, termasuk pertentangannya dengan Muawiyah, sehingga ia memutuskan untuk kembali ke Madinah. Umar berkata, "Kembalilah segera ke sana!! Sungguh amat buruk suatu negeri jika tidak mempunyai orang seperti anda!!"
Tidak ada pilihan lain bagi Ubadah kecuali kembali ke Syam (Syiria) melanjutkan misi pengajarannya. Tetapi ternyata diam-diam Umar mengirim surat kepada Muawiyah, isinya antara lain, “…Tidak ada wewenangmu sedikitpun sebagai Amir terhadap Ubadah bin Shamit…."
Pada masa khalifah Utsman, tepatnya pada tahun 27 hijriah, Muawiyah yang masih menjadi gubernur Syam, meminta ijin untuk menyerang dan menyebarkan Islam di Pulau Cyprus, di suatu kepulauan di Laut Tengah termasuk wilayah Eropa saat ini, dan Utsman menyetujuinya. Sebenarnya pada masa Khalifah Umar, Muawiyah telah pernah mengajukan usulan itu tetapi ditolak. Umar berpendapat, setelah bermusyawarah dengan para sahabat senior, bahwa kaum Arab, khususnya kaum muslimin, tidak mempunyai pengalaman yang memadai untuk bertempur menyeberangi lautan luas. Ia khawatir akan banyak korban sia-sia dari kaum muslimin, yang ia akan diminta pertanggung-jawabannya oleh Allah di akhirat kelak.
Muawiyah segera membuat dan mempersiapkan kapal-kapal (perahu) besar untuk membawa pasukan kaum muslimin menjelajahi Laut Tengah. Inilah armada ‘angkatan laut’ pertama dalam Islam, dan Ubadah bin Shamit bersama istrinya, Ummu Haram binti Milhan ikut serta dalam pasukan tersebut. Cyprus dapat ditaklukkan dan penduduknya bersedia membayar Jizyah (pajak), dan Islam mulai didakwahkan di wilayah tersebut. Tetapi Ubadah bin Shamit kehilangan istrinya yang mati syahid dalam perjalanan mengarungi samudra ini, dan jenazahnya dimakamkan di Cyprus.
Peristiwa ini telah pernah ‘diperlihatkan’ Allah kepada Nabi SAW belasan tahun sebelumnya, ketika beliau sedang tertidur di rumah Ummu Haram binti Milhan. Saat itu Nabi SAW sangat bangga ‘melihat’ umat beliau berperang menjelajah lautan. Walau telah kehilangan istrinya, semangat Ibnu Shamit tidak surut untuk terus berjihad, sampai akhirnya Islam tersebar luas di wilayah Eropa.
