Amir bin Abdullah bin Jarrah atau lebih dikenal dengan nama Abu Ubaidah bin Jarrah, termasuk dalam golongan sahabat yang mula-mula memeluk Islam (as sabiqunal awwalun). Dan seperti kebanyakan sahabat yang memeluk Islam pada hari-hari pertama didakwahkan, Abu Bakar mempunyai peran penting dalam mempengaruhi keputusannya itu. Abu Ubaidah mengikuti hijrah ke Habasyah yang ke dua, tetapi tak lama kembali lagi ke Makkah karena ia merasa lebih nyaman berada dekat dengan Nabi SAW, walaupun mungkin jiwanya terancam.
Ketika hijrah ke Madinah, Nabi SAW mempersaudarakannya dengan Sa'ad bin Mu'adz.Abu Ubaidah termasuk salah satu dari sepuluh sahabat yang dijamin masuk surga ketika masih hidupnya.
Ketika ia berba'iat memeluk Islam, tiga kata yang tertanam dalam benaknya, "Jihad fi Sabilillah". Semua pertempuran bersama Nabi SAW diikutinya. Diterjuninya perang Badar, yang pada dasarnya merupakan pertempuran melawan sanak kerabatnya sendiri, dan juga sahabat-sahabatnya di masa jahiliah. Semuanya itu menjadi ringan karena jiwanya telah terangkum dalam tiga kata tersebut. Bahkan ada salah satu riwayat, ia membunuh ayahnya sendiri dalam peperangan tersebut.
Sebenarnya ia telah berusaha menghindari bentrok dengan ayahnya yang ada di fihak kaum kafir, kalaupun ayahnya harus terbunuh, bukanlah tangannya yang melakukannya. Tetapi ayahnya selalu mengikuti dan mengejarnya sehingga tidak ada pilihan lain selain melakukan perlawanan, sehingga akhirnya ia menewaskannya.
Ia sempat gelisah dengan apa yang dilakukannya, kemudian turunlah surah al Mujadalah ayat 22, yang membenarkan sikapnya, bahkan memuji keimanannya.
Dalam perang Uhud, Nabi SAW sempat mengalami kondisi kritis, diama beliau hanya dilindungi oleh Thalhah dan Sa'd bin Abi Waqqash, sementara pasukan Quraisy mengepung dengan maksud untuk membunuh beliau. Utbah bin Abi Waqqas melempar beliau dengan batu, hingga mengenai lambung dan bibir beliau. Abdullah bin Syihab memukul kening beliau dan akhirnya Abdullah bin Qamiah memukul bahu dan pipi beliau dengan pedang. Beliau memang memakai baju besi, tetapi akibat serangan tersebut, gigi seri beliau pecah, bibir dan kening terluka, bahkan ada dua potong besi dari topibaja yang menancap pada pipi beliau.
Beberapa sahabat berusaha membuka "jalan darah" mendekati posisi Nabi SAW untuk bisa memberikan perlindungan kepada beliau. Abu Bakar dan Abu Ubadiah yang paling cepat tiba, dan saat itu Thalhah telah tersungkur karena luka-lukanya. Tidak berapa lama, beberapa sahabat mulai berkumpul di sekitar Nabi SAW dan mengamankan keadaan beliau, termasuk seorang pahlawan wanita, Ummu Amarah (Nushaibah binti Ka'b al Maziniyah).
Melihat ada besi yang menancap di pipi Nabi SAW, Abu Bakar berniat untuk mencabut besi itu, tetapi Abu Ubaidah berkata kepada Abu Bakar, "Aku bersumpah dengan hakku atas dirimu, biarkanlah aku yang melakukannya…"
Abu Bakar pun membiarkan Abu Ubaidah melakukannya. Tetapi ia tidak mencabut besi itu dengan tangannya karena khawatir akan menyakiti Nabi SAW, ia menggigit besi itu dengan gigi serinya, dan menariknya perlahan. Besi itu terlepas, tetapi tanggal pula gigi Abu Ubaidah dan darahpun mengucur. Masih ada satu potongan besi lagi, karena dilihatnya Abu Ubaidah terluka, Abu Bakar berniat mencabutnya, tetapi sekali Abu Ubaidah berkata, "Aku bersumpah dengan hakku atas dirimu, biarkanlah aku yang melakukannya…"
Kemudian ia melakukannya sekali lagi dengan gigi serinya yang lain, kali inipun giginya tanggal bersama besi yang terlepas dari pipi Rasulullah SAW. Jadilah ia pahlawan besar yang giginya terlihat ompong jika sedang membuka mulutnya. Tetapi Abu Ubaidah justru membanggakan "cacatnya" tersebut, karena itu menjadi peristiwa bersejarah dalam hidupnya bersama Rasulullah SAW. Bahkan ia sangat ingin membawa "ompongnya" tersebut ke hadapan Allah SWT di hari kiamat sebagai hujjah kecintaan kepada Nabi SAW.
Sebelum peristiwa Perjanjian Hudaibiyah, Nabi SAW pernah mengirim Abu Ubaidah dengan sekitar tigaratus orang anggota pasukan untuk mengintai kafilah dagang Quraisy. Bekal yang diberikan beliau tidak lebih dari sebakul kurma, sehingga setiap orang hanya mendapat jatah segenggam kurma. Ketika perbekalan mereka habis, Abu Ubaidah memerintahkan pasukannya menumbuk daun kayu khabath dengan senjatanya sehingga menjadi tepung dan diolah menjadi roti, dan sebagian lagi makan daun-daunnya. Makanan yang sangat tidak layak sebenarnya, tetapi tidak ada pilihan lain, dan tugas harus tetap dilaksanakan.
Setelah beberapa hari dalam keadaan seperti itu, mereka tiba di pesisir pantai, dan tampak sebuah gundukan besar di sana. Setelah didekati ternyata sebuah ikan besar, sejenis ikan paus yang terdampar. Mereka menggunakan ikan tersebut sebagai bahan makanan selama hampir limabelas hari di sana, sehingga kembali sehat bahkan cenderung lebih gemuk dari sebelumnya. Saat pulang kembali, mereka membawa sisa-sisa daging ikan itu untuk perbekalan di perjalanan.
Ketika sampai di Madinah, Abu Ubaidah menceritakan pengalaman mereka kepada Nabi SAW, dan beliau berkata, “Itu adalah rezeki yang diberikan Allah kepada kalian. Apakah masih ada sisa dagingnya untuk kami di sini?”
Mereka membagi-bagikan daging ikan yang masih ada tersebut, dan Nabi SAW ikut memakannya. Dan dalam sejarah peristiwa ini dikenal dengan nama "Ekspedisi Daun Khabath".
Pada tahun 9 hijriah, datang utusan dari Najran yang berjumlah enampuluh orang. Najran merupakan suatu wilayah yang luas di Yaman, memiliki seratus ribu prajurit yang bernaung di bawah bendera Nashrani. Sebagian dari utusan ini adalah para bangsawannya sebanyak 24 orang, dan para pemimpin kaum Najran sendiri sebanyak tiga orang. Mereka belum memeluk Islam, tetapi sempat melakukan diskusi dan perdebatan tentang Isa.
Allah menurunkan Surah Ali Imran 59-61, sehingga Nabi SAW menantang mereka untuk "mubahalah" sesuai dengan petunjuk wahyu yang turun tersebut. Tetapi utusan Najran tersebut tidak berani menerima tantangan Nabi SAW tersebut. Sedikit atau banyak ada juga keyakinan mereka bahwa Nabi SAW memang seorang Nabi, hanya saja mereka masih yakin juga akan ketuhanan Isa.
Mubahalah atau disebut juga mula’anah adalah proses di mana dua kelompok saling berdoa kepada Allah (atau Tuhannya masing-masing), yang doa itu diakhiri dengan permintaan kepada Allah (atau Tuhannya masing-masing), jika memang dirinya atau kelompoknya tidak benar, laknat Allah akan turun kepada mereka karena kedustaannya itu. Mungkin proses ini yang di Indonesia, khususnya di Jawa Timur, diadopsi menjadi prosesi ‘sumpah pocong’, di mana dua orang saling menuduh dan menolak tuduhan, yang masing-masing tidak mempunyai bukti cukup kuat. Dan kedua belah pihak juga tidak bersedia mencabut atau membatalkan tuduhannya tersebut, masing-masing merasa benar sendiri.
Akhirnya, kaum Nashrani dari Najran itu melunak, walaupun belum memeluk Islam, mereka meminta Nabi SAW mengirim seseorang bersama mereka ke Najran untuk lebih memperkenalkan Islam kepada masyarakat mereka. Maka Nabi SAW berkata, "Baiklah, akan saya kirimkan bersama tuan-tuan seseorang yang terpercaya, benar-benar terpercaya, benar-benar terpercaya, benar-benar terpercaya…..!!"
Para sahabat sangat takjub mendengar ucapan Nabi SAW, yakni pujian beliau sebagai orang terpercaya, dan beliau mengulangnya hingga tiga kali untuk menegaskan, siapakah orang tersebut sebenarnya? Setiap sahabat berharap, dia-lah yang ditunjuk oleh Nabi SAW. Bahkan Umar bin Khaththab yang tidak memiliki ambisi untuk memegang suatu jabatan apapun, sangat menginginkan agar dialah yang dimaksud Rasulullah SAW.
Ketika itu waktunya shalat dhuhur, Umar berusaha menampilkan dirinya di dekat Nabi SAW. Namun walau Nabi SAW telah melihat dirinya, beliau masih mencari-cari seseorang. Ketika pandangan beliau jatuh pada Abu Ubaidah, beliau bersabda, "Wahai Abu Ubaidah, pergilah berangkat bersama mereka, dan selesaikan apabila terjadi perselisihan di antara mereka….!"
Inilah dia orang terpercaya itu, dan para sahabat lainnya tidak heran kalau ternyata Abu Ubaidah yang dimaksudkan Nabi SAW. Beberapa kali, dalam beberapa kesempatan berbeda, beliau menyebut Abu Ubaidah sebagai ‘Amiinul Ummah’, orang kepercayaan ummat Islam ini.
Abu Ubaidah-pun menyertai rombongan tersebut kembali ke Najran, sebagaimana diperintahkan Nabi SAW. Sebagian riwayat menyebutkan, dua dari tiga pemimpinnya masuk Islam setelah mereka tiba di Najran, Yakni Al Aqib atau Abdul Masih, pemimpin yang mengendalikan roda pemerintahan, dan As Sayyid atau Al Aiham atau Syurahbil, pemimpin yang mengendalikan masalah peradaban dan politik. Lambat laun Islam menyebar di Najran berkat bimbingan ‘Amiinul Ummah’ ini. Bahkan akhirnya Nabi SAW mengirimkan Ali bin Thalib untuk membantu Abu Ubaidah dalam urusan Shadaqah dan Jizyah dari masyarakat Najran yang makin banyak yang memeluk Islam.
Pada masa khalifah Abu Bakar, ia mengikuti pasukan besar yang dipimpin oleh Khalid bin Walid untuk menghadang pasukan Romawi, yang dikenal dengan nama Perang Yarmuk. Walau ia seorang sahabat besar, senior dan seorang kepercayaan Nabi SAW dan kepercayaan ummat, ia hanyalah seorang prajurit biasa sebagaimana banyak sahabat besar lainnya. Dan tidak ada masalah baginya kalau komandannya adalah Khalid bin Walid, yang baru memeluk Islam setelah perjanjian Hudaibiyah, sebelum terjadinya Fathul Makkah. Padahal sebelumnya ia sangat gencar memerangi kaum muslimin sewaktu masih kafirnya. Bahkan Khalid bin Walid juga yang berperan besar menggagalkan kemenangan pasukan muslim di perang Uhud dan memporak-porandakan kaum muslimin, bahkan hampir mengancam jiwa Nabi SAW. Tetapi itulah gambaran umumkarakter sahabat Nabi SAW yang sebenarnya, termasuk Abu Ubadiah bin Jarrah. Ikhlas berjuang di jalan Allah, tidak karena jabatan, kekuasaan, harta, nama besar, atau bahkan tidak untuk kemenangan itu sendiri. Tetapi semua ikhlas karena Allah dan RasulNya.
Kembali ke perang Yarmuk, ketika pertempuran berlangsung sengit dan kemenangan sudah tampak di depan mata, datanglah utusan dari Madinah menemui Abu Ubaidah membawa dua surat dari khalifah. Pertama mengabarkan tentang kewafatan khalifah Abu Bakar, dan Umar diangkat sebagai khalifah atau penggantinya. Kedua, tentang keputusan khalifah Umar mengangkat Abu Ubaidah bin Jarrah sebagai komandan seluruh pasukan, menggantikan Khalid bin Walid.
Setelah membaca dua surat tersebut, Abu Ubaidah menyuruh utusan tersebut menyembunyikan diri di tenda sampai pertempuran selesai, ia meneruskan menyerang musuh. Setelah perang usai dan pasukan Romawi dipukul mundur, Abu Ubaidah menghadap Khalidlayaknya seorang prajurit kepada komandannya, dengan hormat dan penuh ta'dhimnya, dan menyerahkan dua surat dari khalifah Umar tersebut. Usai membaca dua surat itu, Khalid ber-istirja' (mengucap Inna lillaahi wa inna ilaihi rooji’un), dan memberitahukan kepada seluruh pasukan tentang isi dua surat tersebut, kemudian ia menghadap Abu Ubaidah, tak kalah hormat dan ta'dhimnya, dan berkata, "Semoga Allah memberi rahmat anda, wahai Abu Ubaidah, mengapa anda tidak menyampaikan surat ini padaku ketika datangnya..??"
Abu Ubaidah yang cukup mengenal ketulusan dan keikhlasan Khalid dalam berjuang, menjawab dengan santun, "Saya tidak ingin mematahkan ujung tombak anda! Kekuasaan dunia bukanlah tujuan kita, dan bukan pula untuk dunia kita beramal dan berjuang! Tidak masalah dimana posisi kita, kita semua bersaudara karena Allah!!"
Sebagian riwayat menyatakan utusan tersebut menemui Khalid bin Walid, setelah membacanyaia menyuruh utusan bersembunyi sampai perang usai. Setelah kemenangan tercapai, Khalid bin Walid menghadap Abu Ubaidah layaknya seorang prajurit kepada komandannya, dan peristiwa berlangsung penuh ketulusan dan keikhlasan seperti riwayat sebelumnya.
Abu Ubaidah wafat ketika menjabat sebagai gubernur Syam, pada masa khalifah Umar bin Khaththab. Saat itu berjangkit penyakit tha'un (semacam wabah penyakit) yang menyerang dan membunuh beberapa orang sekaligus Ketika wafatnya ini, sahabat Mu'adz bin Jabal berkata khalayak ramai yang turut menghantar jenazahnya, "Sesungguhnya kita sekalian telah kehilangan seseorang yang, Demi Allah, aku menyangka tidak ada oranglain yang lebih sedikit dendamnya, lebih bersih hatinya, dan paling jauh dari perbuatan merusak, lebih cintanya pada kehidupan akhirat, dan lebih banyak memberikan nasehat kecuali Abu Ubaidah ini. Keluarlah kalian untuk menyalatkan jenazahnya, dan mohonkan rahmat Allah untuknya."
Mu'adz memimpin shalat jenazahnya dan turun ke liang lahat bersama Amru bin 'Ash dan Dhahak bin Qais.