Abdullah bin Abdullah bin Ubay adalah anak dari seorang tokoh munafik, yang bernama Abdullah bin Ubay, yang memeluk Islam dan menjadi salah satu sahabat pilihan yang shalih yang berbeda dengan Ayahnya. Sebelum kedatangan Rasulullah SAW ke Madinah, ayahnya, Abdullah bin Ubay merupakah tokoh terkenal yang hampir diangkat jadi Raja oleh penduduka Madinah, namun kemudian keinginannya itu gagal karena kebanyakan penduduknya memeluk Islam dan menjadikan Nabi SAW sebagai tokoh sentralnya, itulah sebabnya ia begitu membenci Nabi SAW walau pada lahirnya ia beragama Islam juga.
Ketika Rasulullah SAW mendapat kabar pimpinan Bani Musthaliq, Al Harits bin Abu Dhirar menghimpun pasukan untuk memerangi kaum muslimin, dengan segera beliau menyusun pasukan dan segera berangkat ke tempat Banu Musthaliq. Dalam pasukan yang dipimpin sendiri oleh Nabi ini ikut juga sekelompok kaum munafik, termasuk didalamnya pimpinan golongan Munafik tersebut yaitu Abdullah bin Ubay.
Setelah pertempuran selesai dan pasukan kaum Muslimin dalam perjalanan kembali ke Madinah, Abdullah bin Ubay mempengaruhi kelompoknya, "Jika kita kembali ke Madinah, orang-orang yang terhormat akan mengusir orang-orang yang terhina."
Ucapan "terhina" ini dimaksudkan pada Nabi SAW dan para sahabat Muhajirin (Kelompok orang yang Hijrah) yang terusir dari Makkah karena mempertahankan keimanan dan menghindari kekejaman kaum kafir Quraisy. Ketika Nabi saw mendengar kabar ini melalui sahabat Zaid bin Arqam, Umar bin Khaththab meminta kepada Nabi memerintahkan Abbad bin Bisyr untuk membunuh tokoh munafik tersebut. Tetapi Abdullah bin Ubay menolak telah mengatakan itu, sehingga terjadilah suasana yang tegang dan penuh prasangka, sampai akhirnya turun ayat yang membenarkan Zaid bin Arqam.
Melihat perkembangan situasi tersebut, Abdullah bin Abdullah bin Ubay atau putra nya Abdullah bin Ubay mendatangi Nabi SAW dan berkata, "Ya Rasulullah, jika engkau menginginkan ayahku dibunuh, perintahkanlah aku untuk melakukannya! Karena kalau orang lain yang engkau perintahkan untuk membunuh ayahku, aku khawatir aku tidak bisa bersabar untuk tidak menuntut balas atas kematiannya, yang karenanya aku akan masuk neraka. Semua orang Anshar pun tahu, kalau aku adalah orang yang berbakti pada orang tuaku."
Rasulullah SAW kemudian menjawab, "Baiklah, berbaktilah kamu kepada orang tuamu, ia tidak melihat darimu kecuali kebaikan."
Tahulah Abdullah bahwa Rasulullah saw telah memaafkan prilaku ayahnya. Namun demikian, sebagai wujud kecintaan yang lebih besar kepada Allah dan Rasul-Nya daripada orang tuanya, Abdullah menghadang pintu masuk madinah dengan pedang terhunus, dan melarang ayahnya masuk kota Madinah, kecuali apabila Rasulullah SAW telah mengijinkannya. Ketika Ayahnya yaitu Abdullah bin Ubay mencoba untuk masuk Madinah, Abdullah menyerangnya dengan pedangnya itu sehingga ia mundur kembali. Dengan terpaksa ia mengirim utusan untuk meminta ijin Nabi SAW bagi pimpinan tokoh munafik tersebut memasuki kota Madinah.
Bagaimanapun juga, Abdullah bin Abdullah bin Ubay ra adalah seorang anak yang sangat berbakti kepada ayahnya, dan itu sudah lama terbentuk dalam hati dan prilakunya sebelum Islam memasuki kota Madinah. Bagaimanapun Anak tetaplah anak, dan ketika ayahnya tersebut meninggal, kesedihan merasuki hatinya. Ia tahu bahwa orang tuanya itu akan berada di siksaan neraka setelah meninggal, namun demikian ia ingin menunjukkan bakti terakhirnya.
Ia datang kepada Rasulullah SAW dan meminta baju gamis beliau untuk mengkafani jenazah ayahnya itu, kemudian beliau mengabulkan permintaannya itu. Kemudian sekali lagi Abdullah bin Abdullah bin Ubay datang kembali kepada beliau dan memintanya untuk menyalatkan jenazahnya, dan beliau mengabulkannya, walau Umar bin Khattab sempat memprotes keras. Tetapi setelah itu turun Quran surat At-Taubah ayat 84, yang melarang beliau untuk menyalati jenazah orang munafik dan berdiri di atas kuburan mereka.
