ابوسفیان که اینقدر رجزخوانی میکرد که هر آینه آنان را میکوبم و مدینه را از خیل سواران و پیادگان پر میکنم و چنین و چنان میکنم، به اندازهای گفتهایش با عملش تفاوت داشت که مورّخین جریانی را نقل میکنند که عیناً چیزی جز ضعف و حقارت و ذلّت ابوسفیان را نشان نمیدهد. گویند روزی ابوبکر ابوسفیان را احضار کرد و درباره موضوعی از او مؤاخذه و بازخواست نمود و با او به تندی سخن گفت و ابوسفیان تملّق خلیفه را مینمود و نسبت به وی خشوع و ذلّت نشان میداد. در این هنگام پدر ابوبکر ابوقحافه که صدای پرخاش فرزندش را شنید، از غلامش پرسید: «پسرم بر سر چه کسی فریاد میکند؟» گفت: «بر سر ابوسفیان». ابوقحافه به نزد ابوبکر آمد و بدو گفت: «آیا در مقابل ابوسفیان -سیّد و بزرگ قریش در زمان جاهلیت- تندی و پرخاش میکنی؟» ابوبکر پاسخ داد: «خداوند به واسطه اسلام، برخی را سربلند و برخی دیگر را خوار و ذلیل کرده است».
عتبه فرزند ابولهب نیز از کسانی بود که همچون ابوسفیان از خلافت ابوبکر اکراه داشت و برای براندازی آن فعّالیت میکرد. وی به مسجد رفته و با هدف تهییج مردم این اشعار را خواند:
مَا کُنْتُ أحْسَبُ أنَّ الاَمرَ مًنْصَرِفٌ | عَنْ هَاشِمِ ثمَّ مِنْـهَا عَـنْ اَبیالحَسَنِ | |
ألَیْـسَ أوَّلَ مَـنْ صَـلّی لِقِبْـلَتِـکُمْ | وَأعْلَـمَ النَّـاسِ بِالْقُرآنِ وَالسُّـنَنِ | |
وَأقْرَبُ النّـَاسِ عَهْداً بِالنَّبیّ وَمَنْ | جِبریلُ عَـوَّنَ لَهُ فی الغُسلِ وَالکَفَنِ |
یعنی: «گمان نمیکردم امر خلافت از بنیهاشم بیرون رود، چه رسد از ابوالحسن. مگر او نخستین کسی نبود که بر قبله شما نماز گزارد و داناترین مردم به قرآن و سنّت نیست؟ مگر او نزدیکترین مردم به پیامبر صلی الله علیه وسلم نبود که در لحظات مرگ او جبرئیل در غسل و کفنش او را یاری میکرد؟».
چون علی از اقدام عتبه آگاهی یافت، برای او پیام فرستاد و او را از این کار منع کرد و دستور داد دیگر چنین نگوید، زیرا سلامت دین برای ما از هر چیز دیگری بهتر است.
تبلیغات و کارشکنیهای امثال ابوسفیان و عتبه بن ابیلهب، موجب نگرانی علی از پیدایش تفرقه و دودستگی میان مسلمین گردید. لذا با هدف جلوگیری از این خطر، به مسجد رفت و موضع خود را به صراحت برای مسلمانان اعلام نمود و با صدای بلند گفت: «ای مردم، امواج فتنهها را با کشتیهای نجات بشکافید و از روشهای تفرقهانگیز و نفرت خیز سربتابید و تاجهای افتخارات جاهلیت را برافکنید. رستگار کسی است که با بال و پر نیرومندی از جای برخیزد یا تسلیم شود تا خود دل آسوده داشته و دیگران را آسودگی بخشد. آن کس که میوه را پیش از موعد بچیند، همچون کسی است که در زمین نامساعد کشت کند».
آنگاه خالد بن ولید برخاست و خطابه بلیغ خود را در حمایت از ابوبکر ایراد کرد و گفت: «ای مردم، ما در آغاز این دین گرفتار مشکلی بودیم که قبول و پذیرش آن بر ما سخت و سنگین بود که گویا کینههای خونخواهی داریم. و به خدا سوگند چیزی نگذشت که سنگینی آن بر ما سبک شد و دشواری آن بر ما آسان گردید و با اینکه در ابتدا از ایمان آوردن مردم تعجّب میکردیم، آن روز از هرکسی که درباره حق بودن آن شکّ و تردیدی به خود راه میداد دچار شگفتی میشدیم و سرانجام به همان چیزی از آن نهی میکردیم، گرویدیم و از چیزهایی که به آن فرمان میدادیم، دوری کردیم. به خدا سوگند چنان نبود که در پناه عقل و اندیشه مسلمان شویم، بلکه در اثر عنایت و توفیق الهی بود. همانا وحی تا استوار نشد، قطع نگردید و پیامبر از میان ما نرفته است که پس از او پیامبر دیگری را عوض بگیریم و پس از انقطاع وحی منتظر وحی دیگر باشیم. امروز شمار ما از دیروز بیشتر است، در حالی که در گذشته بهتر از امروز بودیم و به خدا سوگند این صاحب امر یعنی ابوبکر کسی نیست که مورد بازخواست قرار گیرد یا در مورد او اختلافی باشد. عظمت و شخصیت و فضایل او بر کسی پوشیده نیست و نیزهاش کژ و خمیده نیست».
بیانات علی و خالد تأثیر عمیقی روی مردم گذاشت و حزن بن ابیوهب خالد را ستود و اشعاری با این مضمون در تحسین و تمجید او خواند: «مردان بسیاری از قریش به پا خاستند ولی هیچ یک از آنان خالد نبود…».
گفتنی است علی در دوران سه خلیفه نخستین مسئوولیتهای کلیدی و مهمّی را نیز بر عهده داشته است. در یک مورد ابوبکر، علی و سه تن دیگر را بر دروازههای مدینه گذاشت تا به حفاظت از شهر در برابر مرتدان بپردازد. وی هرگاه از مدینه بیرون میرفت، معمولاً علی را بعنوان خلیفه خود درمدینه میگذاشت. مورّخین سه مورد را گزارش کردهاند که عمر در زمان خلافت خود هنگامی که از مدینه بیرون میرفت، علی را به جانشینی خود گماشته است. وی در دوران ابوبکر در تقسیم خمس اختیار تام داشت. عمر امورات باغهای مدینه (معروف به حوائط سبعه) را به علی و عبّاس اختصاص داد و نیز امور صدقات مدینه را به آن دو محوّل نمود. نام علی بر تارک مشاوران ویژه ابوبکر و عمر بچشم میخورد و در دوران خلیفه سوّم عثمان نیز سمت وزارت او را داشت. هر سه خلیفه او را برای امر قضاوت و اجرای حدود موکّل کرده بودند. در دوران ابوبکر از جمله کاتبان دارالخلافه بود.