اولین شعاع نور ایمان هنگامی بر قلب عمر بن الخطاب تابید که مشاهده کرد زنان مسلمان به علت اذیت و مشقت هایی که از دست او متحمل شده اند سرزمین خود را ترک کرده و به حبشه مهاجرت می کنند. دیدن این صحنه قلب عمر بن الخطاب را به رحم آورد.
ام عبدالله بنت حنـتمه ـ رضی الله عنها ـ می گوید: هنگامی که برای مهاجرت به حبشه آماده می شدیم، عمربن الخطاب ما را دید و به نزد من آمده گفت: دارید می روید ای ام عبدالله؟ گفتم: آری به الله سوگند در زمین خدا خارج خواهیم شد، شما ما را اذیت کردید و قهر و خشم خود را بر ما فرو آوردید، می رویم تا اینکه خداوند فرجی حاصل کند. عمر گفت: خدا به همراهتان. اینجا رقت قلبی از او دیدم که قبلا ندیده بودم. وقتی عامر بن ربیعه آمد داستان را برای او بازگو کردم. او گفت آیا به اسلام آوردن او امیدوار شده ای؟ گفتم: آری، گفت: او اسلام نخواهد آورد تا اینکه خر خطاب اسلام بیاورد! شاید ایمان آوردن عمر تا این اندازه برای ربیعه عجیب و غیر ممکن بود
این قضیه در قلب عمر تاثیر گذاشت تا اینکه بالاخره پس از حادثه ای اسلام آورد:
قریش تصمیم به قتل رسول الله گرفت و از میان آنها عمر بن الخطاب حاضر به این کار شد اما خداوند چیز دیگری برای او اراده کرده بود.
به قول مولوی:
شمشیر به کف عمــّـر، در قصد رسول آید
در دام خدا افتـد، وز بخـت، نظـر یابد
عمر با شمشیر لخت در گرمای شدید به سوی منزل ارقم به راه افتاد. در راه به نعیم بن عبدالله النحام برخورد. نعیم به او گفت: به کجا می روی ای عمر؟ او قصدش را به نعیم گفت. نعیم او را از این قصد بازمی دارد. اما عمر دست بردار نبود اینجا بود که نعیم برای آنکه او را از این کار بازدارد به او گفت: خواهر و داماد خودت مسلمان شده اند و تو را در گمراهی ات ترک کرده اند.
با شنیدن این خبر، عمربن الخطاب به خانه خواهرش می رود تا او و دامادش را تنبیه کند. در این هنگام آنها در حال قرائت سوره «طه» بودند. وقتی عمر وارد شد خواهرش شر را در چهره او دید. عمر گفت: این صدای چه بود؟ آنها گفتند داشتیم صحبت می کردیم. عمر گفت: یا اینگه گمراه شده اید؟ دامادش به او گفت: اگر حق در غیر دین تو باشد چه ای عمر؟ عمر با او درگیر شد و او را بر زمین انداخت و بر سینه اش نشست. خواهرش به کمک شوهرش شتافت و خواست عمر را از او دور کند که عمر ضربه ای بر صورتش زد که خون از صورت خواهرش جاری شد.
خواهرش که خشمگین شده بود به عمر گفت: ای دشمن خدا آیا برای اینکه خداوند را به یگانگی می پرستم مرا می زنی؟ هر کاری می خواهی بکن، اشهد أن لا إله إلا الله و اشهد أن محمدا رسول الله ما علی رغم مخالفت تو مسلمان شده ایم.
عمر با شنیدن این سخنان پشیمان شد و از روی سینه دامادش برخواست و گفت: این صحیفه را که داشتید می خواندید بدهید به من تا بخوانم. اما خواهرش امتناع کرد و گفت تو نجس هستی و باید غسل کنی. عمر این کار را کرد و خواهرش آیات سوره طه را به او داد. قرائت سوره طه تاثیر عظیمی بر روی او بر جای گذاشت تا اینکه به خواهرش گفت: شایسته است هرکه این سخنان را گفته به تنهایی پرستیده شود، مرا به سوی محمد راهنمایی کنید.
پس از آن عمربن الخطاب به نزد رسول الله (صلی الله علیه و سلم) در خانه ارقم بن ابی الارقم رفته و در آنجا اسلام آورد. اسلام او در ماه ذی الحجه سال ششم نبوت (۶ سال پس از نبوت رسول الله) بود. وی در آن هنگام ۲۷ سال داشت. او سه روز بعد از حمزه بن عبدالمطلب اسلام آورد.
با اسلام عمر وضعیت مسلمانان تغییر یافت…