مشکل یهودیان مدینه دومین مشکل بود. یهودیان مدینه، در داخل و خارج شهر می‌زیستند و اقتصاد و تجارت آن سامان را قبضه کرده بودند.
وی به خوبی آگاه بود تا اوضاع داخلی سر و سامان پیدا نکند و یهودیان را با خود متحد و هم‌آهنگ نسازد و سرانجام وحدت سیاسی در مقر حکومت خود به وجود نیاورد؛ هرگز نهال اسلام در این محیط پرورش نخواهد یافت. هرگز نخواهد توانست به تفکر درباره بت‌پرستان شبه جزیره، مخصوصا قریش، یعنی مشکل سوم بپردازد و تا در مقر فرماندهی، امن و امان حکم فرما نباشد، دفاع از دشمنان خارجی میسور نخواهد بود.
در آغاز ورود پیامبر، روی جهاتی بین مسلمانان و یهود تفاهم وجود داشت، زیرا