وكان سبب ذلك إن شرحبيل كان قد سيره عمر بن الخطاب إلى العراق إلى سعد بن أبي وقاص وكان معه فقدمه سعد وقربه فحسده الأشعث بن قيس الكندي لمنافسة بينهما فوفد جرير البجلي علي عمر فقال له الأشعث إن قدرت أن تنال شرحبيل عند عمر فافعل فلما قدم علي عمر سأله عمر عن الناس فأحسن الثناء علي سعد قال وقد قال شعرا :
( ألا ليتني والمرء سعد بن مالك * وزبرا وابن السمط في لجة البحر ) ( فيغرق أصحابي وأخرج سالما * علي ظهر قرقور أنادي أبا بكر ) فيكتب عمر إلى سعد يأمره بإرساله زبرا وشرحبيلا إليه فأرسلهما فأمسك زبرا بالمدينة وسير شرحبيلا إلى الشام فشرف وتقدم وكان أبوه السمط من غزة الشام فلما قدم جرير بكتاب علي إلى معاوية في البيعة انتظر معاوية قدوم شرحبيل فلما قدم عليه أخبره معاوية بما قدم فيه جرير فقال كان أمير المؤمنين عثمان خليفتنا فإن قويت علي الطلب بدمه وإلا فاعتزلنا فانصرف جرير فقال النجاشي :
( شرحبيل ما للدين فارقت أمرنا * ولكن لبغض المالكي جرير ) ( وقولك ما قد قلت عن أمر أشعث * فأصبحت كالحادي بغير بعير ) ( جرير بن عبد الله بن جابر بن مالك فنسب إلى جده مالك ) .
وخرج علي فعسكر بالنخيلة وتخلف عنه نفر من أهل الكوفة منهم :