عاملاً لعمر بن الخطاب ، وعثمان بن عفان بعده ، فقدِم الكوفة والياً عليها ، وأقام عليها خمس سنين وهو من أحب الناس إلى أهلها . فلما قدم قال له سعد : أكِستَ بعدَنا أم حمقنا بعدك ! فقال : لا تجزعنّ يا أبا إسحاق كل ذلك لم يكن ، وإنما هو المُلك يتغداه قومٌ ويتعشّاه آخرون ، فقال سعد : أراكم جعلتموها مُلكاً . وقال له ابن مسعود : ما أدري أصلحتَ بعدنا أمْ فسدَ الناس !
ذكر أهل أرمينية وأذربيجان لما استعمل عثمان الوليد على الكوفة عزل عتبة بن فرقد عن أذربيجان فنقضوا ، فغزاهم الوليد سنة خمس وعشرين ، وعلى مقدمته عبد الله بن شبيل الأحمسي فأغار على أهل موقان ، والببر ، والطيلسان ففتح ، وغنم ، وسبى ، فطلب أهل كور أذربيجان الصلح فصالحهم علن صلح حذيفة وهو ثمانمائة ألف درهم وقبض المال ، ثم بث سراياه ، وبعث سلمان بن ربيعة الباهلي إلى أهل أرمينية في اثني عشر ألفاً فسار في أرمينية يقتل ويسبي ويغنم ، ثم انصرف وقد ملأ يديه حتى أتن الوليد ، فعاد الوليد وقد ظفر وغنم وجعل طريقه على الموصل ، ثم أتن الحديثة فنزلها ، فاتاه بها كتاب عثمان فيه أنّ معاوية بن أبي سفيان كتب إليّ يخبرني أنّ الروم قد أجلبت على المسلمين في جموع كثيرة ، وقد رأيتُ أنْ يمدهم إخوانهم من أهل الكوفة ، فابعث إليهم رجلاً له نجدة وبأس في ثمانية آلاف أو تسعة آلاف من المكان الذي يأتيك كتابي فيه والسلام .
فقام الوليد في الناس وأعلمهم الحال وندبهم مع سلمان بن ربيعة الباهلي فانتدب معه ثمانية آلاف فمضوا حتى دخلوا مع أهل الشام إلى أرض الروم ،