بويع لموسى الهادي يوم توفي المهدي، و كان الهادي إذ ذاك بجرجان يحارب أهل طبرستان، فاجتمع الموالي و القواد على هارون، و قالوا: إن علم الجند بوفاته لم نأمن الشّغب، و الرّأي أن تنادي في الجند بالقفول حتى نواريه ببغداد، فقال هارون:
ادعوا إليّ أبي يحيى بن خالد، و كان المهدي قد ولّى هارون المغرب كلّه من الأنبار إلى إفريقية، فأمر يحيى بن خالد أن يتولّى ذلك، و كان يقوم بأعماله و دواوينه إلى أن توفّي، فلمّا جاء يحيى قال له هارون: يا أبت، ما تقول فيما يقول عمرو بن بزيع و نصير و المفضّل [2]؟ قال: و ما قالوا؟ فأخبره، قال: ما أرى ذلك، قال: و لم؟ قال: لأن هذا لا يخفى، و لا آمن إذا علم الجند أن يتعلّقوا بمحمله و يقولون: لا نخلّيه حتى نعطي لثلاث سنين و أكثر، و يتحكّموا و يشتطّوا، و لكن أرى أن يوارى هاهنا، و توجّه نصيرا إلى أمير المؤمنين الهادي بالخاتم و القضيب و التعزية و التهنئة، فإنّ البريد لا ينكر أحد خروجه،