نفسه ليشعلن نار الفتن والثورات، فقتل عمه مضر بن أحمد بن طولون، فوثب عليه الجند وخلعوه، ثم جمعوا الفقهاء والقضاة فتبرؤا من بيعته، وانضموا إلى الجند في خلعه (١٥ جمادى الآخرة سنة ٢٨٣هـ) وذلك بعد نيف وستة أشهر من ولايته، فظل في سجنه إلى أن مات بعد أيام.
اجتمع الجند يوم خلع جيش وولوا - على ما جرت به العادة في ذلك الوقت - أبا موسى هارون بن خمارويه. وكان صغيراً لم تزد سنه على الرابعة عشرة، فلم يكن يصلح للولاية والحكم. وربما كان ذلك مما دفع بطائفة من الجند إلى عدم الرضا بتوليته، فكاتبوا رجلاً آخر من بني طولون، هو ربيعة بن أحمد بن طولون، وكان في الإسكندرية، وطلبوا إليه أن يسير إلى مصر، ووعدوه أن يقدموا لنصرته. فليس من عجب إذا صادفت هذه الدعوة قبولاً في نفس ربيعة الذي جمع من أهل البحيرة ومن البربر وغيرهم جيشاً كثيفاً سار على رأسه حتى نزل قريباً من الفسطاط. على أن حال هؤلاء القوم مع ربيعة كانت أشبه من بعض الوجوه بحال أهل الكوفة مع الحسين ابن علي، فقد خذلوا ربيعة وقعدوا عن نصرته، ولم يحولوا على الأقل دون خروج جند هارون الذين قاتلوه وأسروه (شعبان سنة ٢٨٤هـ) ثم أسخنوه بالسياط، حتى قيل أنه ضرب ألفاً ومائتي سوط، ومات تحت الضرب.
لم يفلح المناوئون لحكم هارون فيما دبروه، بل لم تعد نصرتهم لربيعة حد التدبير والكتابة. وفي عهد هارون خرج القرامطة بالشام (٢٩٠هـ) وكانت تابعة لمصر، فأنفذ والي مصر جيشاً لِمحاربتهم، ولم يستطع هذا الجيش إخراجهم من الشام، بل حلت به الهزيمة، وأدى هذه الضعف إلى تجديد رغبة الخلافة العباسية في إعادة مصر إلى سلطانها المطلق، فبعث الخليفة المكتفي (٢٨٩ - ٢٩٥هـ) محمد بن سليمان الكاتب لاستردادها من هارون، فنزل بحمص وبعث بأسطول إلى سواحل هذه البلاد، ثم واصل السير إلى فلسطين. وخرج هارون بن خمارويه لدفع سليمان عن دخول مصر، وسيّر المواكب الحربية لقتاله. وفي تنيس التقى الأسطولان العباسي والمصري، فحلت الهزيمة بأسطول مصر، ووقعت تنيس ودمياط في يد محمد بن سليمان.
