السلام عليكم ورحمة الله و بركاته توفي أبو هاشم في سامراء، في شهر جمادي الأولى سنة 261 هـ، نقل الخطيب البغدادي في كتابه أنّ أبا هاشم تم نفيه سنة 252 هـ، وبقي هناك حتى وفاته المنية. وقبره مشهور ببغداد كما ذكر المسعودي، ولكنه اليوم في عداد القبور المندرسة.