فضل برمکی در زمان خلافت هارون، دو سال در خراسان حکومت کرد. او در خراسان «رفتار نکو داشت و در آن جا مسجدها و رباطها (=کاروانسراهای بین راهها) ساخت» (طبری،ج12، ص5261) و «از بخشندهترین مردم زمان خود بود».
ابناَثیر در کتاب «الکامل»، «او را از نیکمردانی شمرده است که جهان مانند او را به یاد ندارد» (لغتنامهٌ دهخدا).
فضل پس از دوسال حکومت در خراسان «استعفا خواست و بیافت و به بغداد بازآمد… فضل رشید را هدیه یی آورد به رسم» (تاریخ بیهقی، به تصحیح دکتر علی اکبر فیّاض، چاپ دوم، شهریور1356، ص535).
پس از استعفای فضل برمکی، هارون برآن شد که علی بن عیسی را به حکومت خراسان بفرستد و از وزیرش یحیی برمکی رأی خواست. یحیی گفت: «علی مردی جَبّار و ستمکار است و فرمان، خداوند راست (= امر، امر خلیفه است)».
هارون رشید باوجود ناخرسندی وزیرش، علی بن عیسی را به خراسان فرستاد و «علی دست برگشاد و مال، به افراط، برسَتَدن گرفت و کس را زَهره (=جراٌت) نبود که بازنمودی(=بیان کند) و مُنهیان (=خبرچینان) سوی یحیی می نبشتند. او فرصتی نگاه داشتی و حیلتی ساختی تا چیزی از آن به گوش رشید رسانیدی و مظلومی پیش کردی تا ناگاه در راه، پیش خلیفه آمدی. و البتّه، سود نمی داشت تا کار بدان منزلت رسید که رشید سوگند خورد که هرکس که از علی تَظَلُّم (=دادخواهی) کند، آن کس را نزدیک وی فرستد. و یحیی و همه مردمان خاموش شدند.
علی خراسان و ماوراءالنهر و ری و جبال (=یا عراق عَجَم شامل این شهرها بود: همدان، اصفهان، قزوین، قم، کاشان، نهاوند، دینوَر) و گرگان و طبرستان و کرمان وسپاهان و خوارزم و نیمروز و سیستان بکند و بسوخت و آن سَتَد (=گرفت) که از حدّ و شمار بگذشت».
در سال 183هـق (799م) رشید علی بن عیسی را، که حاکم خراسان بود، بهنزد خود خواند. علی «از آن مال هدیه یی ساخت رشید را که پیش از وی کس نساخته بود و نه پس از وی بساختند. و آن هدیه نزدیک بغداد رسید و نُسخت (=فهرست) آن بر رشید عرضه کردند. سخت شاد شد و به تعجّب بماند».
فضل بن ربیع، حاجب بزرگ دربار هارون، ـکه از سال 179هـ (795م)، بعد از عزل محمّد بن خالد برمکی از حاجبی دربار، رشید این منصب را به او سپرده بود و با برمکیان، سخت، دشمنی می ورزید و از علی بن عیسی جانبداری می کردـ زمان را برای لطمه زدن به برمکیان مناسب دید و در پاسخ هارون که از او پرسید با این هدیه علی بن عیسی چه باید کرد؟ گفت: «خداوند را بر مَنظَر (=طبقه بالایی قصر، جای بلند) باید نشست و یحیی و پسرانش و دیگر بندگان را بنشاند و بایستاند تا هدیه پیش آرند و دلهای آلبرمک بطرقد (=بترکد) و مقرّر گردد (=ثابت شود) خاص و عام را که ایشان چه خیانت کرده اند که فضل بن یحیی هدیه، آن مقدار آورد از خراسان که عاملی از یک شهر بیش از آن آرد و علی چندین فرستد.
این اشارت رشید را، سخت، خوش آمد که دل، گران کرده بود بر آل برمک، و دولت ایشان به پایان خواست آمد».
فردای آن روز، هارون رشید در شَمّاسیه، در شرق بغداد، در نزدیکی محله رُصافَه، که اردوگاه (=مُعَسکَر) پدرش مهدی بود، بر جایگاه بلندی، رو به میدان، نشست و یحیی و دو پسرش ـفضل و جعفرـ را در کنارش نشاند و فضل بن ربیع و گروهی دیگر بایستادند و هدیه ها را به میدان آوردند:
ـ«هزار غلام ترک بود، به دست هریکی دو جامهٌ مُلَوّن (=رنگارنگ)، از شُشتَری و سپاهانی و سُقلاطون (=پارچهٌ زردوزی شدهٌ ابریشمی)و مُلحَمَ دیباجی (= نوعی پارچهٌ ابریشمی سفید) و دیبای ترکی (=پارچهٌ ابریشمی رنگین) و دیداری (=پارچهٌ توری) و دیگر اجناس. غلامان بایستادند با این جامهها.
ـبر اثر (=درپی) ایشان، هزار کنیزک ترک آمد، به دست هریکی جامی زَرّین (=طلایی) یا سیمین (=نقره یی) پر از مُشک (=ماده یی خوشبو که از ناف آهو می گیرند) و کافور و عَنبر و اَصناف عطر و طَرایف (=چیزهای کمیاب) شهرها.
ـ و صد غلام هندو و صد کنیزک هندو، به غایت نیکو… با ایشان پنج پیل نر آوردند و دو ماده. نران بَرگُستوانهای (=روپوش و زره اسب یا فیل)ی دیبا و آیینه های زرّین و سیمین، و مادگان با مَهد (=تخت روان)های زر و کمرها و ساختها (=زین و برگ)ی مُرَصّع به جواهر (=جواهرنشان).
ـ و بیست اسب آوردند، بر اثر پیلان، با زینهای زَرّین، نعل زر برزده و ساختهای مُرَصّع به جواهر بَدَخشی و پیروزه و اسبان گیلی و دویست اسب خراسانی با جُلها(=پالانها)ی دیبا (=نوعی پارچه ابریشمی رنگین) و بیست عقاب و بیست شاهین.
ـ و هزار شتر آوردند. دویست، با پالان و افسارهای ابریشمین، دیباها درکشیده در پالان… و سیصد اشتر از آن با مَحمل (=کجاوه) و مَهد. بیست، با مهدهای زرّین.
ـ و پانصد هزار و سیصد پاره بلور از هردستی (=از هر نوعی).
ـ و صد جفت گاو و بیست عقد (=گردنبند) گوهر سخت قیمتی (=بسیار گرانبها) و سیصد مروارید و…
چون این اَصناف نعمت به مجلس خلافت و میدان رسید، تَکبیری از لشکر برآمد و دُهُل (=طبل بزرگ) و بوق بزدند، آن چنان که کس مانند آن به یاد نداشت و نخوانده بود و نشنوده».
پس از ورود این «هدیه»ها به میدان، هارون الرّشید رو به یحیی کرد و گفت: «این چیزها کجا بود در روزگار [حکومت] پسرت فضل؟»
یحیی گفت: «زندگانی امیرالمؤمنین دراز باد. این چیزها در روزگار امارت (=حکومت) پسرم در خانه های خداوندان (=صاحبان) این چیزها بود به شهرهای عراق و خراسان».
هارون از این پاسخ دندان شکن، برانگیخته و خشمگین شد، چنان که آن هَدیه بر وی تلخ و ناگوار گردید و روی ترش کرد و برخاست و برفت. «خلیفه، سخت دُژَم (=اندوهگین)، بنشست از آن سخن یحیی، که هارون الرّشید عاقل بود، غور(=ژَرفا و عُمق) آن دانست که چه بُوَد».
هنگامی که یحیی به خانه رفت، فضل و جعفر به او گفتند: «ما بندگانیم و نرسد ما را که بر سخن و راٌی پدر اعتراض کنیم. ما سخت بترسیدیم از آن سخن بی مُحابا (=بی باکانه) که خلیفه را گفتی. بایستی که اندر آن گفتار نرمی و اندیشه بودی».
یحیی گفت: «ای فرزندان! ما از شُدگانیم (=از رفتگانیم) و کار ما به آخر آمده است… تا برجایم سخن حق، ناچار، بگویم و به تَملّق و زَرق (=ریا و نیرنگ) مشغول نشوم که به افتعال (=صحنه سازی و دروغ پردازی) و شُعبده (=تَردستی و جادوگری) قَضای آمده بازنگردد…»
فردای آن روز «هارون الرّشید با یحیی خالی کرد (=خلوت کرد) و گفت: "ای پدر، چنان سخن درشت دی (=دیروز) در روی ما بگفتی، چه جای آن حدیث بود؟"
یحیی گفت: "زندگانی خداوند دراز باد. سخن راست و حقّ درشت باشد… تا در میان کارم، البتّه، نصیحت بازنگیرم و کُفران نعمت نورزم. مُنهیان (= خبرچینان) را زَهره نیست که آن چه رود، بازنمایند. علی عیسی رَعایای خراسان را ناچیز کرد و اَقویا (=توانایان) و مُحتَشمان (=افراد دارای بزرگی و حشمت) را برکند و ضیاع (=کشتها و زراعتها)و املاک بستد و لشکر خداوند (=خلیفه) را درویش کرد… بدین همه که فرستاد نباید نگریست که از ده درَم (=سکهٌ نقره) که بستده است، دو یا سه فرستاده است و بدان باید نگریست که ساعت به ساعت خَلَلی (=تباهی و فسادی) افتد که آن را درنتوان یافت (=آن را چاره نمی توان کرد)…"» (تاریخ بیهقی، به تصحیح دکتر فیّاض، ص536).
آن خَللی که یحیی برمکی در سال 183هـق (799م) از آن سخن گفت، اندک، اندک، پدیدار شد و آشوب و ناامنی سراسر خراسان را فراگرفت.
چند سال بعد، هارونالرّشید در شب شنبه 30 محرّم سال187هـ (28ژانویه 803م) به جَلّادش، مَسرور خادم، و جمعی از سپاهیانش فرمان داد که شبانه جعفر برمکی را پیش او ببرند. مسرور جعفر را، کشانکشان، پیش هارون الرّشید برد. هارون به مسرور خادم فرمان داد که گردن جعفر (37ساله) را بزند. و او چنین کرد (طبری، ج12، ص5309).
به فرمان هارون، همان شب، خانه های برمکیان و یاران و دست پروردگانشان را به محاصره درآوردند. یحیی را در خانه خود و فضل (پسر ارشد یحیی) را در خانه یی نزدیک سَرای خلیفه دستگیر کردند. در این یورش شبانه، بسیاری از غلامان و کودکان و کسان برمکیان کشته شدند. همه داراییهای آنها نیز مصادره شد.
هارون به سندی بن شاهک، داروغه بغداد، فرمان داد که پیکر جعفر را به کوفه ببرد و «سر او را بر پل میانه بیاویزد و پیکر او را دوپاره کند و بر پل بالا و پل نزدیک بیاویزد. سندی نیز چنین کرد» (طبری، ج12، ص5311).
حدود دو سال بعد، در روز شنبه 28ذیحَجّه 189هـ (24نوامبر 805م)، که هارونالرّشید پس از چهار ماه اقامت در ری، وارد بغداد شد. چون از پل گذشت و پیکر شقه شده و خشکیده جعفر برمکی را دید، به سندی بن شاهک گفت:«می باید، این، سوخته شود». «چون [هارون] برفت، سندی خار و هیزم فراهم آورد و او را بسوخت» (طبری، ج12، ص5313).
یحیی و فضل در زندان شهر رَقّه، در غرب بغداد، جان باختند: یحیی در محرّم سال 190هـ (دسامبر 805م)، به سنّ 75 سالگی (پس از گذراندن سه سال در سیاهچال) و فضل سه سال بعد، در محرّم سال 193هـ (نوامبر 808م) به سنّ 45سالگی.