اوایل شهریورماه 1357 کابینه شریف امامی با شعار آشتی ملی جانشین جمشید آموزگار شد. در این کابینه ارتشبد قرهباغی به سمت وزارت کشور منصوب شد. در فاصله کوتاهی فاجعه 17 شهریور روی داد. صبح روز جمعه 17 شهریور هزاران تن از مردم تهران جهت یک راهپیمایی بزرگ به خیابانها ریختند. از آنجا که دیر وقت شب پیش از آن حکومت نظامی اعلان شده بود، مردم اطلاعی از ماجرا نداشتند. بیشترین تجمع در میدان ژاله (شهدای فعلی) بود که حدود 20 هزار تن در این میدان تجمع کرده بودند. از آنجایی که نظامیان و کماندوها با وسایل مدرن ضد شورش نتوانستند جمعیت را متفرق کنند، در نتیجه بنا به دستور مقامات بالا، راهپیمایان به رگبار گلوله بسته شده و عده زیادی به شهادت رسیدند. ارتشبد قرهباغی عامل کشتار 17 شهریور را ارتشبد اویسی، فرماندار نظامی وقت میداند. پس از این واقعه بهرغم اینکه برخی مقامات خواهان لغو حکومت نظامی بودند اما قرهباغی و برخی دیگر صراحتا مخالفت کردند: «... صورت جلسه امضا شد و شاه هم بنا به رأی اکثریت اعضای شورای امنیت ملی با ادامه حکومت نظامی موافقت کرد». (ظهور و سقوط سلطنت پهلوی)
پس از واقعه 13 آبان 57 و کشتار دانشآموزان و دانشجویان مقابل دانشگاه تهران، کابینه شریف امامی سقوط کرد و ارتشبد ازهاری مأمور تشکیل کابینه شد. ازهاری که اغلب اعضای کابینه خود را از بین فرماندهان ارشد نظامی برگزید. قرهباغی را نیز به عنوان وزیر کشور و مدتی نیز سرپرست وزارت اقتصاد و دارایی معرفی کرد. پس از سقوط کابینه ازهاری، همزمان با روی کار آمدن کابینه بختیار، ارتشبد قرهباغی به سمت ریاست ستاد بزرگ ارتشتاران از سوی شاه برگزیده شد. ارتشبد قرهباغی در جلسه معارفه 16/10/57 که در ستاد بزرگ ارتشتاران تشکیل شد، خطمشیهای کلی خود در جهت توسعه و بهبود وظایف و مأموریتهای محوله به ستاد بزرگ ارتشتاران، ادارات و سازمانهای تابعه آن را تعیین کرد. در مدت اقامت هایزر در تهران، قرهباغی با وی روابط نزدیکی برقرار کرد به طوری که هایزر و سولیوان، سفیر وقت آمریکا در تهران در عضویت قرهباغی در شورای سلطنت نقش مهمی را ایفا کردند. (مأموریت مخفی هایزر در تهران) علاوه بر این هنگامی که شاه قصد ترک کشور را داشت، هایزر تلاش کرد قرهباغی را به عنوان یک رهبر نظامی به سایرین بقبولاند. قرهباغی پس از به دست آوردن مسند ریاست ستاد بزرگ ارتشتاران، در 23/10/57 به عضویت شورای سلطنت برگزیده شد. او از تاریخ انتصاب به ریاست ستاد تا روز خروج شاه از ایران 14 تا 26 دی ماه 57 تقریبا هر روز یا حتی بعضی روزها 2 بار برای ملاقات با شاه به کاخ نیاوران میرفت. قرهباغی در هر فرصت تلاش میکرد شاه را از تصمیم خود به خروج از ایران منصرف کند. قرهباغی پس از خروج شاه در یک اقدام بیسابقه- تا آن روز یک مقام نظامی بیانیه سیاسی صادر نکرده بود- پس از هماهنگی با بختیار طی مصاحبهای، ضمن تکذیب شایعه کودتای ارتش علیه دولت بختیار، گفت برابر قوانین و آییننامههای موجود ارتش هر گونه تمرد و عمل خودسرانه بشدت سرکوب خواهد شد و اعلام داشت ارتش از دولت قانونی حمایت خواهد کرد. او 6 بهمن 57 از فرمانداریهای نظامی خواست با قاطعیت از هرگونه تجمع و حرکت دستهها جلوگیری شود و هر گونه حمله انقلابیون به نقاط حساس شهر را به سرعت سرکوب کنند. پس از ورود امام خمینی به ایران و اعلام ایشان مبنی بر تشکیل دولت جدید این موضوع در جلسه کمیته بحران مطرح شد، لذا قرهباغی و سایر فرماندهان سرسختانه از دولت بختیار حمایت کردند.
قرهباغی پس از ورود امام خمینی بارها حمایت خود را از دولت بختیار اعلام و طی بیانیههای مختلف خطاب به فرماندهان، دستورات لازم را برای سرکوب انقلابیون صادر میکرد. پس از اعلام همبستگی همافران نیروی هوایی با امام خمینی و تسلیم اغلب شهرها و عدم کارآیی حکومت نظامی، سران ارتش از ادامه مقاومت مأیوس شدند. از این رو شورای عالی نیروهای مسلح صبح روز 22 بهمن 58 در اتاق شورای ستاد بزرگ ارتشتاران تشکیل شد. در این جلسه پس از ارائه گزارش فرماندهان از وضعیت نیروهای خود و اظهارنظر چند تن دیگر، در نهایت مساله بیطرفی ارتش به اتفاق آرا تصویب شد. قرهباغی در خاطرات خود اعلام بیطرفی ارتش را یک نتیجهگیری منطقی و مناسبترین راهحل برای اجرای دستورات شاه و حفظ تمامیت وحدت ارتش میداند. هایزر نیز او را متهم به خیانت علیه همکارانش میکند و مینویسد که وی به دادگاههایی که همکارانش را محاکمه و محکوم میکرد کمک میکرده است. قرهباغی 23 بهمن 1357 هنگام اطلاع از تحت تعقیب قرار گرفتنش از سوی کمیته انقلاب اسلامی در منزل یکی از دوستان خود به نام مستعار اردشیر مخفی شد. قرهباغی در حال عزیمت به محل کارش در لویزان، در خیابان گرفتار ترافیک و ازدحام جمعیت میشود و به طور اتفاقی به منزل یکی از دوستانش میرود تا چند تماس تلفنی بگیرد. او در آنجا درمییابد که پادگان لویزان به تصرف نیروهای مردمی درآمده، همچنین منزلش تفتیش شده و نیروهای انقلابی در تعقیب او هستند. بدین سان دوره اختفای 14 ماهه ارتشبد قرهباغی آغاز میشود تا اینکه سرانجام با یک شناسنامه جعلی موفق به فرار از ایران میشود. وی در مدت 14 ماه اختفا در تهران به طور مرتب محل اقامت خود را عوض میکرد. در این مدت جز همسر وی در پاریس، تنها چند نفر از محل اسکان او اطلاع داشتند. سرانجام قرهباغی با همکاری چند تن از دوستانش توانست شناسنامهای به نام «احمد کوپاهی، صادره در سال 1320 و متولد تبریز» جعل کرده و روادید سفر به خارج از کشور دریافت کند. او سپس با تغییر قیافه از طریق فرودگاه مهرآباد عازم پاریس شد. قرهباغی پس از خروج از ایران بعد از مدتی سکوت در 12 خرداد 1359 طی بیانیهای اعلام کرد «در سقوط شاه و تغییر رژیم هیچگونه نقشی نداشته است». بر اساس سند کد 5196 آرشیو مرکز اسناد انقلاب اسلامی، در 12/7/61 وی طی ملاقاتی با رضا پهلوی در مراکش اعلام کرد حاضر است «با هر گروه سیاسی» با هر ایدئولوژی که داشته باشند ملاقات و گفتوگو کند تا بر سر تعیین یک پلتفرم تازه سیاسی به توافق برسند.