Awal kariernya di Old Trafford tidaklah semulus yang ia kira. Saat itu MU terbelit dalam masalah alkohol yang kritis. Beberapa pemain andalan mereka (Norman Whiteside, Paul McGrath dan Bryan Robson), mempunyai hobi menenggak minuman keras dan mempunyai level kebugaran yang "menyedihkan". Ferguson, bersama-sama dengan Archie Knox yang diangkat menjadi asisten manajer saat itu, secara perlahan-lahan mengubah kebiasaan buruk itu dan menanamkan disiplin ketat bagi para pemain, hal yang masih berlaku sampai saat ini di MU. Pertandingan debutnya berakhir dengan kekalahan 2-0 atas klub underdog, Oxford United. Diikuti oleh hasil imbang 0-0 7 hari berikutnya melawan Norwich City. Kemenangan pertama United dibawah asuhan Fergie hadir pada 22 November 1986 ketika Red Devils mengalahkan Queens Park Rangers 1–0 di Old Trafford. Selain itu Fergie juga berhasil memenangkan pertandingan tandang satu-satunya yang mereka raih musim itu. Yang istimewa, lawan mereka adalah rival abadi United, Liverpool pada Boxing Day, hal yang mana telah dijanjikan oleh Fergie ketika konferensi pers pertamanya sebagai manajer United yaitu "akan menggantikan Liverpool sebagai klub Inggris paling dominan mulai saat ini". Dalam musim perdananya di United, Fergie membawa MU duduk di peringkat 11, setelah sebelumnya mereka sempat terdampar di peringkat 21. Musim berikutnya Ferguson mendatangkan beberapa pemain baru untuk membela United. Mereka adalah Steve Bruce, Viv Anderson, Brian McClair dan kiper Jim Leighton. Dengan tambahan pemain-pemain baru ia meraih posisi 2 dibelakang Liverpool yang menjadi juara Liga Inggris. Musim 1988/89 Ferguson kembali mendatangkan pemain baru, kali ini Mark Hughes yang kembali bergabung dengan United setelah penampilan mengecewakan selama 2 tahun di FC Barcelona. United diunggulkan untuk menjadi juara pada musim itu namun penampilan mereka mengecewakan dan akhirnya kembali terdampar di posisi 11 pada klasemen akhir. Pada awal musim, United tampil dalam partai persahabatan melawan tim nasional Bermuda dan Somerset County dimana Fergie turun sebagai salah satu pemain saat laga melawan Somerset. Ini merupakan satu-satunya penampilan Fergie berseragam Setan Merah dalam pertandingan

Musim 1989/90, Ferguson kembali mendatangkan pemain baru ; Paul Ince, Mike Phelan, Neil Webb dan bek Gary Pallister. Pada awal musim United berhadapan dengan juara bertahan Arsenal dimana Setan Merah berhasil menang 4-1 namun performa United menurun dan setelah kekalahan memalukan 5-1 dari rival sekota Manchester City, spanduk yang meminta Fergie untuk mundur mulai bermunculan di Old Trafford. Fergie sendiri menggambarkan bulan Desember 1989 adalah "masa-masa tergelap selama kariernya dalam dunia sepak bola" dimana United manjadi salah satu calon klub yang akan mengalami degradasi dari Liga Inggris. Dewan direktur klub tetap mempercayai Fergie sebagai manajer. Mereka bisa mentoleransi penampilan buruk klub karena beberapa pemain kunci cedera dan mereka juga puas atas peran serta Ferguson yang mengubah sistem pelatihan dan pencarian bakat di United. Kepercayaan dewan direksi klub dijawab Ferguson dengan kemenangan 1–0 pada final replay Piala FA melawan Crystal Palace yang saat itu diperkuat oleh Ian Wright. Raihan trofi ini adalah yang pertama untuk Fergie selama menangani United dan disebut-sebut sebagai trofi penyelamat kariernya di MU. Pada awal musim 1990/91 Fergie mendatangkan kiper asing dari Denmark, Peter Schmeichel untuk mengawal gawang United dan Andrei Kanchelskis untuk mengisi pos sayap kanan. Raihan trofi pertama membuat para fans berharap banyak pada musim berikutnya 1990/91, dimana sekali lagi United menghadirkan performa impresif ketika mengalahkan Arsenal di Highbury, 6-2. Namun performa yang kurang konsisten membuat United menderita kekalahan dari klub gurem Sunderland, Liverpool juga mengalahkan mereka 4-0 di stadion Anfield diikuti kekalahan dari klub sekota Liverpool, Everton di Old Trafford, 2-0. Kekalahan melawan Everton ini merupakan debut dari sayap kiri muda yang fenomenal, Ryan Giggs di tim utama setelah dipromosikan oleh Fergie dari skuat junior mereka. Performa inkonsisten mereka di Liga Inggris ternyata tidak berpengaruh pada penampilan mereka dalam ajang eropa. United melaju hingga partai final yang mempertemukan mereka dengan FC Barcelona dalam ajang Piala Winners dimana Setan Merah mengalahkan wakil Spanyol itu 2-1. Sayangya United kembali mengalami kegagalan pada musim berikutnya, walaupun sukses dalam ajang Piala Liga dan Piala Super Eropa, United gagal mempertahankan performa mereka dalam kompetisi domestik. Setelah gagal merekrut Alan Shearer, United mendatangkan penyerang Dion Dublin pada musim panas 1992. Penampilan sayap kiri muda Ryan Giggs semakin impresif setelah Fergie melepas Lee Sharpe, yang berposisi sama dengan Giggs, pada musim 1990/91. Dengan skuat yang ada saat itu, fans United mulai yakin akan performa Setan Merah dalam meraih trofi pertama mereka sejak musim 1966/67. Setelah performa buruk pada paruh pertama musim (peringkat 10 dari 22 klub), Fergie mendatangkan pemain baru pada Januari 1993, Eric Cantona (yang menjuarai Liga Inggris musim sebelumnya bersama rival United, Leeds United) sebesar £1.2 Juta. Penampilan Cantona bersama Mark Hughes di lini depan dan mental juaranya yang kental, langsung berimbas pada performa United secara keseluruhan yang langsung melejit memuncaki daftar klasemen dengan keunggulan 10 poin dari peringkat 2 Aston Villa dan akhirnya menjadi juara Liga Premier Inggris yang pertama kalinya. Ini juga trofi Liga Inggris yang ke 8 sepanjang sejarah klub dan menjadi trofi Liga pertama untuk Fergie sejak ia datang sebagai manajer United pada 1986. Musim 1993/94 Ferguson memperkuat skuat United dengan mendatangkan gelandang emosional, Roy Keane dari Nottingham Forest sebesar £3.75 juta sebagai calon pengganti kapten United saat itu, Bryan Robson yang mulai memasuki masa pensiun. United langsung memimpin klasemen liga dari awal musim sampai akhir musim 1993/94. Cantona menjadi pencetak gol terbanyak dengan 25 gol. (Walaupun 2 kali terkena kartu merah dalam jangka waktu 5 hari). Fergie juga memimpin United tampil dalam final ajang Piala FA dengan mengalahkan Chelsea 4-0. Ini merupakan gelar double pertama di United setelah dulu pernah mencapai prestasi serupa di Aberdeen.