Julian adalah penguasa Ceuta. Dia menandatangani perjanjian damai dengan Kekhalifahan melalui Musa bin Nusayr. Julian memiliki seorang putri sangat cantik yang bernama Florinda. Demi hubungan yang baik dengan Visigoth, Florinda dikirim ke istana Roderick untuk belajar. Roderick tertarik dan ingin menikahi Florinda, tetapi Florinda menolaknya. Roderick yang marah kemudian menghamili Florinda dan mengancamnya agar ia tak memberitahu siapa-siapa kejadian tersebut. Namun, berkat kecerdasannya, Florinda berhasil menyelundupkan sebuah surat ke luar istana Roderick dan mengirimnya ke Julian, ayahnya, memberitahu apa yang terjadi.

Julian sangat marah dan bersumpah untuk menghancurkan Roderick. Ia segera menuju istana Roderick untuk mengambil Florinda. Julian mengarang cerita bahwa istrinya sedang sakit keras dan berharap Florinda ada di samping ibunya untuk menjaganya. Mendengar itu, Roderick pun mempersilakan Florinda pulang bersama ayahnya. Setelah berhasil mengamankan Florinda di istana Ceuta, Julian menuju kediaman Musa bin Nusayr, memintanya untuk menyerang Visigoth.

Awalnya, Musa menolaknya karena saat itu Semenanjung Iberia belum dikenal di kalangan kaum muslimin. Namun, Julian terus mendesaknya. Akhirnya, Musa meminta Julian untuk menyerang Semenanjung Iberia dengan pasukan kecil untuk menunjukkan keseriusannya. Julian melaksanakan perintah itu. Ia membawa dua kapal dan menyerang Algeciras. Keesokannya, ia berhasil pulang dan menunjukkan harta rampasan perang kepada Musa bin Nusayr dalam jumlah yang banyak. Musa pun mempercayai Julian.Musa segera bergerak cepat dengan mengirimkan surat kepada khalifah Al-Walid di Damaskus, meminta izin untuk membebaskan Semenanjung Iberia. Jawaban dari Al-Walid pun datang,

"Hendaknya kirim dulu pasukan kecil ke negeri itu sehingga mereka bisa menyerangnya dan membawa berita kepadamu tentang apa-apa yang terdapat di negeri tersebut. Hati-hatilah! Jangan sampai kaum muslimin musnah oleh teror dan bahaya lautan."

Musa bin Nusayr mengirim balasannya,

"Ini bukan lautan, tetapi hanya terusan sempit. Pantainya terlihat di kejauhan."

Al-Walid kembali membalas suratnya,

"Tidak apa-apa. Tetaplah kirim pasukan pendahuluan ke sana!"

Setelah mendapatkan izin dari khalifah, Musa bin Nusayr mengirim pasukan ekspedisi awal ke wilayah Semenanjung Iberia. Pasukan ini dipimpin oleh Tarif bin Malik (Tarif Abu Zar'ah bin Malik Al-Mughaferi). Tarif bin Malik memimpin 500 tentara yang di dalamnya ada 100 penunggang kuda. Tarif berangkat dengan menggunakan empat buah kapal. Mereka mendarat di pulau paling selatan Semenanjung Iberia. Kelak, pulau ini akan dinamakan kota Tarifa yang berasal dari nama Tarif bin Malik.
Tarif segera melaksanakan perintah Musa bin Nusayr untuk menyerang daerah terdekat dari tempatnya berlabuh. Setelah berhasil, Tarif kembali ke Musa bin Nusayr dan membawakan harta rampasan perang yang banyak. Ia juga menyebut negeri itu dengan sebutan Jazirat al-Khadra (pulau yang hijau) untuk menyebut Semenanjung Iberia.Melihat,kesuksesanan Tarif,Musa bin Nusayr lalu menunjuk Thariq bin Ziyad untuk memimpin pembebasan ini. Thariq membawa 12.000 pasukan yang mayoritasnya adalah bangsa Berber. Hanya 300 orang dari bangsa Arab dan 700 orang dari bangsa Afrika. Julian dari Ceute bertugas sebagai intel dan penunjuk jalan pasukan. Para pasukan pun berangkat dari Ceuta menggunakan kapal Julian untuk menyamar. Pengangkutan pasukan dilakukan secara bolak-balik pada malam hari supaya tidak mencurigakan.

Sesaat sebelum berlabuh, Thariq memutuskan untuk tidur sebentar. Dalam tidurnya, ia bermimpi bertemu dengan Nabi Muhammad yang dikelilingi orang-orang Muhajirin dan Anshar. Mereka membawa pedang yang terhunus. Lalu, Nabi Muhammad bersabda kepada Thariq:

"Janganlah gentar, wahai Thariq. Sempurnakan apa yang ditakdirkan bagimu untuk melakukannya!"

Kemudian Thariq terbangun dan merasa yakin kemenangan ada di pihaknya. Ia memberitahukan mimpi ini kepada prajurit-prajurit muslim yang ada di kapal bersamanya.

Awalnya Thariq ingin mendarat di Algeciras tetapi tidak jadi karena kota itu dijaga oleh pasukan Visigoth. Akhirnya, Thariq dan pasukannya mendarat di Calpe, arah timur Algeciras. Kelak, Calpe diubah namanya menjadi Jabal Al-Fatah (Gunung Kemenangan). Namun, tempat itu lebih dikenal dengan nama Jabal Tariq atau Gibraltar.

Menurut sejarah barat, kemenangan pasukan muslim dalam penaklukan Andalusia banyak dipengaruhi oleh semangat juang yang berhasil dikobarkan oleh Thariq dimana dia memerintahkan untuk membakar semua kapal sehingga tidak ada jalan untuk melarikan diri selain bertempur habis-habisan melawan musuh sampai meraih kemenangan atau mati sebagai syuhada. Thariq bin Ziyad merupakan sosok pahlawan yang mampu membawa kejayaan Islam di masanya.Pembebasan kota juga dibantu oleh orang Yahudi yang sebelumnya ditindas oleh Visigoth. Mereka berlarian membuka pintu gerbang kota untuk menyambut pasukan Thariq bin Ziyad.Sebelum pembebasan Al-Andalus, Visigoth mempraktikkan Latifundium. Itu adalah sebuah praktik pengolahan tanah yang pekerjanya adalah para budak, mirip seperti industri perkebunan pada zaman sekarang. Menurut David Levering Lewis, ekonomi Visigoth dibangun di atas perbudakan[80]. Setelah Thariq datang, tanah itu dibagi-bagi ke petani lokal. Sebagian besar budak juga dibebaskan atau mereka membebaskan diri mereka sendiri dengan tebusan (pada zaman Visigoth, budak tidak diizinkan menebus diri mereka).

Setelah Al-Andalus dikuasai,lalu ditunjukah seorang wali (gubernur) oleh Khalifah di Damaskus, dengan masa jabatan biasanya 3 tahun.Karena dianggap telah banyak membantu pasukan Thariq, Julian tetap dibiarkan menguasai Ceuta untuk menghormatinya. Thariq hanya mewajibkannya mengirim pajak tahunan. Kelak, ketika Julian sudah meninggal, wilayah Ceuta baru dimasukkan ke dalam area kekhalifahan Islam. Pada periode ini stabilitas politik negeri Spanyol belum tercapai secara sempurna, gangguan-gangguan masih terjadi, baik datang dari dalam maupun dari luar. Gangguan dari luar datang dari sisa-sisa musuh Islam yang bertempat tinggal di daerah-daerah pegunungan yang memang tidak pernah mau tunduk kepada pemerintahan Islam.Gangguan dari dalam antara lain berupa perselisihan di antara elite penguasa, terutama akibat perbedaan etnis dan golongan. Di samping itu, terdapat perbedaan pandangan antara khalifah di Damaskus dan gubernur Afrika Utara yang berpusat di Al-Qairawan. Masing-masing mengaku bahwa merekalah yang paling berhak menguasai daerah Iberia.

Oleh karena itu, terjadi dua puluh kali pergantian wali (gubernur) Spanyol dalam jangka waktu yang amat singkat. Perbedaan pandangan politik itu menyebabkan seringnya terjadi perang saudara.
Pada 746, Yusuf Al-Fihri memenangkan perang saudara tersebut, menjadi seorang penguasa yang tidak terikat kepada pemerintahan di Damaskus.

Karena seringnya terjadi konflik internal dan berperang menghadapi musuh dari luar, maka dalam periode ini kaum Muslimin di Al-Andalus belum memasuki kegiatan pembangunan di bidang peradaban dan kebudayaan.Namun, menurut Ahmad Thomson, pertikaian itu hanya terjadi di kalangan elit politik. Masyarakat Muslim di Andalusia secara umum hidup dalam ketenteraman dan kebaikan. Mereka hidup dengan berusaha mencontoh inspirasi dari sahabat Nabi, juga menerapkan Al-Quran dan Sunnah semampu mereka. Misalnya, pada masa itu, orang Muslim berbondong-bondong belajar agama kepada para syaikh dan Ulama, begitu pula masyarakat Andalusia. Mereka mengirim seseorang yang bernama Yahya bin Yahya Al-Laythi untuk belajar kepada Imam Malik bin Anas. Di kemudian hari, ia menjadi Imam Madzhab Maliki.
Pada 750, bani Abbasiyah menjatuhkan pemerintahan Umayyah di Damaskus, dan merebut kekuasaan atas daerah-daerah Arabia. Keturunan terakhir Daulah Umayyah,‘Abd al-Rahmān berhasil melarikan diri menuju wilayah Magrib karena ibunya adalah seorang wanita yang berasal dari suku Barbar. Ia bermaksud menemui keluarga ibunya di sana. Dari Syam, ‘Abd al-Rahmān ibn Mu’āwiyah menujuk ke Mesir, lalu sampai ke Burqah (Libya) dan bersembunyi di sana selama lima tahun setelah itu barulah ia keluar menuju Qairuwan. Pada masa itu Qairuwan dipimpin oleh ‘Abd al-Rahmān ibn Ḥabīb al-Fiḥrī. Afrika Utara termasuk Qairuwan berdiri sendiri dan tidak termasuk bagian dari kekuasaan Daulah Abbasiyah.
Sebagai penguasa Magrib, ‘Abd al-Rahmān ibn Habīb al-Fihrī merasa terancam dengan kehadiran ‘Abd al-Raḥmān ibn Mu’āwiyah dan semakin banyaknya pelarian orang-orang Umawiyyun ke negerinya. Ia takut akan terbentuknya sebuah kekuatan Umawiyyah di sana sehingga ia mengusir orang-orang Bani Umayyah, membunuh dua orang putra al-Walīd ibn Yazīd, mengawini paksa saudari ‘Ismaīl ibn ‘Abad ibn ‘Abd al-‘Azīz ibn Marwān, mengambil hartanya dan berupaya keras mencari ‘Abd al-Raḥmān ibn Mu’āwiyah.

Karena merasa tidak aman, ‘Abd al-Rahmān ibn Mu’āwiyah keluar dari Qairuwan menuju Tadila. Kemudian dari Tadila ia berangkat menuju Mudarib, kabilah Nafzah di wilayah terujung Magrib. Kabilah ini adalah kerabatnya dari pihak ibu, karena ibu ‘Abd al-Raḥmān adalah seorang budak perempuan dari kabilah Nafzah. Tetapi situasi di daerah ini juga tidak aman karena keberadaan kelompok Khawarij yang sangat membenci kalangan Bani Umayyah. Orang-orang Khawarij bersumpah untuk menghunuskan pedang pada ‘Abd al-Raḥmān. Jadi, tidak ada pilihan lain baginya selain berangkat ke Andalusia.

Pada tahun 753 M (136 H), ‘Abd al-Rahmān ibn Mu’āwiyah mulai menyiapkan perbekalan untuk memasuki Andalusia. Ia melakukan beberapa persiapan sebelum memasuki kota yang pernah ditaklukkan oleh Ṭāriq ibn Ziyād itu. Pertama, ‘Abd al-Raḥmān mengutus budaknya, Badr, ke Andalusia untuk mempelajari situasi dan mengetahui kekuatan-kekuatan yang mempengaruhi kekuasaan di sana. Saat itu, Andalusia menjadi ajang perebutan antara orang-orang Yaman yang dipimpin oleh al-Ṣabah al-Yahsubī, dan orang-orang Qais yang dipimpin oleh Abū Jausyan al-Ṣumail ibn Hatim. Mereka inilah yang menjadi andalan pemerintahan yang dipimpin oleh gubernur ‘Abd al-Rahmān ibn Yūsuf al-Fihrī. Kedua, ‘Abd al-Raḥmān mengirim surat kepada pendukung Daulah Umawiyah di Andalusia. Di Andalusia, Bani Umayyah memiliki banyak sekali pendukung dan pengagum, bahkan dari kabilah-kabilah lain di luar Bani Umayyah. Bani Umayyah terkenal dengan kedermawanan, kebijakan politis dan kebijaksanaan mereka serta keberhasilan mereka mendapatkan kepercayaan masyarakat, intraksi mereka yang baik terhadap rakyat, upaya-puaya jihad, penyebaran agama, dan penaklukkan berbagai negeri. Ketiga, ‘Abd al-Rahmān ibn Mu’āwiyah mengirim surat kepada semua orang Umawiyyun di Andalusia dan memaparkan idenya kepada mereka bahwa ia bermaksud memasuki Andalusia serta meminta dukungan dan bantuan mereka.

Setelah Badr sukses menjalankan misinya di Andalusia, ia segera memberi informasi kepada tuannya untuk memasuki Andalusia. Situasi dan kondisi di sana telah siap untuk menyambut kedatangan ‘Abd al-Raḥmān ibn Mu’āwiyah. Tanpa menunggu lama, ‘Abd al-Raḥmān mempersiapkan bekal dan kapal menuju Andalusia.

Akhirnya, pada tahun 136 H, ‘Abd al-Raḥmān tiba di tepi pantai Andalusia seorang diri disambut oleh budaknya, Badr. Begitu ‘Abd al-Raḥmān ibn Mu’āwiyah memasuki Andalusia, mulailah ia mengumpulkan para pendukungnya, para pecinta Daulah Umawiyah, kabilah Barbar dan beberapa kabilah yang menentang gubernur Andalusia, Yūsuf ibn ‘Abd al-Raḥmān al-Fihrī. ‘Abd al-Raḥmān juga mendapat dukungan dari orang-orang Yaman yang dipimpin oleh Abū al-Ṣabah al-Yashubī.

‘Abd al-Raḥmān mengirim surat kepada Yūsuf al-Fihrī meminta kesediaannya secara baik-baik untuk menyerahkan kepemimpinan dan al-Fihrī akan diangkatnya sebagai salah seorang pejabat pentingnya di Andalusia. Tetapi Yūsuf al-Fihrī menolak hal tersebut sehingga ‘Abd al-Rahmān ibn Mu’āwiyah menyiapkan pasukan untuk memeranginya. Maka pada tahun 756 M (138 H) terjadi pertempuran antara ‘Abd al-Raḥmān ibn Mu’awiyah dengan Yūsuf bin ‘Abd al-Raḥmān al-Fihrī di tepi Sungai Guadalquivir. Pertempuran ini dikenal dengan Pertempuran al-Muṣarah yang dimenangkan oleh ‘Abd al-Raḥmān ibn Mu‘āwiyah. Sementara itu Yūsuf al-Fihrī melarikan diri.

Setelah meraih kemenangan dalam pertempuran al-Muṣārah, ‘Abd al-Raḥmān memasuki Cordova, dan dia diberi gelar “al-Dākhil”, yang berarti “masuk” karena dialah orang pertama dari kalangan Bani Umayyah yang masuk ke Andalusia sebagai pemimpin. Sejak itu babak baru Daulah Umawiyah di Spanyol. Fase ini dikenal sebagai periode Keamiran yang dimulai sejak tahun 756 M (138 H) dan berakhir 928 M (316 H). Disebut “Keamiran” karena saat itu Andalusia telah terpisah dari kekhilafahan Islam, baik yang ada di masa kekhilafahan Abbasiyah ataupun yang ada sesudahnya hingga akhir masa Andalusia.Abdurrahman menolak untuk tunduk kepada kekhalifahan Abbasiyah yang baru terbentuk, karena pasukan Abbasiyah telah membunuh sebagian besar keluarganya. Ia memerintah selama 30 tahun, namun memiliki kekuasaan yang lemah di Al-Andalus dan ia berusaha menekan perlawanan dari pendukung Al-Fihri maupun khalifah Abbasiyah.
Pada pertengahan abad ke-9, stabilitas negara terganggu dengan munculnya gerakan Kristen fanatik yang mencari kemartiran. Namun, Gereja Kristen lainnya di seluruh Al-Andalus tidak menaruh simpati pada gerakan itu, karena pemerintah Islam mengembangkan kebebasan beragama. Penduduk Kristen diperbolehkan memiliki pengadilan sendiri berdasarkan hukum Kristen. Peribadatan tidak dihalangi. Lebih dari itu, mereka diizinkan mendirikan gereja baru, biara, di samping asrama rahib atau lainnya. Mereka juga tidak dihalangi bekerja sebagai pegawai pemerintahan atau menjadi karyawan pada instansi militer.

Abdurrahman III, naik tahta pada 912, Pada 929 ia mengangkat dirinya sebagai Khalifah, sehingga keamiran ini sekarang memiliki kedudukan setara dengan kekhalifahan Abbasiyah di Baghdad dan kekhalifahan Syi'ah di Tunis.
Periode kekhalifahan ini dianggap oleh para penulis Muslim sebagai masa keemasan Al-Andalus. Hasil panen yang diperoleh melalui irigasi serta bahan makanan yang diimpor dari Timur Tengah mencukupi untuk penduduk Kordoba dan kota-kota lainnya di Al-Andalus, dengan sektor ekonomi pertanian paling maju di Eropa. Kordoba dibawah kekhalifahan ini memiliki populasi sekitar 500.000, mengalahkan Konstantinopel sebagai kota terbesar dalam hal jumlah maupun kemakmuran penduduk di Eropa. Dalam dunia Islam, Kordoba merupakan salah satu pusat budaya yang maju. Karya-karya ilmuwan dan filsuf Al-Andalus, seperti Abul Qasim dan Ibnu Rusyd memiliki pengaruh besar terhadap kehidupan intelektual di Eropa zaman pertengahan.