Setelah mengalahkan Saidatina [[Aisha]] dalam [[Perang Jamal]], Ali kembali ke [[Kufah]] pada bulan Januari 657. Beliau mengambil keputusan untuk memindahkan ibu negeri dari [[Madinah]] ke Kufah kerana kedudukannya yang lebih strategik di dalam empayar, dan menghalang kemaraan Muawiyah ke Iraq. Untuk menyelesaikan perbalahan secara aman, Ali menghantar utusan kepada Muawiyah di Syria meminta beliau berbai`ah kepada dirinya. Muawiyah menolak, sebaliknya mengulangi tuntutannya agar Ali mengambil tindakan ke atas pembunuh [[Uthman bin Affan|Uthman]]. Jika tidak, Muawiyah sendiri yang akan mengambil tindakan.
Mendengar jawapan yang sedemikian, Ali menyiapkan pasukannya dan mula bergerak ke arah Syria. Beliau pada mulanya merancang menyerang Syria dari arah utara tetapi mengubah dengan mara terus melalui padang pasir Mesopotamia. Ketika sampai ke Riqqa yang berada di tebing Sungai Furat, mereka bertemu dengan barisan hadapan tentera Muawiyah tetapi mereka berundur tanpa berlaku sebarang pertempuran. Penduduk Riqqa tidak mesra dengan pasukan Ali dan tenteranya yang menghadapi kesukaran menyeberang sungai. Akhirnya setelah berjaya menyeberangi sungai, tentera Ali terus mara sepanjang tebing Sungai Furat sehinggalah mereka bertemu dengan kubu kecil tentera Syria di Sur al-Rum di mana berlaku pertempuran kecil. Pertempuran ini tidak melengahkan pergerakan tentera Ali yang akhirnya bertemu dengan tentera Muawiyah di satu tempat yang bernama Siffin dan bermulalah peperangan yang dikenali dengan Perang Siffin.
=== Pertempuran utama ===
Ali membuat tuntutan terakhir kepada tentera Muawiyah supaya menyerah dan mengiktiraf beliau sebagai khalifah tetapi mereka menolak. Akibatnya pada 8 Safar 36 (26 Julai 657), Ali mengarahkan serangan dilakukan dan bermulalah Perang Siffin. Perang berlangsung sepanjang hari sehingga ke malam. Perang yang berlanjutan berterusan pada hari keesokannya. Walaupun berusia (Ali pada masa itu berumur 58 tahun), Ali memimpin pasukannya yang terdiri daripada pasukan dari Madinah di bahagian tengah dan pasukan dari Basrah dah Kufah di bahagian kiri dan kanan. Muawiyah melihat pertempuran dengan dikelilingi oleh pengawal peribadinya. [[Amru Al-Ash]] mengetuai pasukan berkuda menyerang pasukan Kufah dengan jaya dan hampir-hampir membunuh Ali. Tetapi keberanian Ali menaikkan semangat tenteranya dan serangan berjaya dihalang. Di pihak pasukan Basrah pula ialah al-Ashtar dan 300 qari yang mengetuai serangan ke atas tentera Muawiyah. Serangan mereka berjaya sehingga hampir menyebabkan Muawiyah berundur dari medan pertempuran.
Pertempuran berterusan kepada hari ketiga sementara jumlah korban meningkat termasuk Hashim ibn Utba dan Ammar ibn Yasir, kedua-duanya [[sahabat]] Nabi. Kedua-dua kumpulan pada masa itu sudah kehabisan senjata dan pertempuran dilakukan dengan berlawan menggunakan tangan. Kedua-dua Ali dan Muawiyah tidak gembira dengan kehilangan yang besar di kedua-dua belah pihak, tetapi Muawiyah dapat merasakan dia akan kalah.
Amru Al-Ash akhirnya mencadangkan agar digunakan al-Quran untuk melakukan perundingan. Muawiyah menerima cadangan ini dan mengarahkan orang-orangnya meletakkan 500 buah Quran di hujung tombak dan menjerit, "Undang-undang Tuhan! Ini akan memutuskan di antara kita!" Dengan ini ia bermaksud kedua-dua pihak hendaklah berhenti bertempur dan menyelesaikan pertelingkahan dengan perundingan aman di bawah tatatertib Islam. Muawiyah dan Amr tidak berfikir Ali akan menerima tawaran ini tetapi mereka yakin ada di kalangan penyokong Ali yang akan menerima tawaran perundingan ini dan ini akan menyebabkan berlaku ketidak puasan hati di kalangan pasukan Ali.
Helah ini menyebabkan tentera Ali berhenti bertempur. Ali bagaimanapun menyeru tenteranya terus berjuang dengan mengatakan Muawiyah melakukan helah ketika hampir kalah tetapi mereka tidak mahu mendengar. Ali dan al-Ashtar menghabiskan banyak masa berdebat dengan orang mereka tetapi tidak dapat mengubah fikiran mereka semua. Mereka malah menjadi tidak sabar dan menyerang al-Ashtar dengan cemati dan memanggilnya penghasut yang suka peperangan; mereka malah mengancam untuk menghantar Ali kepada Muawiyah sebagai banduan jika beliau tidak menerima perundingan tersebut. Dengan keadaan tersebut Ali tidak mempunyai pilihan lain selain daripada menerima perundingan.
