Stone Sour didirikan oleh Corey Taylor, yang akhirnya turut menjadi vokalis Slipknot, dan mantan drummer Joel Ekman. Teman lama Corey Shawn Economaki bergabung tak lama setelah itu, dan mengisi sebagai pemain bass. Selama tahun-tahun pembentukannya, Stone Sour merekam 2 kaset demo pada tahun 1992 dan 1994. Tak lama setelah itu, pada tahun 1995, Jim Root, yang sekarang juga bagian dari Slipknot dengan Corey, bergabung dengan band. Band ini telah lengkap, dan pada tahun 1996, mereka merekam kaset demo lainnya, yang nantinya akan digunakan pada tahun 2002 di album debut mereka, Stone Sour.

Di tahun 1997, band ini melanjutkan hiatus, selama Corey dan Jim menghabiskan sebagian besar waktu mereka dengan Slipknot, yang lain bertindak up-and-comedi Des Moines dan tak lama mendapatkan kontrak rekaman. Jim sebenarnya tidak bergabung dengan band sampai setahun lebih setelah Corey, dan Shawn kemudian menjadi Guitar Tech.

Setelah Josh bergabung, mereka merekam debut album mereka yang berjudul Stone Sour di Cedar Falls.
Band ini turing selama enam bulan sebelum kembali hiatus ketika Corey dan Jim kembali bergabung bersama Slipknot untuk album dan tur lainnya.

Joel Ekman keluar dari band pada tahun 2006 untuk mengurus anaknya, Isaac James Ekman yang telah didiagnosis menderita kanker, tak lama setelah itu Roy Mayorga direkrut menjadi drummer baru Stone Sour dan bermain drum di album kedua Come What(ever) May.

Di tahun 2010, band ini merilis album ketiga mereka Audio Secrecy.
Sang bassist Shawn Economaki mengundurkan diri dengan alasan pribadi di 2011 dan Jason Christopher bergabung untuk bermain bass menggantikannya selama tur.
Mantan drummer Dream Theater Mike Portnoy sempat bergabung bersama band di festival Rock In Rio IV di 2011 saat Roy Mayorga tidak bisa hadir karena sedang menantikan anak pertamanya di rumah.

Stone Sour merekam album konsep ganda mereka House of Gold & Bones di 2012-2013 yang turut menyertakan Rachel Bolan sebagai pemain bass di album tersebut menggantikan Shawn Economaki.
Pada Oktober 2012, Johny Chow diumumkan sebagai bassist untuk tur House of Gold & Bones.

Jim Root tidak mengikuti tur musim dingin 2013, karena ia ingin hiatus dari band untuk mengerjakan .5: The Gray Chapter bersama Slipknot, walaupun akhirnya diungkapkan bahwa ia telah dikeluarkan dari band karena perbedaan musikal. Ia mengklaim kalau bandnya ingin berfokus pada "uang dan radio" yang dimana ia berjuang melawannya, dan yang menyebabkan perpecahan. Christian Martucci menggantikan Jim Root selama periode itu.

Band ini dinamai Stone Sour karena terinspirasi oleh minuman beralkohol yang terdiri dari satu bagian wiski , satu bagian jus jeruk, dengan perpaduan asam.