Pemain Pantai Gading itu memulai karier di klub kota kelahirannya, ASEC Mimosas. Bakatnya kemudian dipantau oleh pemandu bakat Arsenal. Manajer Arsene Wenger langsung memboyongnya ke Inggris.
Debut Toure berseragam Arsenal dilakukan pada laga melawan Liverpool. Dia menjadi pemain pengganti pada pertandingan Community Shield 2002. Saat itu, Toure bermain sebagai gelandang bertahan yang punya naluri bagus saat membantu serangan.
Musim 2003-04 menjadi periode emas karir Toure. Dia menjadi palang pintu tangguh lini belakang Arsenal bersama Sol Campbell. Bermain dalam 36 laga, Toure menjadi bagian penting dari The Invicbles Arsenal yang tak terkalahkan sepanjang musim.
Satu tahun berselang, di Stadion Millenium Cardiff, gelar lain didapatkan Toure. Dia tampil selama 120 menit pada final Piala FA sebelum meraih trofi dengan mengalahkan Manchester United.
Toure yang piawai dalam mengomandoi lini belakang dan mendistribusikan bola ke depan menjadi faktor integral keberhasilan Arsenal melangkah ke final Liga Champions 2006, sebelum dikalahkan Barcelona. Dialah yang mencetak satu gol penentu di semifinal melawan Villarreal.
Itulah kegagalan kedua Toure pada tahun tersebut. Sebelumnya, pada Februari, dia bersama timnas Pantai Gading gagal di final Piala Afrika lantaran kalah adu penalti dari Mesir. Eksekusi Toure tak kuasa menahan laju Mesir untuk menjadi juara.
Di Piala Dunia 2006, Toure tampil dua kali membela The Elephants. Namun, Pantai Gading kandas sejak fase grup. Hal yang sama diulangi empat tahun berselang di Afrika Selatan.
Toure menjadi pilar Arsenal hingga musim panas 2009. Dia tampil dalam 225 pertandingan Premier League bersama The Gunners sebelum bergabung dengan Manchester City.
Dia langsung menjadi bagian penting tim. Musim 2010-11, dia ikut andil dalam perjuangan Manchester City menjuarai Piala FA. Tapi, dia harus melupakan laga final karena terkena skorsing akibat penggunaan obat yang tak dianjurkan.
Persaingan di lini belakang Manchester City yang kian ketat membuat Toure jarang tampil reguler. Dia hanya bermain 14 kali saat Manchester City meraih titel Premier League pada 2012.
Sayangnya, keberhasilan di level klub tak menular bersama Pantai Gading. Dia kembali gagal di final 2012 lantaran kalah adu penalti dari Zambia di final.
Musim lalu, Toure tampil dalam 15 laga berseragam Manchester City. Namun, dia menolak untuk memperbarui kontraknya yang berakhir Juni 2013 lalu.
Hal itu membuat manajer Brendan Rodgers bergerak cepat dengan mendatangkannya ke Liverpool. Itu dimaksudkan untuk mengisi pos yang lowong sepeninggal Jamie Carragher. Toure pun resmi bergabung pada 2 Juli 2013.