Ketika masih aktif sebagai pemain, Conceicao merupakan salah satu generasi emas Portugal di era Luis Figo, Rui Costa, Fernando Couto, dan Pedro Pauleta.
Bersama Timnas Portugal, ia memiliki catatan 56 caps dan 12 gol serta ikut dalam skuad Selecao das Quinas di turnamen Piala Eropa 2000 dan Piala Dunia 2002.
Conceicao yang dulunya mahir bermain sebagai pemain sayap kanan tersebut juga cukup sukses di level klub.
Pemain yang dulunya akrab dengan nomor punggung 7 ini menjadi bagian kejayaan Lazio di akhir 90-an.
Ia menjadi salah satu andalan Sven Goran Ericksson di Lazio yang kala itu bertabur bintang seperti Juan Veron, Alesandro Nesta, Roberto Mancini, Pavel Nedved, hingga Marcelo Salas.
Bersama Biancoceleste, Sergio Conceicao berhasil mempersembahkan 1 Scudetto, 1 Piala Super Eropa, 1 Supercoppa Italia, dan 2 Coppa Italia.
Setelah sempat singgah di Inter Milan dan kembali ke Lazio, Conceicao meninggalkan Serie A pada 2004.
Conceicao gantung sepatu sebagai pemain aktif pada 2010 dan klub terakhir yang dibelanya adalah PAOK Salonika di Liga Yunani.