Zagueiro de excelente posicionamento e consistência técnica, Clarke está entre os dez jogadores que mais vestiram a camisa do Chelsea. Contratado em 1987, atuou como lateral ofensivo, mas também atuava como zagueiro central. Fez parte da equipe campeã da FA Cup de 1997. Mesmo aposentado, Clarke continuou trabalhando no clube – dessa vez como auxiliar técnico de José Mourinho – até 2008.
O Chelsea foi o segundo e último clube em que Clarke atuou. Foram 421 jogos e anos de lealdade ao time de Stamford Bridge. Participou das conquistas da FA Cup de 1997, da Copa da Liga de 1998, da UEFA Cup Winner’s Cup em 1998. Em 2000, esteve entre os 11 titulares no Time do Século, eleito pelos torcedores do Chelsea. Em 1994, foi eleito Jogador do Ano.
Entre 2004 e 2008, atuou como auxiliar-técnico de José Mourinho e conquistou o bicampeonato da Premier League, a FA Cup de 2007 e as Copas da Liga de 2005 e 2007.