Inicialmente contratado para atuar no Youth, o faro de gol de Greaves o colocou no time principal. Talvez na história do clube nunca vá haver um atacante tão habilidoso e matador como Greaves foi. Com a excelente marca de 132 gols em 169 jogos, foi o jogador mais jovem a marcar 100 gols (tinha apenas 20 anos e 290 dias).
O Chelsea foi o primeiro clube profissional do promissor Jimmy Greaves. Por 4 anos, o atacante quebrou recordes e colocou seu nome na história do clube. Porém, não conquistou títulos durante o tempo em que serviu aos Blues, nada que apague o brilho de seu trabalho.
Ao fim da temporada 1961, foi vendido – contra sua vontade – ao Milan e se aposentou em 1980, no Woodford Town.