Будучи ребенком, Джон начал свою футбольную жизнь с любительского клуба. В 14 лет парень оказался в «Челси», где играет до сих пор. В 1998 году он впервые вышел на поле как игрок основного состава. Его выпустили на замену в конце матча, и в этом же году игрок дебютировал в стартовом составе команды. Затем была аренда на один год в «Ноттингем форест» и отстранение от игры на время расследования в 2002 году по причине того, что был арестован полицией за драку.

Систематически выходить в стартовом составе команды он стал с 2000 года, и по результатам опроса футболистов своей команды выбран игроком года. В следующем сезоне футболист стал в команде основным защитником. 2001 год принес ему капитанскую повязку, которую с приходом нового тренера Жозе Моуринью он надевал постоянно. В команде его ценят за целенаправленный характер, стальные нервы, а болельщики любят за умение отбирать мячи в таких ситуациях, где гол был неминуем.

Несколько матчей сезона 2006/07 года он пропустил из-за постоянных болей в спине, также его выбила из строя повреждение лодыжки. В 1/8 матча Лиги чемпионов от полученной травмы на некоторое время игрок потерял сознание, его тут же унесли на носилках и доставили в госпиталь. После этого следовали переломы пальцев, вывих колена, но эти травмы не сказались на качестве игры футболиста.

Всегда жесткий на поле и твердый характером в жизни, в 2008 году капитан «Челси не сдержал слез, когда не смог забить последний мяч в серии послематчевых пенальти. Болельщики были удивлены, и долго этот случай обсуждался в прессе. В 2009 году «МанСити» пытался приобрести игрока за 20 млн. фунтов стерлингов, но защитник не собирается ни за какие деньги покидать свой клуб.

В сборной Англии он дебютировал в роли капитана с 2003 года. А с 2006 года он надевает капитанскую повязку на все матчи. Многочисленные скандалы в личной жизни сказывались и на его жизни футбольной. В 2010 году его лишили звания капитана команды, но через год вернули, в связи с частыми травмами капитана и вице-капитана клуба.

С «Челси» он завоевал много высоких наград: стал чемпионом Премьер-лиги (2005, 2006, 2010), обладателем Кубка Англии (2000, 2007, 2009, 2010), выиграл Кубок Футбольной лиги (2005, 2007) и Суперкубок Англии (2005, 2009). Не менее ярки его личные достижения: лучший защитник Лиги чемпионов (2005, 2008, 2009), игрок года «Челси» (2001, 2006) и др.