Svůj debut si mladičký Terry připsal 28. října 1998, kdy naskočil z lavičky do zápasu ligového poháru s Aston Villou. Jeho první start v základní sestavě přišel jen o chvíli později, ve třetím kole FA Cupu proti Oldhamu Athletic. V roce 2000 byl na čas půjčen do Nottinghamu Forrest, kde sbíral další potřebné zkušenosti.

John měl však problémy s disciplínou, se spoluhráčem Jodym Morrisem a hráčem Wimbledonu, Desem Byrnem, se připletl do incidentu v jednom londýnském nočním klubu. Byl obviněn z napadení a od disciplinární komise dostal zákaz činnosti do doby, než se situace vyřeší. Terry byl nakonec zbaven všech obvinění a mohl hrát dále. V září roku 2001 měl další problémy. On, Frank Lampard, Frank Sinclair, Eidur Gudjohnsen a Jody Morris byli obvinění z toho, že se v Londýně posmívali a nadávali americkým turistům. Na tom by nebylo nic až tak divného, kdyby jejich řeči nenarážely na incident z 11. září 2001. Klub Terryho potrestal odebráním dvou týdenních platů.

Vraťme se však k fotbalu. John se postupně začínal stávat oporou zadních řad Chelsea a v sezóně 2000/01 si připsal 23 startů. Navíc byl zvolen hráčem roku 2001. V následujícím ročníku už byl Terry stabilním členem základní sestavy, kde ve stoperské dvojici hrával po boku Marcela Desaillyho. V této sezóně se Chelsea dostala do finále FA Cupu, do kterého však Terry kvůli virovému onemocnění nemohl nastoupit od začátku. Na hřiště se tak dostal až v průběhu druhé půle, prohře 0:2 však nezabránil. 5. prosince 2001 připsal svůj první zápas s kapitánskou páskou na ruce, bylo to v zápase proti Charltonu Athletic.

V sezóně 2003/04 se pod koučem Claudiem Ranierim a při častých absencích Desaillyho stal platným kapitánem. V obraně mu starého parťáka nahradil další Francouz, William Gallas, Oba hráči se skvěle sehráli a defenzíva Blues byla vyhlášená.

Hned další rok Desailly definitivně ukončil kariéru a nový kouč José Mourinho s výběrem kapitána neváhal. A věděl proč. Terry svůj tým dovedl k tolik vytouženému ligovému titulu, navíc si Chelsea připsala dva rekordy - nejvyšší počet čistých kont a nasbíraných bodů v historii Premier League. John byl mimo to zvolen hráčem roku a v průběhu sezóny nastřílel osm branek - na stopera úctyhodná bilance. Jeden z jeho gólů byl navíc nesmírně důležitý, v zápase Ligy Mistrů proti Barceloně nám svou trefou na 4:2 zajistil postup. Poté byl docela logicky vyhlášen nejlepším obráncem Champions League.

Společně s Petrem Čechem, Lampardem a Didierem Drogbou se stal naprosto neodmyslitelnou součástí týmu. Fanoušci jej milují i proto, že je odchovancem klubu a nikoliv předraženou hvězdou odjinud. V září roku 2005 byl zvolen do „Sestavy světa“ Jedenáctku vybírali nejlepší fotbalisté ze 40 zemí planety.

14. října 2006 si v zápase proti Readingu zkusil pozici brankáře. Poté, co se jak Čech, tak Carlo Cudicini, v zápase zranili, musel někdo do brány. Jako správný kapitán se toho ujal John. Navlékl si na sebe dres Henriqua Hilária a cupital mezi tři tyče. Chelsea nakonec zápas zvládla a vyhrála, Terry nemusel zasahovat ani jednou.

5. listopadu 2006 byl poprvé ve své kariéře vyloučen. V prohraném zápase proti Tottenhamu jej předčasně do sprch poslal Graham Poll. Terry rozhodčího obvinil z nepoctivosti. Ihned po vyloučení a ještě poté po zápase se totiž nás kapitán Polla ptal, proč dostal druhou žlutou kartu. Sudí mu údajně pokaždé odpověděl něco jiného. Disciplinární komise to vyřešila v náš neprospěch. John musel zaplatit pokutu 10 000 liber a následně i přiznal svůj díl viny.

Na následující sezónu nebude vzpomínat v dobrém. Na podzim měl problémy se zády, které nakonec vyřešila až prosincová operace. Zranění se mu poté ještě jednou obnovilo, takže se do kolotoče zápasů vrátil až 3. února 2007 proti Charltonu Athletic. Po dobu jeho absence zaskakoval vzadu Michael Essien a ačkoliv si nevedl špatně, obrana nefungovala úplně dokonale a Chelsea ztrácela zbytečné body. Když už se zdálo býti všechno dobré, přišlo osmifinále Champions League proti Portu a zranění kotníku. Lékaři hádali, že bude nějakou dobu mimo a určitě nestihne finále Carling Cupu proti Arsenalu.

Jenže to by nebyl Terry, aby se nedal do pořádku. Do zápasu s mladíky Gunners nastoupil již v základu a bojoval jako lev. V druhé půli se však pan Smolař znovu zranil. Po jednom z rohových kopů se snažil hlavičkovat, když noha Aboua Diabyho vylétla vysoko do vzduchu a zasáhla Terryho přímo do obličeje. Ten se skácel k zemi a zůstal bezvládně ležet. Sekundy hrůzy nejen pro fanoušky Chelsea, ale pro celý fotbalový svět. Po několika minutách se mu naštěstí vrátilo vědomí, přesto byl převezen do nemocnice k dalšímu vyšetření. Jen o několik hodin později se však připojil zpět k týmu, aby oslavil výhru Carling Cupu.

Celý incident jej vyřadil ze hry jen na dva týdny, v březnovém utkání proti Blackburnu už byl znovu fit. Rovněž se účastnil semifinálového zklamání v Lize Mistrů. Vše si však vynahradil jen o několik dní později, kdy se spoluhráči zvedl nad hlavu FA Cup.

Ačkoliv se Chelsea a Terry na začátku léta nemohli domluvit na nové smlouvě, hráč fanoušky ujišťoval, že se nikam nechystá. A na konci července svá slova potvrdil i písemně. Pětiletý kontrakt mu vynáší něco mezi 131 000 a 135 000 librami týdně, čímž se v té době stal nejlépe placeným hráčem v historii Premier League.

Říkáte si, že už těch zranění a smůly bylo dost? Ale kdepak. 16. prosince 2007 si na Terryho vyšlápl Emmanuel Eboué a zlomil mu tři kůstky v noze. Očekávala se tříměsíční pauza, Mr. Chelsea však byl fit už na únorové finále Carling Cupu, které Blues i přesto prohráli 1:2. V květnu se v ligovém zápase s Boltonem nešťastně srazil s brankářem Čechem a vykloubil si loket. Na zápas hraný 21. května, velké finále proti Manchesteru United, se však uzdravil. Ani zde však jeho smůla neskončila. Po remíze 1:1 měl právě on šanci v penaltovém rozstřelu rozhodnout. Podkluzl, trefil tyč, selhal. Z trofeje se radovali Rudí ďáblové a Johnovi zůstaly jen oči pro pláč.

Terry je samozřejmě i nedílnou součástí anglické reprezentace, kterou vede jako kapitán. Momentálně s ní bojuje v kvalifikaci o postup na MS v roce 2010, tak držme palce, ať to Albionu vyjde. V soukromém životě bydlí s manželkou Toni Poole Terry, se kterou má dvojčata. Chlapec se jmenuje Georgie John a dívka Summer Rose. John se nejlépe se odreaguje u hraní golfu, plavání či squashu.