Newcastle United
Carroll začal svoju mládežnícku kariéru v Newcastle United. Za rezervný tím strelil niekoľko gólov. V prvom tíme debutoval 2. novembra 2006. Mal vtedy 17 rokov a 300 dní. Bolo to pri víťazstve 1:0 v Pohári UEFA nad Palermom. Nastúpil ako neskorý náhradník za Nolberta Solana. Stal sa tak najmladším hráčom, ktorý kedy reprezentoval Newcastle v Európe.
V FA Cupe debutoval 17. januára 2007. Aj tu nastúpil ako náhradník na posledných desať minút. Birmingham City v tomto zápase porazil Newcastle 5:1. Dňa 25. februára 2007 Carroll debutoval za Newcastle v Premier League. Pri prehre 1:0 s Wiganom Athletic nastúpil ako náhradník v 87. minúte. V tomto zápase vystrelil na bránu. Dobrý zákrok brankára Wiganu Johna Filana mu zabránil streliť svoj prvý gól v drese Newcastlu.
V roku 2007 sa stal držiteľom trofeje Wor Jackie Milburn. Tá sa každoročne udeľuje vychádzajúcej hviezde futbalu severovýchodného Anglicka.
29. júla 2007 strelil Carroll svoj prvý gól v seniorskom tíme pri víťazstve 2:0 nad Juventusom. Išlo o priateľský zápas. Gól strelil ľavou nohou. Po zápase Carrolla pochválil taliansky brankár Gianluigi Buffon. Buffon povedal, že Carroll má pred sebou veľkú budúcnosť.
14. augusta 2007 si Carroll na šesť mesiacov vypožičal klub Preston North End. V ten istý deň debutoval v Ligovom pohári proti Morecambe. Carroll bol 18. septembra vylúčený v zápase za Preston proti Scunthorpe United. Svoj prvý gól v Championship a zároveň prvý gól v anglickej lige strelil 6. novembra proti Leicesteru City.
Carroll nastúpil prvýkrát za Newcastle v sezóne 2008/2009 20. októbra. Nastúpil ako náhradník za Shola Ameobiho v domácom zápase s Manchestrom City. Carroll nastúpil v základnej zostave proti West Hamu United 10. januára 2009. V tomto zápase strelil svoj prvý domáci gól. Bol to gól hlavou. Zápas sa skončil remízou 2:2. Dňa 12. marca 2009 podpísal novú zmluvu na tri a pol roka. Jeho zmluva v Newcastli sa teraz skončila v roku 2012.
Newcastle v tej sezóne zostúpil. Klub opustili útočníci prvého tímu Michael Owen, Mark Viduka a Obafemi Martins. Carroll sa na začiatku novej sezóny pripojil k Shola Ameobimu v útoku Newcastlu. Jeho prvý ligový gól v Championship padol 16. septembra 2009 proti Blackpoolu, keď sa presadil hlavou. Do roku 2010 hral Carroll takmer v každom zápase. Mal nového partnera v útoku, Petra Løvenkrandsa. Títo dvaja hráči strelili v roku 2010 viac ako polovicu gólov klubu. Carroll ukončil sezónu ako najlepší strelec Newcastlu. Vo všetkých súťažiach zaznamenal 19 gólov. Sedemnásť ich bolo v lige, dva v pohárových zápasoch.
Carroll dostal v sezóne 2010/11 číslo 9. Toto číslo je dôležité pre priaznivcov Newcastle United. Toto číslo za Newcastle nosili skvelí útočníci ako Jackie Milburn, Malcolm Macdonald a Alan Shearer. Carroll strelil svoj prvý hetrik v kariére proti Aston Ville pri víťazstve 6:0 v Premier League 22. augusta 2010. Carroll nastúpil ako náhradník za Kevina Nolana proti Manchestru City. V tomto zápase bol prvýkrát kapitánom tímu. V októbri 2010 Carroll podpísal novú päťročnú zmluvu. Jeho zmluva trvala do roku 2015. Carroll strelil 11. decembra 2010 tretí gól Newcastlu pri víťazstve 3:1 nad Liverpoolom v St James' Parku. Bola to strela z 25 metrov. Strela bola nízka.
Liverpool
31. januára 2011 ponúkol Liverpool za Carrolla 30 miliónov libier. Táto ponuka bola zamietnutá. Newcastle potom prijal ponuku vo výške 35 miliónov libier. Carroll čoskoro absolvoval lekársku prehliadku a podpísal zmluvu. Prestup bol dokončený krátko pred uzávierkou o 23.00 hod. Carroll povedal, že bol nútený odísť z Newcastlu. Klub však uviedol, že o prestup požiadal po tom, ako odmietol ponuku Liverpoolu vo výške 30 miliónov libier. Liverpool potvrdil, že Carroll bude nosiť dres s číslom 9. Ten predtým nosil Fernando Torres, ktorý v ten istý večer odišiel z Anfieldu do Chelsea za 50 miliónov libier. Vďaka tomuto prestupu sa Carroll stal v tom čase ôsmym celkovo najdrahším futbalistom. Bol najdrahším britským futbalistom všetkých čias. Zároveň sa stal po Torresovi druhým najdrahším futbalistom hrajúcim za britský klub. Carroll utrpel zranenie počas pôsobenia v Newcastle United. Liverpool preto oznámil, že Carroll si bude musieť na svoj debut ešte nejaký čas počkať.
Nakoniec debutoval v Liverpoole ako náhradník 6. marca 2011 v zápase proti Manchestru United (3:1). Dňa 10. marca nastúpil na svoj prvý európsky zápas za Liverpool. Liverpool prehral zápas s Bragou 1:0 v Európskej lige. Carroll prišiel ako náhradník po polčase. V odvetnom zápase o týždeň neskôr nastúpil prvýkrát za Liverpool. Zápas sa skončil 0:0. Liverpool opustil súťaž, pretože prehral 1:0 na zápasy. Dňa 20. marca nastúpil prvýkrát v Premier League za Liverpool proti Sunderlandu. Neskóroval. Liverpool vyhral zápas 2:0. Dňa 11. apríla Carroll strelil svoje prvé góly za Liverpool. Bolo to pri víťazstve 3:0 proti Manchestru City na Anfielde. Jeho prvý gól bol z diaľky. Jeho druhý gól bol hlavičkový. V tej sezóne sa presadil ešte niekoľkokrát. Viac gólov však už nestrelil.
24. augusta 2011 strelil svoj prvý gól v novej sezóne. Strelil ho 20 metrov od bránky. Zápas sa hral proti Exeter City. V druhom kole Ligového pohára sa postaral o skóre 3:0. Dňa 1. októbra 2011 strelil svoj prvý gól v Premier League 2011/2012 počas víťazstva 2:0 nad Evertonom v Goodison Parku. Jeho tretí gól v sezóne bol pri víťazstve 2:0 na ihrisku West Bromu. Svoj prvý gól v roku 2012 strelil pri víťazstve 5:1 v treťom kole FA Cupu proti Oldhamu Athletic. Asistoval pri góle Dirka Kuyta v 88. minúte proti Manchestru United vo štvrtom kole FA Cupu 28. januára. Výsledkom bolo víťazstvo Liverpoolu. Svoj piaty gól v sezóne strelil 31. januára pri víťazstve 3:0 na ihrisku Wolves. Bolo to v deň jeho prvého výročia príchodu do klubu. V piatom kole FA Cupu vyhral Liverpool nad Brighton & Hove Albion 6:1. Carroll strelil jeden gól a na jeden gól asistoval Luisovi Suárezovi. 26. februára získal s Liverpoolom svoju prvú trofej, keď vyhral Ligový pohár. Vo finále porazili Cardiff. Dňa 10. apríla strelil gól z hlavičky proti Blackburnu počas nadstaveného času Liverpool vyhral zápas. Liverpool tak ukončil sériu štyroch zápasov bez víťazstva. O štyri dni neskôr strelil ďalší gól v závere zápasu, ktorým Liverpool vyhral. Tentoraz to bolo pri víťazstve 2:1 proti Evertonu v semifinále FA Cupu vo Wembley. Vďaka jeho gólu sa Liverpool kvalifikoval do finále. Bol to jeho 50. zápas za Liverpool. Carroll opísal svoj víťazný gól ako "najlepší pocit v živote". Spoluhráč Jamie Carragher povedal, že tento gól "sám o sebe má hodnotu 35 miliónov libier". Tiež povedal, že Carroll "bude navždy zapamätaný". Carroll skóroval aj vo finále, ktoré Liverpool prehral s Chelsea 2:1.
West Ham United
Kúzlo pôžičky
30. augusta 2012 Carroll podpísal zmluvu s West Hamom. Bol vypožičaný na celú sezónu. Liverpool chcel do zmluvy zahrnúť klauzulu, na základe ktorej by West Ham zaplatil 17 miliónov libier za jeho trvalý príchod do klubu. Museli ju však odstrániť, keďže West Ham nesúhlasil. West Ham nakoniec zaplatil poplatok za dohodnutie pôžičky vo výške 2 miliónov libier. Začali tiež platiť všetky Carrollove mzdy vo výške 80 000 libier týždenne Liverpoolu.
Carroll debutoval 1. septembra. Pri domácom víťazstve 3:0 nad Fulhamom pripravil (asistoval) dva góly. Svoj prvý gól strelil 25. novembra 2012. Bolo to pri prehre 3:1 vonku proti Tottenhamu Hotspur. Carroll sa v novembri zranil. Vrátil sa 2. februára 2013 proti Swansea City. V tomto zápase strelil jediný gól. Carroll ukončil hosťovanie so siedmimi gólmi v 24 vystúpeniach.
Trvalý prevod
Dňa 21. mája 2013 sa West Ham a Liverpool dohodli na sume približne 15 miliónov libier za trvalý prestup Carroll súhlasil s prestupom a 19. júna 2013 podpísal s West Hamom šesťročnú zmluvu. Táto suma bola klubovým rekordom.
2013–14
Carroll začal sezónu 2013-14 zranený. V poslednom zápase minulej sezóny mal problémy s pätou. Prvýkrát v sezóne nastúpil 12. januára 2014. Nastúpil ako náhradník v 72. minúte zápasu proti Cardiffu City (2:0). Asistoval Markovi Nobleovi pri druhom góle West Hamu.
1. februára 2014 bol Carroll vylúčený za násilný zákrok proti obrancovi Swansea City Chicovi Floresovi pri víťazstve West Hamu nad waleským klubom 2:0. Dňa 15. marca strelil svoj prvý gól v sezóne Premier League pri prehre 3:1 na ihrisku Stoke City. Dňa 31. marca ho televízia Sky Sports vyhlásila za muža zápasu za spôsob, akým hral pri víťazstve 2:1 proti Sunderlandu na Stadium of Light. Strelil jeden gól a pri druhom góle West Hamu asistoval.
Carroll ukončil sezónu 2013/14 v Premier League s iba dvoma gólmi z 18 vystúpení.
2014–15
Počas predsezónneho turné na Novom Zélande utrpel Carroll zranenie členka. To znamenalo, že nemohol hrať v prvých jedenástich zápasoch Premier League za West Ham. Carroll sa do tímu vrátil 8. novembra 2014. Nastúpil ako náhradník za Marka Noblea v zápase s Aston Villou (0:0).
Carroll bol vybraný na štart v ďalšom zápase Kladivárov. Odohral celých deväťdesiat minút. West Ham prehral s Evertonom 1:2. Dňa 7. decembra 2014 strelil svoje prvé dva góly v tejto sezóne. Bolo to v zápase proti Swansea City. Kladivári vyhrali doma 3:1. Boli to prvé góly, ktoré strelil doma od marca 2013. Dňa 20. decembra Carroll strelil 50. ligový gól vo svojej kariére. West Ham porazil Leicester City 2:0.