Andy Cole 1989-ben kezdte profi karrierjét, az Arsenal volt az első klubja, ahol azonban nem igazán számított rá edzője, így aztán először kölcsönadták az Ágyúsok a Fulham-nek, majd 1992-ben végleg megváltak tőle, a Bristol City szerződtette. Itt folyamatosan lehetőséget kapott, amit meg is hálált, s a Newcastle United egy esztendő múlva leigazolta. Nagyszerű vételnek bizonyult, hetven mérkőzésen ötvenöt gólt szerzett a Szarkáknál. 1995-ben a Manchester United szolgálatába szegődött. Hat évet húzott le a Sir Alex Ferguson által gardírozott csapatban, nem kevés sikerrel - százkilencvenötször kapott lehetőséget, s kilencvenhárom találatot jegyzett, Dwight Yorke-kal félelmetes csatárudót alkottak, öt Premier League, két FA Kupa, két Community Shield, egy-egy Bajnokok Ligája, UEFA Szuperkupa és klubvilágbajnoki címet gyüjtött be a Vörös Ördögökkel.
2001-ben hagyta el az Old Trafford-ot, ezt követően megfordult a Blackburn Rovers, a Fulham FC, a Manchester City, a Portsmouth, a Birmingham City, a Sunderland, a Burnley és a Nottingham Forest gárdájában is. Utóbbi csapatnál jobbára kispados volt, ezért döntött a visszavonulás mellett.

"Ez nem a legjobb befejezés." - mondta Cole a The Times-nak.
"Nem akartam kispados lenni, hogy úgy látszódjék, hogy csak ülök a padon és pénzt keresek."
"Nem bántam meg semmit a karrieremben, az álmomat éltem meg."

Cole tizenötször húzhatta magára az angol válogatott dresszét, egyszer volt eredményes a háromoroszlánosok színeiben.