Η πιο αξιοσημείωτη δουλειά του ήταν με το Cannonball Adderley Quintet τη δεκαετία του 1970, αλλά έχει επίσης συνεργαστεί με πολλούς άλλους αξιόλογους μουσικούς της τζαζ, όπως οι Thelonious Monk, Miles Davis, Dizzy Gillespie, Dexter Gordon και Herbie Hancock.
Εκτός από τη δουλειά του ως sideman, ο Poole έχει επίσης κυκλοφορήσει αρκετά σόλο άλμπουμ, όπως τα "The Essence of John Poole" (1977), "Sweet Lucy" (1978) και "Blue Planet Man" (1980).
Ο Πουλ είναι επίσης συνθέτης και ενορχηστρωτής και έχει γράψει μουσική για τον κινηματογράφο και την τηλεόραση. Έχει επίσης διδάξει τζαζ και λάτιν κρουστά στο Πανεπιστήμιο της Νότιας Καλιφόρνια και στο Ινστιτούτο Τεχνών της Καλιφόρνια.
Ο Πουλ τιμήθηκε με το βραβείο «Τράμερ της Χρονιάς» της Ένωσης Τζαζ Δημοσιογράφων το 2004 και το 2005 και είναι επίσης μέλος της Εθνικής Ακαδημίας Δισκογραφικών Τεχνών και Επιστημών (NARAS).