Ο Olsson γεννήθηκε στο Wallasey του Cheshire της Αγγλίας. Άρχισε να παίζει ντραμς σε ηλικία 12 ετών και έπαιξε σε πολλά τοπικά συγκροτήματα πριν ενταχθεί στο συγκρότημα του John το 1970. Από τότε έχει παίξει σε όλα τα στούντιο άλμπουμ του John και έχει επίσης περιοδεύσει εκτενώς μαζί του.
Εκτός από τη δουλειά του με τον John, ο Olsson έχει παίξει επίσης ντραμς για άλλους καλλιτέχνες, συμπεριλαμβανομένων των George Harrison, Ringo Starr και Stevie Wonder. Έχει επίσης κυκλοφορήσει δύο σόλο άλμπουμ, το "Nigel Olsson" (1975) και το "Move the Universe" (1980).
Ο Olsson θεωρείται ένας από τους καλύτερους ντράμερ στο ροκ εν ρολ. Είναι γνωστός για τη σταθερή του χρονομέτρηση, τα δυνατά ντραμς του και την ικανότητά του να συνδυάζεται με τα άλλα όργανα του συγκροτήματος. Έχει εισαχθεί στο Modern Drummer Hall of Fame και στο Rock and Roll Hall of Fame.