Олсън е роден в Уолъси, Чешир, Англия. Започва да свири на барабани на 12-годишна възраст и свири в няколко местни банди, преди да се присъедини към групата на Джон през 1970 г. Оттогава той е свирил във всички студийни албуми на Джон и е обикалял много с него.
В допълнение към работата си с John, Olsson също е свирил на барабани за други изпълнители, включително George Harrison, Ringo Starr и Stevie Wonder. Той също така е издал два солови албума "Nigel Olsson" (1975) и "Move the Universe" (1980).
Олсон е смятан за един от най-добрите барабанисти в рокендрола. Той е известен със стабилното си измерване на времето, мощното си свирене на барабани и способността си да се слива с другите инструменти в групата. Той е въведен в Залата на славата на модерния барабанист и Залата на славата на рокендрола.