Ο Wilson γεννήθηκε στις 23 Ιουνίου 1947, στο Sioux Indian Reservation στη Νότια Ντακότα. Ήταν γιος μιας ολόσωμης γυναίκας Σιού και ενός Ιρλανδού πατέρα. Ο Wilson μεγάλωσε στην κράτηση και άρχισε να παίζει κιθάρα σε νεαρή ηλικία. Επηρεάστηκε από την παραδοσιακή μουσική του λαού του, καθώς και από το ροκ εν ρολ των δεκαετιών του 1950 και του 1960.
Μετά το γυμνάσιο, ο Wilson μετακόμισε στη Μινεάπολη της Μινεσότα. όπου δημιούργησε ένα συγκρότημα με το όνομα Sugarloaf με τον κουνιάδο του Craig Fuller και τον συνάδελφό του τραγουδιστή και τραγουδοποιό Michael Omartian.
Το συγκρότημα είχε κάποια επιτυχία και ηχογράφησε δύο άλμπουμ για την RCA Records, πριν διαλυθεί το 1971.
Μετά τη διάλυση της Sugarloaf , ο Wilson μετακόμισε στο Λος Άντζελες της Καλιφόρνια όπου δημιούργησε την Pure Prairie League το 1972.
Το συγκρότημα απέκτησε γρήγορα θαυμαστές και κυκλοφόρησε μια σειρά από επιτυχημένα άλμπουμ κατά τη διάρκεια της δεκαετίας του 1970.
Μερικά από τα πιο δημοφιλή τραγούδια τους περιλαμβάνουν το " Amie" , "Fellen Angels" , και " Αφήστε με να σε αγαπήσω απόψε ".
Το 1979, ο Wilson άφησε το Pure Prairie League για να ξεκινήσει μια σόλο καριέρα.
Κυκλοφόρησε δύο σόλο άλμπουμ, το " Jeff Wilson" (1981) και "Never Be the Same" (1983), αλλά δεν ήταν τόσο επιτυχημένες όσο η δουλειά του με την Pure Prairie League.
Ο Wilson συνέχισε να κάνει περιοδείες και να εμφανίζει σε όλη τη δεκαετία του 1980 και του 1990, αλλά η υγεία του άρχισε να επιδεινώνεται στα τέλη της δεκαετίας του 1980. Διαγνώστηκε με καρκίνο στο λαιμό και υποβλήθηκε σε αρκετούς κύκλους θεραπείας.
Στις 12 Δεκεμβρίου 1991, ο Jeff Wilson πέθανε από καρκίνο στο λαιμό σε ηλικία 44 ετών .
Έμεινε από τη σύζυγό του, δύο κόρες και δύο γιους.