Ο Τζόνσον γεννήθηκε στο Καντόν της Νότιας Ντακότα και μεγάλωσε σε ένα αγρόκτημα. Αποφοίτησε από το Πανεπιστήμιο της Νότιας Ντακότα το 1982 με πτυχίο στις πολιτικές επιστήμες. Αφού εργάστηκε για αρκετά χρόνια ως νομοθετικός βοηθός, εξελέγη στη Βουλή των Αντιπροσώπων της Νότιας Ντακότα το 1986. Υπηρέτησε στη Βουλή για έξι χρόνια, συμπεριλαμβανομένων δύο ετών ως ομιλητής.
Το 1996, ο Τζόνσον εξελέγη στη Γερουσία των Ηνωμένων Πολιτειών, νικώντας τον σημερινό Ρεπουμπλικανό Λάρι Πρέσλερ. Επανεξελέγη για δεύτερη θητεία το 2002 και για τρίτη θητεία το 2008.
Ο Τζόνσον ήταν γνωστός για τις μετριοπαθείς πολιτικές του απόψεις και την προθυμία του να συνεργαστεί τόσο με τους Ρεπουμπλικάνους όσο και με τους Δημοκρατικούς. Υπήρξε επίσης ένθερμος υποστηρικτής της γεωργίας και της αγροτικής ανάπτυξης.
Το 2014, ο Τζόνσον ανακοίνωσε ότι δεν θα διεκδικούσε τέταρτη θητεία στη Γερουσία. Ως λόγο της απόφασής του ανέφερε προβλήματα υγείας, συμπεριλαμβανομένου ενός εγκεφαλικού που είχε υποστεί το 2006.
Ο Τζόνσον έφυγε από τη Γερουσία το 2015. Τώρα είναι συνταξιούχος και ζει στο Vermillion της Νότιας Ντακότα.