Το τραγούδι ξεκινά με τον αφηγητή να περιγράφει την εμφάνιση του γέρου:«Γέροντα, κοίτα τη ζωή μου, είμαι πολύ σαν εσένα». Ο αφηγητής συνεχίζει μιλώντας για το πώς έχει περάσει πολλά στη ζωή του και έχει μάθει πολλά από τις εμπειρίες του. Αναγνωρίζει ότι δεν είναι τέλειος, αλλά προσπαθεί να κάνει ό,τι καλύτερο μπορεί.
Στη συνέχεια, ο αφηγητής ζητά συμβουλές από τον γέρο για το πώς να ζήσει τη ζωή του. Ο γέρος του λέει «να είσαι ευγενικός» και «να το βάλεις χαλαρά». Του λέει επίσης να «προχωρήσει αργά» και να «απολαύσει τη βόλτα». Η συμβουλή του γέρου είναι απλή αλλά βαθιά, και αντικατοπτρίζει τη δική του σοφία και εμπειρία.
Το τραγούδι τελειώνει με τον αφηγητή να ευχαριστεί τον γέρο για τις συμβουλές του. Του λέει ότι θα θυμάται πάντα τα λόγια του και θα προσπαθήσει να ζήσει τη ζωή του σύμφωνα με τις διδασκαλίες του γέρου.
Το "Old Man" είναι ένα όμορφο και συγκινητικό τραγούδι για τη γήρανση και τη θνητότητα. Είναι μια υπενθύμιση ότι είμαστε όλοι σε ένα ταξίδι και ότι μπορούμε να μάθουμε πολλά από αυτούς που έχουν έρθει πριν από εμάς. Το τραγούδι είναι επίσης μια γιορτή ζωής και μας ενθαρρύνει να απολαύσουμε τον χρόνο μας στη Γη όσο μπορούμε.