Ο Costello γεννήθηκε στο Paterson του New Jersey από Ιταλούς μετανάστες. Ξεκίνησε την καριέρα του στο σόου μπίζνες ως έφηβος, παίζοντας σε βοντβίλ και μπουρλέσκ. Γνώρισε τον Μπαντ Άμποτ το 1936 και οι δυο τους σχημάτισαν μια κωμική ομάδα. Γρήγορα έγιναν μια από τις πιο δημοφιλείς κωμωδίες στον κόσμο, παίζοντας σε νυχτερινά μαγαζιά, στο ραδιόφωνο και σε ταινίες.
Η κωμωδία των Άμποτ και Κοστέλο χαρακτηριζόταν από τις χαμηλές ρουτίνες τους και την υψηλή φωνή και τις υπερβολικές εκφράσεις του προσώπου του Κοστέλο. Εμφανίστηκαν συνολικά σε 36 ταινίες μαζί, συμπεριλαμβανομένων των "One Night in the Tropics" (1940), "Buck Privates" (1941) και "Abbott and Costello Meet Frankenstein" (1948).
Η υγεία του Κοστέλο άρχισε να επιδεινώνεται στις αρχές της δεκαετίας του 1950 και υποβλήθηκε σε αρκετές επεμβάσεις καρδιάς. Πέθανε από καρδιακή προσβολή το 1959 σε ηλικία 52 ετών.
Παρά τον πρόωρο θάνατό του, ο Κοστέλο θεωρείται ένας από τους πιο σημαντικούς κωμικούς του 20ού αιώνα. Η δουλειά του με τον Bud Abbott βοήθησε στον καθορισμό του είδους της κωμωδίας και ενέπνευσε αμέτρητους άλλους κωμικούς.