Костело е роден в Патерсън, Ню Джърси, в семейството на италиански имигранти. Започва кариерата си в шоубизнеса като тийнейджър, участвайки във водевил и бурлеска. Той се запознава с Бъд Абът през 1936 г. и двамата сформират комедиен екип. Те бързо се превърнаха в едни от най-популярните комедийни актьори в света, изпълнявайки се в нощни клубове, по радиото и във филми.
Комедията на Абът и Костело се характеризира с техните манипулации и високия глас на Костело и преувеличените изражения на лицето. Те се появяват в общо 36 филма заедно, включително "One Night in the Tropics" (1940), "Buck Privates" (1941) и "Abbott and Costello Meet Frankenstein" (1948).
Здравето на Костело започва да се влошава в началото на 50-те години и той претърпява няколко сърдечни операции. Умира от инфаркт през 1959 г. на 52-годишна възраст.
Въпреки преждевременната си смърт, Костело е смятан за един от най-влиятелните комици на 20 век. Работата му с Бъд Абът помогна за дефинирането на комедийния жанр и вдъхнови безброй други комедианти.