Happel var som spelare en av Österrikes främsta spelare under 1950-talet och deltog i VM 1954 och VM 1958. 1954 kom Österrike på en tredjeplats.
Ernst Happel är den mest framgångsrika österrikiska fotbollstränaren. Happel inledde karriären i nederländska ADO Den Haag innan han kom till storklubben Feyenoord. Happel ledde Feyenoord till klubbens största framgång någonsin då man vann Europacupen för mästarlag 1970. Det var dessutom första gången ett nederländskt klubblag vann turneringen. Nästa station blev Club Brugge, som Happel byggde upp till ett av Belgiens bästa lag med flera mästerskap och två europeiska cupfinaler. 1978 återvände Happel till Nederländerna som förbundskapten för Nederländernas fotbollslandslag som tog VM-silver i Argentina.
1981 blev Happel ny tränare för storklubben Hamburger SV och ledde klubben under dess mest framgångsrika period: liga- och cupsegrar men framförallt segern i Europacupen för mästarlag 1983. 1987 lämnade Happel Hamburger SV och återvände hem till Österrike.
Österrikes nationalstadion i fotboll, Praterstadion, döptes efter Happels död om till Ernst-Happel-Stadion.