Young werd geboren in Glasgow als John Inglis Young. Op zijn elfde verhuisde zijn familie naar Australië. In 1967 richtte hij, samen met enkele vrienden, de band Elm Tree op. In 1972 speelde Young de hoofdrol in de musical Jesus Christ Superstar. Dit werd een succes. In 1972 tekende hij een contract als soloartiest. Zijn eerste single was Pasadena. In 1975 en 1976 bereikte hij tweemaal de eerste plaats van de hitlijsten in Zuid-Afrika met de nummers Yesterday's Hero en I Hate The Music. Zijn succesvolste jaar was 1977, toen hij 2 grote hits had: Standing In The Rain en Love Is In The Air.