Ο Ηaydn  γεννήθηκε το 1732 στο χωριό Rorau της Ανατολικής Αυστρίας και ήταν ο πρωτότοκος υιός ενός αμαξοποιού που έφτιαχνε και διόρθωνε ρόδες για τα κάρα των συγχωριανών του. Ήταν ευγνώμων στους γονείς του που τον έμαθαν να είναι οικονόμος, εργατικός και θεοσεβούμενος.
Αυτός που του έδωσε ώθηση στις μουσικές σπουδές ήταν ένας συγγενής του, δάσκαλος της μουσικής.

   Ζώντας με αυτόν το θείο και την οικογένεια του στη πόλη Χέμπουργκ, έψαλλε στην εκκλησία, έπαιζε βιολί και διάφορα πληκτροφόρα όργανα.
Ο Reutter, ο οποίος ήταν διευθυντής της χορωδίας του Αυτοκρατορικού Ναού, πρότεινε στον Haydn να τραγουδήσει μια τρίλια, και κατ’ αυτό το τρόπο μπήκε στη χορωδία του Αγίου Στεφάνου στη Βιέννη.

   Κατά την ηλικία της μεταφώνησης η θέση του στη χορωδία κινδύνευε, έτσι στα 17 του βρέθηκε άνεργος και χωρίς χρήματα.
Τον βοήθησε ένας τενόρος ονόματι Spangler και τα επόμενα λίγα χρόνια δίδασκε μουσική και καμία φορά τραγουδούσε. Διάβαζε διάφορα εγχειρίδια, έπαιζε τις σονάτες του C. P. E. Bach, για το λόγο ότι του έφερναν χαλάρωση και παρηγοριά από τις σκοτούρες που είχε.