早年
1732年4月1日，车轮匠马蒂亚斯·海顿的老婆玛丽亚·科勒在罗劳（位于下奥地利，接近匈牙利边境）生下一个儿子。这孩子出生证明上登记的日期是4月1日，起名叫弗朗茨·约瑟夫·海顿。约瑟夫·海顿曾对自己的第一位传记作者迪斯这么说：“我生于4月1日，我爸爸的日记上也是这么写的。但我兄弟米夏伊尔（另一位大作曲家）总说我生于3月31日，这是因为他不想说我生在愚人节。”
海顿的曾祖父卡斯帕住在海茵堡附近一个名叫塔腾的小村子里，也是一个车轮匠。卡斯帕经历过与土耳其人的战争，甚至在土耳其人攻克维也纳的战役中险些遭到杀害。大约有8000人死于那次战争。1686年，卡斯帕死于海茵堡。他的儿子，车轮匠托马斯当时还进入了海茵堡的地方议会。
托马斯的儿子马蒂亚斯（也就是海顿的爸爸），1699年1月31日生于海茵堡。完成自己的学业（学当车轮匠）以后，就开始到处旅行。攒足了钱以后，他就在海茵堡附近的罗劳造了一所房屋。1728年11月24日，他和21岁的玛丽亚·科勒结婚。后来，他诚实的名声与作风为他赢得了一份官差。约瑟夫·海顿的祖先中有不少显示出过人的行政能力，这一点也在海顿以后的生涯中得以展现。马蒂亚斯与玛丽亚生了12个孩子，一半在童年夭折。剩下的分别是安娜·玛丽亚·弗兰切斯卡（1730-1781年）、约瑟夫（我们的作曲家，1730-1781年）、安娜·玛丽亚（1739-1802年）、安娜·卡捷琳娜（1741-？）、约翰·米夏伊尔（另一位作曲家，1737-1806年）。
马蒂亚斯会弹奏竖琴（尽管他不识谱），经常自弹自唱一些奥地利民歌。小约瑟夫（小名塞弗尔）很喜欢父亲的音乐，并且早早就显示出美妙的歌喉。当有一次，他看到当地一位校董拉小提琴时，就吵着想学乐器演奏。但当时罗劳的音乐条件实在无法满足这个小天才的需求。
1737年，马蒂亚斯的表亲约翰·马蒂亚斯·弗兰克从海茵堡来拜访海顿一家。弗兰克是一位校董，同时担任地方教会的领唱，在音乐方面有一些修为。1738年，弗兰克把约瑟夫·海顿带回海茵堡，让他接受良好的音乐教育。在那里，海顿和其他孩子一样遵守严格的作息时间：上午7点到10点上课，接着是教会的弥撒礼。吃过午饭，做作业直到下午3点。晚上，学习演奏钢琴和小提琴。约瑟夫甚至还学会击鼓，并在圣日的游行队伍中担任过鼓手。很显然，约瑟夫将成为一个音乐家。他参与了所有在海茵堡举行的音乐活动。据传记作家格利辛格说，海顿曾经这么说弗兰克，“我直到死都要感谢这个人，他教会我这么多东西。尽管在此过程中，鞭打多于食物。”
1740年，卡尔·格奥尔格·罗伊特，维也纳圣斯特凡大教堂的主教带领唱诗班乐正来到海茵堡寻找歌手。当即看中了约瑟夫的歌声，并把他带回了维也纳。
随后，约瑟夫在维也纳圣斯特凡大教堂度过了9个年头。
维也纳申布伦宫
1740年，约瑟夫海顿正式成为圣斯特凡大教堂的唱诗班成员。维也纳给海顿留下很好的印象，他也乐得在此生活。据罗赫里茨的记载，海顿曾说过，“我听到各种至美的音乐，那是在我这个时代所能听到的所有美妙音乐，它们都聚集在维也纳。”然而，大教堂的生活相对来说比较艰苦，教会的戒律非常苛刻，食物十分有限（罗伊特每年只能支配700个戈顿）。
唱诗班要接受教义概论、拉丁语、算术和写作课程。唱歌、小提琴和钢琴演奏都需要另交学费，但没有乐理和作曲方面的课程。所有与音乐有关的课程都是为了能在教堂中获得更高的演唱水准。约翰·弗雷德里希·罗赫里茨（1832年）记载，海顿说自己当时没有一个严格意义上的教师。他自学成才，从实践入手，先是歌唱，然后是乐器演奏与作曲。他总是留心倾听，记住所有让他感动的细节。就这样，他一点一点获得进步。他后来还说，在大教堂的岁月里，他总共只上过两次乐理课。
唱诗班学校的教育采用级长制体系，年长的孩子负责教导年幼的。因此，约瑟夫就成了他的兄弟米夏伊尔的导师，后者几年后也加入了这个唱诗班。他们的另一个兄弟约翰也是大教堂诗班的成员。这群孩子热衷于在教堂外参加各种音乐会，因为在那里，他们能学到许多教堂里不曾教导他们的东西。
有一次，全体唱诗班一同前往维也纳新建的申布伦宫演出，空闲之余，孩子们爬上尚未拆除的脚手架戏耍。这下惹恼了玛丽亚·泰瑞莎女皇，她警告孩子们，如果再被她看见他们爬上脚手架，就会严厉地惩罚他们。第二天，我们的大音乐家约瑟夫经受不住脚手架的诱惑，结果遭到了惩罚。
约瑟夫渐渐长大了，罗伊特生怕会失去他那美妙的歌喉，于是决定对他进行阉割（要把约瑟夫变成阉伶歌手）。罗伊特向小约瑟夫解释了阉割手术的诸多好处，而小音乐家却一心只爱音乐，糊里糊涂就答应了。第二天10点，手术就将进行。但在早晨8点，约瑟夫的爸爸马蒂亚斯到维也纳来看望自己的孩子。一脸兴奋的约瑟夫告诉爸爸自己就要被阉割了。马蒂亚斯当场火冒三丈，他找到罗伊特，宣称自己要对他不客气，罗伊特慌忙道歉，并且取消了手术。约瑟夫15岁时开始变声，泰瑞莎女皇甚至在一次演出后抱怨这个孩子的声音不好听。而米夏伊尔的声音还是非常不错，甚至获得女皇所赠的24个达克特奖金。米夏伊尔将其中的12个给了爸爸，另12个给了罗伊特。按理说，罗伊特应该把这些钱存起来，等米夏伊尔变声时还给他，但他根本没有归还这笔钱的意思。
1749年的一天，约瑟夫·海顿剪掉了另一位唱诗班小歌手的辫子。罗伊特要为这个蹩脚的玩笑鞭打他，约瑟夫说，自己宁可离开唱诗班。罗伊特还是责打了他，并把他开除，而且很高兴找到了一个借口。
菜市场大街
就在被开除的那天，海顿遇到了维也纳圣米迦勒教堂的歌手约翰·米夏伊尔·斯班格勒。两人首次相遇时，海顿还是圣斯特凡唱诗班的成员。同样不怎么富裕的斯班格勒好心邀请海顿和他分享自己在维也纳市中心的一处小阁楼，海顿欣然接受。显然，目前他身无分文，没有工作，所接受的教育不足以为他找到一个演奏员的职位，他美妙的歌喉也失去了，因此更不可能在唱诗班有一席之地。海顿和斯班格勒一家同住了几个月，靠为人作曲、配器和教习音乐谋生。第二年年初，斯班格勒家又要增添新宝宝了，于是阁楼变得越发拥挤，海顿不得不搬家。
海顿离开维也纳，前往奥地利施蒂马尔肯的玛丽亚小屋教堂朝拜。在那里，海顿得知教堂的唱诗班乐正也曾是圣斯特凡的歌手。于是，他想通过这位学长的帮助在那里找份差事。一开始，海顿被拒绝了，但后来，海顿偷偷溜进教堂，找到一本诗歌集，唱起了其中最难的一段独唱部分，于是乐正答应留下他唱一个星期。最后，玛丽亚小屋的歌手们发起了募捐活动，才为海顿筹集了路费，送他回到维也纳。
在维也纳，他遇到了父亲的一个同行，名叫安东·布霍尔茨。布霍尔茨借给他150个戈顿，并且不收他的利息，因此，海顿能在圣米迦勒教堂附近的菜市场大街米迦勒大厦租一个阁楼安顿下来。在这儿，他终于开始认真地学习音乐。他买了一本福克斯的《通向帕纳索斯的阶梯》（这是拉丁文原名，如今通常根据该书英译本翻译成《复调研究》）以及约翰·马太松的论文集。他还研习了卡尔·菲利普·埃马努埃尔·巴赫的头6首羽管键琴奏鸣曲（“普鲁士奏鸣曲”），这给他留下深刻的印象。海顿对他的一个传记作者迪斯说：“我坐在钢琴前不愿离去，直到能演奏所有这些作品。一边弹奏一边深深被音乐打动，每次离开那乐器时都感到心情舒畅。”与此同时，海顿的作品开始存留下来，特别是《F大调小弥撒》。1752年，海顿为一部名叫《瘸腿妖怪》的喜歌剧谱曲。首演于1753年5月29日，但成功并没有延续多久。一位贵族对号入座，认为歌剧是在影射自己，于是演出立即被取消了。
与海顿毗邻，同住在米迦勒大厦的还有一位大人物，诗人与剧作家梅塔斯塔西奥。他为亨德尔、格鲁克和卡尔达拉这样的大作曲家撰写过脚本。1754年，海顿收了一个钢琴学生，10岁的玛丽安·马丁内斯，一位西班牙贵族的千金。这家贵族同样住在米迦勒大厦。海顿能收到这个学生还多亏了梅塔斯塔西奥的介绍，他教了这个女孩整整三年。作为报酬，他的房租全免了。
玛丽安娜渐渐成了维也纳音乐圈子里的重要人物。有一次，甚至还同莫扎特一起演奏四手联弹。要感谢玛丽安娜的介绍，海顿同当时一位重要的意大利音乐家作曲家尼戈洛·波尔波拉相识。波尔波拉也是他们的邻居。这位意大利人教玛丽安娜唱歌，海顿则在羽管键琴上为她伴奏。通过观察波尔波拉的教学，海顿学到很多东西。他甚至还为这个老人的几次出访担任伴奏员。最重要的一次出行是去新锡德尔湖的曼斯朵夫，在那儿，他见到了维利巴尔特·里特·冯·格鲁克。波尔波拉帮助海顿修改作品，教他意大利语。1754年，约瑟夫得知母亲（当时才47岁）去世了，他父亲（55岁）同一个19岁的女孩结了婚。约瑟夫·海顿从此有了一个比自己还小3岁的后妈，这个名字同时也开始在维也纳音乐圈子里为人所知。感谢这位千金小姐学生，他接触到了维也纳音乐爱好者的最上层圈子。尽管如此，海顿说：“我还是需要在8年里应付糟糕的生存环境。”在一次室内音乐会上，他结识了卡尔·约瑟夫·冯·福恩伯格，后者聘请他担任小提琴演奏员。约瑟夫要在维也纳附近的威恩齐尔演奏。或许因此，他才创作了他最初的弦乐四重奏。在上层社会演奏使他声名鹊起，从此在维也纳求教者不断。尽管工作十分辛苦，但他终于可以寝食无忧了。
1758年，海顿获得了第一份稳定的工作。冯·福恩伯格向对音乐很感兴趣的费迪南·马克西米连伯爵推荐了约瑟夫·海顿，年薪200弗罗林。海顿成了卢卡维奇默尔岑（今捷克境内）管弦乐团的指挥，并且创作了他最早的乐队作品。默尔岑管弦乐团演奏了海顿《第一交响曲》，海顿坐在羽管键琴前指挥，这种模式基本上延续了巴罗克的演奏风格。在这些为之动容的听众当中，有一位显赫的人物，安东·埃斯特哈奇大公。此人对海顿的一生有极其重要的影响。
这时，海顿爱上了泰瑞莎·凯勒，凯勒的兄弟在圣斯特凡大教堂担任小提琴手，与海顿相识。但凯勒并没有回应海顿的爱，1756年，干脆进入维也纳圣尼古拉修女院一绝尘缘。海顿为这一仪式创作了《C大调管风琴协奏曲》，或许还有《降E大调圣母颂》。有些人辨认出其中波尔波拉的影响。海顿有了份好差使，于是决定同泰瑞莎的妹妹——玛丽亚·安娜·凯勒结婚。我们不知道他为什么娶了这个女人，或许他想对凯勒一家尽一份责任心，亦或许受到家里的压力。这次婚姻是个彻底的灾难。1760年11月26日在圣斯特凡举行婚礼。玛丽亚·安娜（出生于1729年）脾气很坏，一点都不喜欢音乐，不会整理房间，也不会生孩子。海顿的家庭生活非常窘迫。夫妇两个经常吵架，玛丽亚·安娜似乎总在尽一切努力惹海顿生气，甚至拿丈夫的作品当杯垫。海顿只能埋头创作逃避生活，而他的妻子则把大部分时间花在教堂里。
1761年，费迪南伯爵因为财政困难，不得不削减自己的乐队，海顿又面临失业。保罗·安东·埃斯特哈奇大公请他到自己在艾森施塔特的乐队担任助理乐正，那里位于维也纳东南50公里。
奥地利王室一直想方设法巩固匈牙利贵族的统治地位，希望借此稳固自己对匈牙利人的控制。他们认为只要匈牙利贵族高兴，就可以遏制住匈牙利革命的爆发。
在匈牙利，最重要的贵族就是贾兰塔的埃斯特哈奇家族。保罗·安东·埃斯特哈奇于1721年继承了家族在艾森施塔特的城堡（该城堡建于1683年），1724年，又被封为大公。他所做的事情之一就是建立一支稳定的管弦乐团。格雷戈尔·韦尔纳（1695-1766年）担任首席，路易吉·托马西尼（1741-1808年）任音乐指导。
韦尔纳对自己的主人雇用年轻而才华横溢的海顿很是不满，他把海顿当作自己的竞争对手。海顿总有许多新的点子，而韦尔纳喜欢墨守成规。埃斯特哈奇与海顿签订的合约保全了老韦尔纳的位置，只有在韦尔纳死后或者退休以后，海顿才能得到乐正的职位。但海顿也同样感谢大公，他的薪金不断增加，一段日子以后，他能挣782个戈顿，而韦尔纳只有428个。这显然会让韦尔纳心情糟糕，大多数时间里他总是显得很激动。但他节节败退，最后只热衷于创作自己的作品（弥撒、清唱剧、安魂曲以及其他教会音乐）。海顿对这位前辈倒是非常尊敬，早在维也纳的时候，海顿就根据韦尔纳的作品编配过6首赋格曲。1766年3月，韦尔纳于71岁高龄去世，被葬在埃斯特哈奇家族的墓地。1766年，新任埃斯特哈奇管弦乐团乐正海顿上任了。
海顿在1761年找到的这份工作为其他很多音乐家树立起了榜样。他必须举止得体，同时还要注意处理好同行间的关系。每天，作曲家都必须在12点以前穿着打扮好，与大公商讨当天的音乐活动。海顿所创作的一切作品都是大公的私有财产。最初，这些作品是不得抄写的，但这条禁令实际上并不奏效，一段时间以后就不了了之。海顿全身心投入在城堡的工作。他要训练歌手、自修艺术家的一切品行，还要照看乐器的贮存，他的合约只有三年。如果他的工作不够好，随时会被开除，如果他想要辞职，则要提前6个月申请。但他和大公彼此都非常满意。海顿曾经这么说自己的工作：“大公对我的工作总是很满意：他不仅鼓励我的稳步进步，而且作为指挥，我有机会进行一些试验，尝试如何制造一些效果，反之如何削弱它。由此知道如何改进、如何调整、如何增减，直到令我满意。我与世隔绝，没有人来打扰，简直迫使我回到我应有的生活状态之中。”
乐队编制包括5把小提琴或中提琴，1把大提琴，1把低音提琴；1支长笛、2支双簧管、2支大管、2把圆号；还有定音鼓。合唱队由两个女高音、1个女中音、2个男高音和1个男低音组成。保罗·安东·埃斯特哈奇大公是个狂热的音乐爱好者，他演奏小提琴和大提琴，喜爱歌剧。
海顿为大公创作的最初的作品是第六“晨”交响曲、第七“午”交响曲和第八“夜”交响曲。这些标题都是大公本人给加上的，或许点明了其中一些标题音乐性质的内涵。