唐武德六年（公元623年），盐商杨子敬在浙江千岛湖中的其中一个小岛上修筑了相知山庄，这就是长歌门的前身。山庄建成后，杨子敬大发请柬邀请各地文人骚客到相知山庄一聚，盛况空前。后来杨子敬又出资修建了微山书院，广招学子，引得大批文士慕名前来
终唐一朝，民风尚武，文人也爱吟咏剑仙侠客、向往仗剑游侠之举，因而书生也多为习武之人。当时多有文武双全之士聚于相知山庄，平日里以诗词歌赋、吟诗作对等风雅之事为乐，却也在闲时比武切磋，希望有朝一日能够「学成文武术，货与帝王家」。渐渐的，众人竟合力创出了一套套路数独特的武功，便自成一派，对外自称长歌门。自此长歌门一名逐渐在江湖上流传开来，不少名士官绅、隐士高人仰慕其名，纷纷造访长歌门，长歌门随即成为大唐风雅之地。七秀坊、万花谷相继成立后，长歌门更是与这两者并称为大唐三大风雅之地。
长歌门中的门人长老多是当世的名士豪俊，因此门中弟子对他们也是敬重不已。「初唐四杰」之一的骆宾王曾是门中长老，当年曾随徐敬业起兵反抗武则天，更写下了著名的《讨武瞾檄》，后来徐敬业兵败，他也下落不明。一众弟子因敬重骆宾王名望，便以他生前随身的一件宝物暂代肉身，在长安郊外的长蛇谷中为其设立了一座衣冠冢，并为其守墓护法。
江湖上久来盛传「南叶北柳，西唐东杨」，指的是武林中久负盛名的四大武林世家，其中这「东杨」指的便是长歌门杨家。前任门主杨尹安与妻子吴青青生有两子杨青月、杨逸飞，杨逸飞即是现任门主，他广招贤才、知人善用，因而门下多是俊杰高士：门人袁永与梅姬育之义子陆羽，便是日后大名鼎鼎之茶圣；《春江花月夜》之作者、「吴中四士」之一的张若虚亦是长歌门中的翘楚；「诗仙」李白、「诗圣」杜甫、「诗佛」王维，以及安史之乱时的平乱名将张巡四人更是在江湖上并称为「长歌四绝」。长歌门下因多文武双全之士，声名远播，长歌门杨氏也就成为了四大世家中最为武林人士所称道的家族。
在太原之战时，长歌门弟子前往太原驰援义军，保护大唐江山。
