公元566年，李渊出生于北周的国都长安。他在幼年时代，就看到统治集团上层之间的残酷争斗。在他出生前十年，西魏和北周的实际开创人宇文泰死了，他的侄子宇文护以大将军、司空的身份代替他掌握西魏政权。第二年，宇文护看西魏皇帝没有什么用了，就灭掉西魏，把宇文泰的儿子宇文觉送到皇帝宝座上，这就是北周的第一个皇帝即北周孝闵帝。宇文护以大冢宰的身份专断朝政，任何人的话都听不进去，还嫌皇帝碍手碍脚，在公元557年毒死宇文觉，让宇文觉的兄弟宇文毓代替宇文觉做皇帝，即周明帝。这是北周王朝的第一次政权变更。
李渊长到6岁时，北周又出现大规模的政权变更，宇文护觉得宇文毓做皇帝也不合适，便把宇文毓杀死，再换宇文泰的另一个儿子宇文邕做皇帝，这就是著名的北周武帝，他从小就表现出才干，宇文泰曾经说：“能完成我的志向的人，一定是他。”宇文护把宇文邕扶上皇帝宝座，显然是低估了这位堂弟的实力。周武帝17岁做皇帝时，处处把宇文护放在显要位置，给了宇文护太师、都督中外诸军事、柱国大将军、大冢宰、晋国公等一连串名衔，让宇文泰把持所有的权力。趁宇文泰放松警惕，宇文邕和卫王宇文直悄悄定下消灭宇文泰的计策。公元572年的三月十八，宇文泰从同州（今陕西大荔县）视察军务回朝，周武帝在文安殿召见宇文泰，然后陪宇文泰去含元殿拜见在名义上训政的皇太后。周武帝说：“皇太后最近迷上了酒，而且喝醉了就不理朝政，还有许多失礼行为，请皇兄劝她一下。”同时拿出一份《酒诰》来，说：“请皇兄对皇太后念这份《酒诰》吧！”宇文泰见周武帝说的都是家庭内务，没有细想，就跟着周武帝进了含元殿，对皇太后宣读起《酒诰》来。趁宇文护不注意，而且身边没有亲随，周武帝用玉梃猛击宇文泰的后脑，宇文泰立刻倒地，宦官何泉举刀砍宇文护，因为惧怕宇文护的权势，竟然连砍数刀不能致命。这时，藏在里屋的卫王宇文直急忙出来将宇文护杀死。北周武帝从此真正掌握了权力。李渊的父亲李昞那时袭封唐国公，做北周王朝的安州总管、柱国大将军，并不介入宇文家族的内部争斗，所以这场大规模的政权变更，对李家的大贵族地位并无影响。
李渊作为大贵族子弟，自然要考虑门当户对的婚姻。在那个时代，人们极为重视门第出身，贵族家庭往往通过相互联姻，增强自己家族的政治力量，从而巩固自己的政治地位。李昞在为儿子婚姻大事考虑的同时，一定也有其他贵族家庭打李家公子的主意。在这个通过择偶而投身政治的活动中，李渊按照父母的意见，选择了大贵族窦毅的女儿。
窦毅的父亲窦岳早死，他跟着叔叔窦炽长大。窦炽早在尔朱荣镇压六镇军人起义时就成为尔朱荣手下战将，后来跟着北魏孝武帝对付高欢，战败后随魏孝武帝一起西奔长安，投到了宇文泰门下。窦炽是一员勇猛的战将，在西魏和东魏的洛阳会战中，宇文泰军战败，窦炽率两骑被高欢的军队追困在邙山。窦炽在山上引弓射敌，敌兵人马应弦而倒，死伤极多，再不敢向前，窦炽乘机突围。后来，他随宇文泰手下大将太保李弼征讨白额稽胡（来自中亚的羯胡之一），立下战功，官封车骑将军。不久，又在对高欢的战争中建功，做了西魏的泾州刺史，进授大将军。到了宇文护掌权时，窦炽因为北征柔然，俘获大量人畜财物，官封柱国大将军。北周武帝杀宇文护时，窦炽表示支持，官至太傅，成为周武帝所依靠的老臣之一。到了周宣帝胡作非为的时候，窦炽做过京洛营作大监，负责长安和洛阳的城市建设。杨坚篡周时，窦炽在洛阳帮助杨坚平息尉迟迥之叛，算是对杨坚建隋有所贡献。不过他与北周皇室关系密切，所以当其他大臣劝杨坚代周做皇帝而写劝进表时，他拒绝签名。隋文帝杨坚为拉拢他而拜他为太傅，他仅在名义上接受，实际并不上任，以78岁高龄病逝。窦毅作为窦炽的侄子加入西魏政权，在宇文泰手下为将，因为屡立战功，官至骠骑大将军、开府仪同三司、大都督、幽州刺史。等到北周建立，进爵神武郡公，还做了大将军。他曾出使突厥，对北周与突厥关系的稳定起了重要作用。正因为窦氏家族是北周政权依靠的力量，所以宇文泰把女儿襄阳长公主嫁给了窦毅。有了这样的皇亲地位，窦毅家的女儿一定是当时贵族子弟们追求的目标。
窦毅和襄阳长公主的女儿生于长安始平，一生下来，就是一个长发美女，3岁时头发已经和身高相等。她的舅舅就是北周武帝，特别喜欢她，下令将她养于宫中。不料这个小姑娘在宫中观察政治形势非常仔细，她见舅舅周武帝不喜欢娶来的突厥公主，就悄悄对周武帝说：“现在我们四面临敌，其中突厥的力量最强，请舅舅以天下社稷为重，对突厥来的舅母好一点，将来国家还需要借助突厥的力量，如果成功，这样对付江南和关东的敌人就不难了。”周武帝立刻接受了她的建议。窦毅听说后，对妻子襄阳长公主说：“这个女儿才貌双全，不敢轻易嫁给什么人，得给她找个有前途的贤夫才行。”夫妻二人商量了很久，想出一个很特别的法子。窦家在门屏上画了两只孔雀，然后对所有前来求婚的贵族子弟说：“谁能射中孔雀眼睛，我们就把女儿嫁给他。不过，只许射两箭，不中即请离开。”当时贵族子弟几乎人人想争得这门亲事，于是来者踊跃。不料前后好几十个贵族子弟前来试运气，没有一个人能射中孔雀眼睛的，正当窦毅夫妻为女儿的命运担心时，李渊来了。
李渊虽然年仅19岁，但由于他7岁时父亲李昞死了，于是直接袭封唐国公，算是有身份的求婚者。史书说他“倜傥豁达，任性真率，宽仁容众”，看来在当时的贵族少年中算得上是一个相貌堂堂，性情豪爽者。我们从台北故宫博物院所藏《唐高祖像》中也可以看出李渊的相貌相当出众，所以他到窦家来求婚，一定是很受窦家注意的。尤其是李渊作为鲜卑军人子弟，从小善于骑射，窦家提出的箭中雀屏要求对他并非难事。当他拉开弓毫不犹豫地将箭射出，两只箭各中一只孔雀眼睛。窦毅一见喜出望外，立刻把女儿嫁给了李渊。这位窦氏小姐不但在政治上有所见解，持家也很有办法，她和李渊所生四个儿子，除了三子李元霸早死外，长子李建成、次子李世民、四子李元吉都很有本事，李世民就是后来大名鼎鼎的唐太宗，曾经多次提到母亲教育的影响。这样一次箭中雀屏的婚姻，造就出唐代开朝皇帝父子英雄的结果，因此成为历史上广泛流传的佳话。
李渊娶了窦氏小姐为妻，算是有了一个贤内助。李渊的母亲，也就是李日丙的夫人（后来被尊封为元贞太后），当时身体状况很差，经常出现病危现象，其他侍女嫌这位老太太脾气不好，总是借口，躲得远远的，惟独窦氏昼夜服侍在老太太床前，经常十几天甚至一个月不脱衣服，被称为至孝之媳。她又善书法，写出来的字很像李渊亲笔所书，拿出来，人们往往分辨不清究竟是夫妻二人中谁写的。她又有很高的文化修养，李世民就受到过她的许多教益。只是窦氏毕竟是北周皇室的后代，对杨坚欺负北周皇室孤儿寡母，强夺北周政权心怀不满，总要在丈夫面前说几句心里话，日子久了，便会对李渊产生影响。李渊后来趁隋末农民大起义时起兵反隋，建立起大唐王朝，虽然原因很多，但是，却不可忽视窦氏小姐所起的作用。
窦氏小姐对隋文帝的不满，可以看作是李渊后来起兵反隋的原因之一，不过却不可忽视李渊家族又与杨坚家族有密切的亲戚关系，这便在很大程度上抵消了窦氏小姐所起的作用。杨坚之所以能够发迹，主要是沾了他岳父独孤信的光。独孤信的祖先是鲜卑三十六部落大人之一，这样他在鲜卑军人中，有极大的影响。他的祖父独孤埃尼从云中（今山西省大同市）赴武川镇戍边，把整个部落都带到了武川，所以他的父亲独孤库者做了武川镇的领民酋长。独孤信本人如同其他鲜卑少年一样，从小练习骑射，在北魏六镇军人起义时，曾和贺拔岳之父贺拔度拔一道消灭武川镇起义军卫可孤部。当他在河北的中山就食时，曾经在葛荣手下做事，等到尔朱荣消灭葛荣，独孤信就成为尔朱荣的部下了，被任命到荆州做防城大都督。后来贺拔岳的哥哥贺拔胜来荆州做刺史，独孤信就成为贺拔胜的副手。北魏孝武帝西奔长安时，独孤信曾经表示效忠，被任命为都督三荆州诸军事，车骑大将军。杨坚的父亲杨忠是独孤信麾下大将，与独孤信在荆州抵抗侯景不住，一同撤退至关中，投奔了宇文泰。杨坚后来娶了独孤信的女儿，主要是因为独孤信是杨忠的顶头上司。独孤信在宇文泰手下统领大军，官居要职，从大司马做到太保、大宗伯，封卫国公。他的长女是北周明帝的敬皇后，四女就是李日丙的妻子、李渊的母亲元贞皇后，七女嫁给了杨坚，就是后来著名的独孤皇后。虽然独孤信被宇文护所迫自杀，但他在西魏——北周政权中的地位却是极高的，杨坚靠独孤信的支持发展起了自己的势力，李昞和李渊在很大程度上依靠独孤信的关系，没有在杨坚篡夺政权的斗争中遭祸。正因为隋文帝杨坚的独孤皇后是李渊的姨妈，所以李渊受到隋文帝的重视和喜爱，在尚未立功时就委以重任，官至刺史。这种鲜卑贵族之间的联姻关系，常常是历史事件发生和政治局势动荡不安的重要根源。
