他跟随李渊多次出征，将自己巨额的家产都任由李渊使用，还将自己所著的兵书献给李渊，很快就成了李渊的心腹部属，也是最早劝李渊起兵的开国元老之一。
隋大业十三年（公元617），李渊起兵的前夕，副留守王威、高君雅及司兵参军田德平等人先后想要向隋王朝告发，都被武士彟巧妙阻止，为李渊争取到了宝贵的时间。
就在这一年，武士彟随李渊起兵。起兵伊始便获授中郎将，攻下吕州又晋右光禄。在霍邑，唐军遇到了隋将宋老生的顽强抵抗，久久难以攻下城池，十分艰难。一时间军心浮动，很多首倡起兵之臣都打起了退堂鼓。而武士彟在此时则成为坚持力战一派，因此在霍邑平定之后，心花怒放的李渊当即将他封为寿阳县开国公，食邑一千户。攻下京城之后更又加封光禄大夫。
武士彟对自己这一局明智的豪赌非常满意，不禁也神神叨叨起来，说曾经做过一个奇梦，梦中李渊骑着自己登天抚弄日月。言下之意，当然是说李渊有真龙天子之命，也顺便提醒李渊不要忘了自己的功劳。李渊倒并不糊涂，听后哈哈大笑道：“你这家伙想要拿这些玩艺献媚我吗？”话虽是如此说，但是千穿万穿马屁不穿，何况这话正中李渊称帝的下怀，李渊心里还是非常受用的。（这种说法是《新唐书》中的，据《攀龙台碑》所描述的梦境，则是李渊和武士彟一起骑马登天，一起抚弄日月。碑文的意思当然是说武士彟也有帝王之命，为武则天追封父亲为“孝明高皇帝”造势。但是综合来看，武士彟不是糊涂蛋，很明白自己当时“从龙之臣”的身份，编这个梦的目的很明确，就是要拍领导马屁，因此是不会让自己在梦中分领导之惠的。）
隋皇泰元年（公元618），李渊终于正式登基，建立唐王朝，是为唐高祖，改元武德。同年，武士彟便被封为上柱国金紫光禄大夫、散骑常侍兼检校井钺将军。武德三年（公元618）又成为工部尚书。其间李渊若是离京，还让武士彟“总留台事”，统领关中十二军中的一支，可谓宠幸无比。
常言道，一人得道鸡犬升天，这话用在武士彟身上再合适不过。由于他与唐高祖李渊之间深厚的交情，不但本人成为从一品的应国公，就连他的两个哥哥都同时被封。武士梭封司农少卿、宣城县公；武士逸则为行台左丞相、六安县公。李渊对此的解释是：“朕在并州之日，恒往卿家，今欲使卿一门三公，用微答主人之意也。”——当年跟着武士彟一起做木材生意的许文宝也因此平步青云，依靠武士彟之力一直做到了刺史级的官职。
好事接踵而至。
大约也就在武士彟于武德三年做上工部尚书之后，他的糟糠之妻相里氏病逝。相里氏的家世没有任何记载，武士彟娶她的时候，还只是文水乡下的一个土财主，若以民间“高嫁低娶”的普遍情况来套的话，那么相里氏的出身只会比武士彟更低。
而当时的社会情形非常看重门第，尤其从南北朝开始，社会上就开始了一种矫情过度的“氏族门阀”制度。即使在高层统治者内部，都分了多种门第。最贵重的，就是所谓的“清流五大姓”：清河崔氏、范阳卢氏、赵郡李氏、荥阳郑氏、太原王氏。此五姓被称做海内第一等高门。这五姓的男女，自命身份，不肯轻易与外姓联姻。甚至为了自命高洁，连皇帝家都不肯轻易许嫁。即使有些因各种原因嫁娶予外姓，也往往向对方索要巨额聘礼或陪嫁，还在成婚后对配偶及亲属高傲无礼、目中无人。——给我的感觉，跟这五家搭亲家的人，不是吃错了药，就是有受虐的爱好。
毋庸置疑，武士彟虽然凭借自己的力量跻身权贵，但是他们夫妻的出身门第，仍然是他无法跨越的难题。现在相里氏死了，四十出头的武士彟势必要再娶，现在他已经是堂堂尚书，再娶一个出身较高的妻子，也就成为他抬高武氏身份的另一个好的选择。
大约就在武德四年（公元621），武士彟迎娶了继弦杨氏，她就是未来女皇的母亲。按《攀龙台碑》的记载，唐高祖李渊对开国功臣武士彟这次旨在提高世阀的再婚非常重视，亲自为他选择了杨氏为妻，并亲为主婚。
关于杨氏的出身，一般认为她是隋王朝宗室杨达的女儿。虽然持的异议的人不少，然而杨氏嫁进武家时的年龄：43岁，似乎已经可以从另一个侧面反击这些异议——以武士彟当时的官爵，若不是看在杨氏的门第份上，他完全犯不着娶一个已到中年不再青春美貌的女人。然而奇的是她在嫁给武士彟之前的身世确实笼罩在云雾里。别说杨家是名门世家，就算是寻常民间女子，到这个年龄也早已该为人妻母了，然而杨氏在入武家之前的43年竟没有留下任何可信的记录。——假如她曾经有过婚史，那么嫁给了谁（汉唐从不讳言高门女子再婚改嫁，避而不提的原因会不会是因为她初婚所嫁的，是个在改朝换代之际犯忌讳的人）？如果她没有过婚史，那又是为什么（最令女皇难堪的一种推测：因为她的母亲虽然出身高贵的杨氏，却竟是伎婢所生，以至乏人问津，在闺阁中耽误了青春，不得不以崇佛孝父搪塞嫁不出的事实）？无论是有无婚史，哪一种推测都可以导出杨氏在嫁给武士彟之前不曾在娘家得到过什么父母手足之情的结论。从史书和碑文中我们都可以看出，当武则天成为皇后乃至女皇以后，对母亲的身世曾经做出过多方辩解，对于杨达嫡出的儿女没有特出的优待……理由当然不言自明。但是算起来，杨氏还是隋宗室观王杨雄的侄女，而杨雄当年又对武士彟有救命之恩，武士彟当然还是乐于缔结这段姻缘的。
不管怎么说，总之，45岁的武士彟迎娶了43岁的杨氏，这对年貌相当门第权势互补的男女结成了夫妻。
既然成婚，孩子当然也就应运而生。杨氏先是诞下了长女，随后又在武德七年（公元624）正月二十三（2月17）生下了次女。——当然，迎接初降人世的武二姑娘的并不是什么隆重的仪式，相反，很有可能是父母的失望。此时的他们怎么也不会想到，不受欢迎的二女儿竟会是未来的皇后、女皇。武士彟希望自己能有一个带着母亲高贵血统的嫡子，取代门第卑贱的前妻之子；而年纪老大的杨氏更希望自己能够抓紧已经不多的生育机会尽快生下儿子。
——但是不管此时的武家夫妇是怎样的心情，历史所知道的是：未来的女皇终于降生了。
说起来杨氏也真是不简单，将五旬的年纪竟还陆续生了三个女儿，最后一个女儿更是生在她47岁乃至更大年纪以后（因为46时她才生下次女），生育能力实在令人叹为观止。有道是有其母必有其女，做为她的女儿，武则天能在28岁的“高龄”之后，一连为高宗诞育四男二女，也就不足为奇了。
武士彟的长安城中做京官的同时，开国之初的大唐兵戈不断。武德六年，辅公袥在江南起兵反叛，唐高祖派李孝恭、李靖为正副元帅征讨。叛乱平定后，李靖先后出任东南道行台兵部尚书、检校扬州大都督长史。
武德八年（公元625）六月，突厥进犯唐王朝的起家宝地太原。唐高祖李渊命皇太子李建成往幽州、秦王李世民往并州，并命李靖为行军总管领江淮兵一万，迎战突厥。
李靖本任检校扬州大都督长史，总领军政，警戒刚刚平定叛乱的江南，如今他奉命领兵，留下的职务必须有人接替，而且由于局势需要，这个位置须由皇帝信任的人担任。于是，武士彟成为理想人选，被委任“以本官权检校扬州大都督府长史”，并“赐锦袍宝带一具”，临别之时，高祖李渊亲为饯行，临了还约定只要平服民情半年内便即返京。半年后，由于“父老数百人，诣阙上表，乞更留一年”，大约也有当时江南并未完全稳妥的因素，于是李渊决定让武士彟再多留一年，多干些政绩。
然而武士彟没有想到，天上一日人间千年，政局多变，自己竟从此再也不曾返回唐王朝的中枢。而这个变故，不光武士彟没想到，甚至也超乎他所依附的主上李渊的预想。
武德九年六月4日，秦王李世民率自己的心腹长孙无忌、尉迟敬德、房玄龄、杜如晦、宇文士及、高士廉、侯君集、程知节、秦叔宝、段志玄、屈突通、张士贵等人，制造了“玄武门事变”，将入朝的兄弟皇太子李建成、齐王李元吉杀死，自己当上了皇太子，政务军事都揽于一身。
武士彟是高祖李渊的起家功臣，他对李渊忠心耿耿，不是铁杆太子党，可也不曾亲近过秦王李世民，于是，他的官运从武德九年开始，发生了根本的改变。虽然在朝局大变之后，李世民以高官厚禄笼络众臣，武士彟也随之晋封为豫州都督，统领豫、息、舒、道四州军事，但他却再也没有担任过天子身边的重要京官，而是从此成了地方官员。
贞观元年（公元627），武士彟改任利州都督，统领利、隆、始、静、西、龙六州诸军事。贞观五年（631年），封荆州大都督，统领荆、峡、丰、郎、岳、果、松七州诸军事。
算起来武士彟一共在利州都督任上干了五年。而一个与他的女皇女儿相关联的著名相面故事，就发生在利州都督的任上。
中国古代的帝王后妃，多数都在出生前就有什么日月投胎之类的异兆，出生前没啥特别的起码也在呱呱降世时有啥白光龙凤盘旋产房的事件发生。就连武士彟的降生，据说都颇有奇异之处，说他母亲在晋祠祈嗣，得到一枚大如燕卵的彩石，上有日月字样，吞下去的当天就梦见太阳入室，怀上了身孕，降生之时更有自称唐叔虞的人物前来托梦，说自己是特来保护婴孩的——唐尧虞舜，这个唐叔虞是啥意思？来头未免有点太大。生出来之后还有紫气东来，化为五色文绣之衣的形状啥的。总之是神乎其神。
然而武则天似乎并没有为自己编造日月入怀的履历，与她自己相关的