马三宝，秉性机敏狡黠，侍奉柴绍做家僮。柴绍娶平阳公主为妻，唐高祖李渊起兵时，柴绍从小路跑到太原。马三宝侍奉公主逃到司竹园，游说贼人何潘仁相互联合。何潘仁来见，率领百名精兵做主卫。马三宝自称总管，安抚接应群盗，兵士达数万。

唐公李渊渡过黄河，授任马三宝左光禄大夫。秦王李世民到竹林宫，马三宝带兵到军门拜见，于是跟随平定京城，授任太子监门率。进入北山，打败稽胡刘拔真。随军平定薛仁杲，与柴绍一起到岷州攻打吐谷浑，率先冲锋陷阵，斩杀名王，俘获数千人，因功封为新兴县男。后来李渊巡视司竹园，看着他说：“这是你起兵之处吗？卫青生活的地方，很不错啊！”

贞观初年，授任左骁卫大将军，又进爵为公，贞观三年（629年），去世后，谥号为忠。