“王”用作姓氏，有四大源头，即舜时的妫姓、商代的子姓、周代的姬姓和来自域外的虏姓。三槐王氏源于姬姓。周的始祖名后稷，姬姓。至东周灵王时，长子晋被立为太子，人称“太子晋”。晋因直言敢谏触怒了灵王，被废为庶人。晋体恤民情，深受百姓爱戴，虽然最终没能登上王位，百姓却仍以帝王视之，称其为“王子晋”，称其家族为“王家”。久而久之，晋的后人便以为姓。后世的太原王、琅琊王、三槐王皆指晋为始祖，来历即在于此。
秦末，姬姓王氏后人王元因避秦乱迁居琅琊皋虞城（今山东即墨），后再迁至临沂，成为琅琊王氏一世祖。西汉未，王元之弟王威迁居太原，成为太原王一世祖。
东汉未年，姬姓王氏裔中出了王祥、王览这对名噪一时的异母兄弟。王祥性至孝。母病思食鱼，隆冬无鱼可买，王祥乃脱衣卧冰，化冰求鱼，后被列入《二十四孝图》。王览性亦孝，且与异母兄王祥手足之情勘笃。母虐待王祥，王览每每舍命护之。西晋初，王祥官拜太保，进爵为公；王览官至光禄大夫、太傅，封即丘子。
东晋时，姬姓王氏后裔王导成为晋元帝司马睿的首辅。司马睿曾任琅琊王，与王导友善。司马睿称帝后，王导任宰相，王氏族中有多人身居要职，手握重兵，故当时有“王与马，共天下”之说。东晋的元、明、成帝在位期间，王导一直任宰相，是稳定东晋统治的重要人物，琅琊王也因而名声大噪。东晋的大书法家王羲之也是琅琊王氏后人，他善行、隶，笔势“飘若游云，矫若惊龙”，被后人誉为“书圣”。
南北朝时期，姬姓王氏后裔王俭娶南朝宋明帝之女阳羡公主为妻。其曾孙王褒始在南梁任职，后任北周光禄大夫、少司空，封石泉康侯。
唐代，姬姓王氏后裔王练出任莘县尉，携家迁居莘县（《初篆王氏家乘受姓源流序》：“方则，光禄卿，再传至练，为莘县尉，遂徒莘。历数传，至言公，令黎阳。”此事《新唐宰相世系表》亦有记载）。”
关于姬姓王氏移居莘县的时间，史有两说。范仲淹为三槐后代王质所撰的墓志铭中说“其先太原人”，至王言时才“占籍大名”。元代赵孟頫为王言撰写的简历《宋尚书兵部侍郎许国公赠太师尚书令王公纪略》中亦说自王言起定居大名莘县。这是“王言迁莘说”。欧阳修和宋祁主持纂修的《新唐书》和《三槐王氏家谱》则认定王练任莘县尉时携家居莘，这是“王练迁莘说”。王练和王言均为唐代人，王言是王练的六世孙。王练迁莘说见于正史，安徽滁州三槐王氏家谱中又有其先祖王练任莘县尉并携家居莘的明确记载，此说应十分可信。王练官职不大，其后代却不乏位高爵显之人。大官携家在外任职，其祖籍莘县并不为人知晓。至王言出任滑州（今河南滑县）、黎阳（今河南浚县）令时，距莘县不足三百里，老家莘县才渐为人知。至王旦成名时，人皆知其曾祖父王言是莘县人，曾任黎阳令，以上各代情况不详，更不知王练曾任莘县尉之事，故范仲淹给王旦的侄子王质写墓志铭时，敢于断言王家由王言那一辈“占籍大名”。至元代赵孟頫给王言撰写简历时，距王旦所处的时代已近三百年，并没有注意到《新唐书》中关于王练曾任莘县尉的记载（县尉这官实在是太小了），而是对范仲淹的结论深信不疑，这也是情理之中。如此一误再误，王氏迁莘的时间便由王练时期变成了王言时期，阴差阳错地被推后一百多年。”