桑维翰，字国侨，洛阳人也。父珙，事河南尹张全义为客将。维翰身短面广，殆非常人，既壮，每对鉴自叹曰：“七尺之身，安如一尺之面！”由是慨然有公辅之望。（《三楚新录》：马希范入觐，途经淮上，时桑维翰旅游楚、泗间，知其来，遽谒之曰：“仆闻楚之为国，挟天子而令诸侯，其势不可谓卑也；加以利尽南海，公室大富。足下之来也，非倾府库之半，则不足以供刍粟之费。今仆贫者，敢以万金为请，惟足下济之。”希范轻薄公子，睹维翰形短而腰长，语鲁而且丑，不觉绝倒而笑。既而与数百缣，维翰大怒，拂衣而去。）性明惠，善词赋。（《春渚记闻》：桑维翰试进士，有司嫌其姓，黜之。或劝勿试，维翰持铁砚示人曰：“铁砚穿，乃改业。”著《日出扶桑赋》以见志。）唐同光中，登进士第。（《洛阳缙绅旧闻记》：桑魏公父珙为河南府客将，桑魏公将应举，父乘间告齐王张全义曰：“某男粗有文性，今被同人相率欲取解，俟王旨。”齐王曰：“有男应举，好，可令秀才将卷轴来。”魏公之父趋下再拜。既归，令子侵早投书启，献文字数轴。王请见魏公，父教之趋阶，王曰：“不可，既应举便是贡士，可归客司。”谓魏公父曰：“他道路不同，莫管他。”终以客礼见。王一见奇之，礼遇颇厚。是年王力言于当时儒臣，由是擢上第。）
高祖领河阳，辟为掌书记，历数镇皆从，及建义太原，首预其谋。复遣为书求援于契丹，果应之。俄以赵德钧发使聘契丹，高祖惧其改谋，命维翰诣幕帐，述其始终利害之义，其约乃定。（《通鉴》：赵德钧以金帛赂契丹主，云：“若立己为帝，请即以见兵南平洛阳，与契丹为兄弟之国，仍许石氏常镇河东。”契丹主自以深入敌境，晋安未下，德钧兵尚强，范延光在其东，又恐山北诸州邀其归路，欲许德钧之请。帝闻之大惧，亟使维翰见契丹主，说之曰：“大国举义兵以救孤危，一战而唐兵瓦解，退守一栅，食尽力穷。赵北平父子不忠不信，畏大国之强，且素蓄异志，按兵观变，非以死徇国之人，何足可畏，而信其诞妄之辞，贪毫末之利，弃垂成之功乎！且使晋得天下，将竭中国之财以奉大国，岂此小利之比乎！”契丹主曰：“尔见捕鼠者乎？不备之，犹或啮伤其手，况大敌乎！”对曰：“今大国已扼其喉，安能啮人乎！”契丹主曰：“吾非有渝前约也，但兵家权谋，不得不尔。”对曰：“皇帝以信义救人之急，四海之人俱属耳目，奈何二三其命，使大义不终，臣窃为皇帝不取也。”跪于帐前，自旦之暮，涕泣争之。契丹乃从之，指帐前石谓德钧使者曰：“我已许石郎，此石烂，可改矣。”）及高祖建号，制授翰林学士、礼部侍郎，知枢密院事。寻改中书侍郎、平章事、集贤殿大学士，充枢密院使。高祖幸夷门，范延光据邺叛，张从宾复自河、洛举兵向阙，人心恟恟。时有人候于维翰者，维翰从容谈论，怡怡如也，时皆服其度量。
及杨光远平邺，朝廷虑兵骄难制，维翰请速散其众，寻移光远镇洛阳。光远由是怏怏，上疏论维翰去公徇私，除改不当，复营邸肆于两都之下，与民争利。高祖方姑息外将，事不获已，因授维翰检校司空、兼侍中，出为相州节度使，时天福四年七月也。先是，相州管内所获盗贼，皆籍没其财产，云是河朔旧例。及维翰作镇，以律无明文，具事以奏之。诏曰：“桑维翰佐命功全，临戎寄重，举一方之往事，合四海之通规，况贼盗之徒，律令具载。比为抚万姓而安万国，岂忍罪一夫而破一家。闻将相之善言，成国家之美事，既资王道，实契人心。今后凡有贼人准格律定罪，不得没纳家资，天下诸州皆准此处分。”自是劫盗之家，皆免籍没，维翰之力也。岁余，移镇兖州。
时吐浑都督白承福为契丹所迫，举众内附，高祖方通好于契丹，拒而不纳。镇州节度使安重荣患契丹之强，欲谋攻袭，戎师往返路出于真定者，皆潜害之，密与吐浑相结，至是遂纳焉，而致于朝。既而安重荣抗表请讨契丹，且言吐浑之请。是时安重荣握强兵，据重镇，恃其骁勇，有飞扬跋扈之志。晋祖览表，犹豫未决。维翰知重荣已畜奸谋，且惧朝廷违其意，乃密上疏曰：
窃以防未萌之祸乱，立不拔之基扃，上系圣谋，动符天意，非臣浅陋，所可窥图。然臣逢世休明，致位通显，无功报国，省己愧心，其或事系安危，理关家国，苟或缄默，实负君亲，是以区区之心，不能自己。