源贺，自署河西王秃发傉檀之子也。傉檀为乞伏炽磐所灭，贺自乐都来奔。贺伟容貌，善风仪。世祖素闻其名，及见，器其机辩，赐爵西平侯，加龙骧将军。谓贺曰：“卿与朕源同，因事分姓，今可为源氏。”从击叛胡白龙，又讨吐京胡，皆先登陷陈。进号平西将军。
世祖征凉州，以贺为乡导。诏问攻战之计。贺对曰：“姑臧城外有四部鲜卑，各为之援。然皆是臣祖父旧民，臣愿军前宣国威信，示其福祸，必相率归降。外援既服，然后攻其孤城，拔之如反掌耳。”世祖曰：“善。”于是遣贺率精骑历诸部招慰，下三万馀落，获杂畜十馀万头。及围姑臧，由是无外虑，故得专力攻之。凉州平，迁征西将军，进号西平公。又从征蠕蠕，击五城、吐京胡，讨盖吴诸贼，皆有功。拜散骑常侍。从驾临江，为前锋大将。贺为人雄果，每遇强寇，辄自奋击。世祖戒之曰：“兵凶战危，不宜轻犯；卿可运筹处分，勿恃身力也。”贺本名破羌，是役也，世祖曰；“人之立名，宜其得实，何可滥也？”赐名贺焉。拜殿中尚书。
南安王余为宗爱所杀也，贺部勒禁兵，静遏外内，与南部尚书陆丽决议定策，翼戴高宗。令丽与刘尼驰诣苑中，奉迎高宗，贺守禁中为之内应。俄而丽抱高宗单骑而至，贺乃开门。高宗即位，社稷大安，贺有力焉。转征北将军，加给事中，以定策之勋，进爵西平王。高宗即位，班赐百僚，谓贺曰：“朕大赍善人，卿其任意取之，勿谦退也。”贺辞，固使取之，贺唯取戎马一匹而已。
是时，断狱多滥，贺上书曰：“案律：谋反之家，其子孙虽养他族，追还就戮，所以绝罪人之类，彰大逆之辜；其为劫贼应诛者，兄弟子姪在大远，道隔关津，皆不坐。窃惟先朝制律之意，以不同谋，非绝类之罪，故特垂不死之诏。若年十三已下，家人首恶，计谋所不及，愚以为可原其命，没入县官。”高宗纳之。出为征南将军、冀州刺史，改封陇西王。贺上书曰：“臣闻：人之所宝，莫宝于生全；德之厚者，莫厚于宥死。然犯死之罪，难以尽恕，权其轻重，有可矜恤。今劲寇游魂于北，狡贼负险于南，其在疆场，犹须防戍。臣愚以为自非大逆、赤手杀人之罪，其坐赃及盗与过误之愆应入死者，皆可原命，谪守边境。是则已断之体，更受全生之恩；徭役之家，渐蒙休息之惠。刑措之化，庶几在兹。《虞书》曰‘流宥五刑’，此其义也。臣受恩深重，无以仰答，将违阙庭，豫增系恋，敢上瞽言，唯加裁察！”高宗纳之。已后入死者，皆恕死徙边。久之，高宗谓群臣曰：“源贺劝朕宥诸死刑，徙弃北番诸戍，自尔至今，一岁所活殊为不少，生济之理既多，边戍之兵有益。卿等事朕，致何善意也？苟人人如贺，朕治天下复何忧哉！顾忆诚言，利实广矣。”群臣咸曰：“非忠臣不能进此计，非圣明不能纳此言。”
贺之临州，鞫狱以情，徭役简省。武邑郡奸人石华告沙门道可与贺谋反，有司有闻。高宗谓群臣曰；“贺诚心事国，朕为卿等保之，无此明矣。”乃精加讯检，华果引诬。于是遣使者诏贺曰“卿以忠诚款至，著自先朝，以丹青之洁而受苍蝇之汙。朕登时研检，已加极法，故遣宣意。其善绥所莅，勿以嚣谤之言致损虑也。”贺上书谢。书奏，高宗顾谓左右曰：“以贺之忠诚，尚致其诬，不若是者，可无慎乎！”时考殿最，贺治为第一，赐衣马器物，班宣天下。贺上表请代，朝议以贺得民情，不许。在州七年，乃徵拜太尉。
蠕蠕寇边，贺从驾追讨，破之。显祖将传位于京兆王子推，时贺都督诸军屯漠南，乃驰传徵贺。贺既至，乃命公卿议之。贺正色固执不可。即诏贺持节奉皇帝玺绶以授高祖。
是岁，河西敕勒叛，遣贺率众讨之，降二千馀落。倍道兼行，追贼党郁朱于等至枹罕，大破之，斩首五千馀级，虏男女万馀口、杂畜三万馀头。复追统万、高平、上邽三镇叛敕勒至于金城，斩首三千级。贺依古今法及先儒耆旧之说，略采至要，为十二陈图以上之。显祖览而嘉焉。
贺以年老辞位，诏不许。又诏都督三道诸军，屯于漠南。是时，每岁秋冬，遣军三道并出，以备北寇，至春中乃班师。贺以劳役京都，又非御边长计，乃上言：“请募诸州镇有武健者三万人，复其徭赋，厚加赈恤，分为三部。二镇之间筑城，城置万人，给强弩十二床，武卫三百乘。弩一床，给牛六头。武卫一乘，给牛二头。多造马枪及诸器械，使武略大将二人以镇抚之。冬则讲武，春则种殖，并戍并耕，则兵未劳而有盈畜矣。又于白道南三处立仓，运近州镇租粟以充之，足食足兵，以备不虞，于宜为便。不可岁常举众，连动京师，令朝庭恆有北顾之虑也。”事寝不报。
又上书称病笃，乞骸骨，至于再三，乃许之。朝有大议皆就询访，又给衣药珍羞。太和元年二月，疗疾于温汤，高祖、文明太后遣使者屡问消息，太医视疾。患笃，还京师。贺乃遣令敕诸子曰：“吾顷以老患辞事，不悟天慈降恩，爵逮于汝。汝其毋傲吝，毋荒怠，毋奢越，毋嫉妒；疑思问，言思审，行思恭，服思度；遏恶扬善，亲贤远佞；目观必真，耳属必正；诚勤以事君，清约以行己。吾终之后，所葬时服单椟，足申孝心，刍灵明器，一无用也。”三年秋薨，年七十三。赠侍中、太尉、陇西王印绶，谥曰宣，赙杂彩五百匹，赐辒辌车及命服、温明秘器，陪葬于金陵。
长子延，性谨厚好学。初以功臣子拜侍御中散，赐爵武城子，西冶都将。卒，赠凉州刺史、广武侯，谥曰简。子鳞袭。
延弟思礼，后赐名怀，谦恭宽雅，有大度。高宗末，为侍御中散。父贺辞老，诏怀受父爵，拜征南将军。寻为持节、督诸军，屯于漠南。还，除殿中尚书，出为长安镇将、雍州刺史。清俭有惠政，善于抚恤，劫盗息止，流民皆相率来还。岁馀，复拜殿中尚书，加侍中，参都曹事。又督诸军征蠕蠕，六道大将咸受节度。迁尚书令，参议律令。后例降为公。除司州刺史。从驾南征，加卫大将军，领中军事。以母忧去职，赐帛三百匹、谷千石。十九年，除征北大将军、夏州刺史，转都督雍岐东秦诸军事、征西大将军、雍州刺史。
景明二年，徵为尚书左仆射，加特进。时有诏，以奸吏犯罪，每多逃遁，因眚乃出，并皆释然。自今已后，犯罪不问轻重，而藏窜者悉远流。若永避不出，兄弟代徙。怀乃奏曰：“谨按知制：逃吏不在赦限。窃惟圣朝之恩，事异前宥，诸流徙在路，尚蒙旋反，况有未发而仍遣边戍？按守宰犯罪，逃走者众，禄润既优，尚有兹失，及蒙恩宥，卒然得还。今独苦此等，恐非均一之法。如臣管执，谓宜免之。”书奏，门下以成式既班，驳奏不许。怀重奏曰：“臣以为法贵经通，治尚简要，刑宪之设，所以纲罗罪人。苟理之所备，不在繁典；行之可通，岂容峻制？此乃古今之达政，救世之恆规。伏寻条制，勋品已下，罪发逃亡，遇恩不宥，仍流妻子。虽欲抑绝奸途，匪为通式。谨按事条，侵官败法，专据流外，岂九品已上，人皆贞白也？其诸州守宰，职任清流，至有贪浊，事发逃窜，而遇恩免罪。勋品已下，独乖斯例。如此，则宽纵上流，法切下吏，育物有差，惠罚不等。又谋逆滔天，轻恩尚免；吏犯微罪，独不蒙赦，使大宥之经不通，开生之路致壅，进违古典，退乖今律？辄率愚见，以为宜停。”书奏，世宗纳之。