百里奚飽讀詩書,才學過人,可是平民沒有希望入仕為官。百里奚的妻子杜氏是個很有見識的女子,深知自己丈夫是曠世奇才,於是就鼓勵百里奚出遊列國求仕。
在百里奚出遊那天,家中已經揭不開鍋了。百里奚的妻子杜氏一大清早起來,宰殺了唯一的一隻下蛋母雞,劈了門閂燉母雞,煮小米飯,給丈夫餞行。
因為朝堂裡無人,都沒有得到錄用。百里奚陷入困境,一度沿街乞討,繼續求仕生涯。在齊國郅地,他遇見了蹇叔,兩人一番高談闊論,就結為知己。此後,在蹇叔的舉薦下,到虞國當了個大夫。但虞國國君是個愛財如命的國君,在收了晉國的寶玉和寶馬等財物以後,就答應借道路讓晉國途徑虞國去征討自己的鄰國並同盟國虢國,百里奚對虞國國君述說唇亡齒寒的道理,在勸說無效的情況下,閉口不再勸諫,並對同僚宮之奇說:“對蠢人直言相勸,無異于把珍寶丟棄在路上。” 果然,晉國滅虢國後,把矛頭指向虞國。
西元前655年,晉國(獻公)滅掉虞國,俘虜了虞國君及其大夫百里奚。由於他拒絕在晉國做官,被晉國充作奴隸,在穆姬嫁給秦穆公時候,陪嫁到秦國。百里奚在去秦國的途中,逃回到楚國。
楚國國君楚成王聽說百里奚善於養牛,就讓百里奚為自己養牛。
剛當上秦國國君的秦穆公,是一位胸有大志的國君,聽說了百里奚是人才,就想重金贖回百里奚。秦穆公的謀臣公子縶說:“那楚成王一定是不知道百里奚的才能,才讓百里奚養牛。若用重金贖他。那不就等於告訴人家百里奚是千載難遇的人才嗎?”秦穆公問:“那我該怎麼樣才能得到百里奚?”公子縶說:“可以貴物賤買,用一個奴隸的市價,也就是五張黑公羊皮來換百里奚。那樣楚成王就一定不會懷疑了。”
當百里奚被押回秦國後,秦穆公親自解除了他的奴隸身份,並與他商談,討教國家大事。
兩人一談就是三天,言無不合。穆公十分高興,要拜其為上大夫(上卿),委以國政,實際上就是把秦國的軍政大權都交給了百里奚。百里奚並推薦自己的好友蹇叔當上卿。最後,秦穆公就讓他和蹇叔一道做秦國的上大夫。
因百里奚是秦穆公用五張黑公羊皮換回來的奴隸,故世人稱百里奚為“五羖大夫”。羖,就是黑公羊皮的意思。