（老石背叛過三個主子，就像捉老鼠一樣，我要是不小心點，豈不是要被它咬傷小手，何況老石這樣的奸雄）

桑維翰又說道：「我主石某雖有王霸之才，然契丹上國已扼其喉，安能嚙人！」（你已掐住了俺家老石咽喉，他還怎麼咬你）又說相士早有預言「趙氏將與遼人百世為敵」，如果遼太宗扶立趙德鈞，恐怕日后必應驗此言，為患不小啊。遼太宗一聽，心中大為動搖，然而卻不好意思立馬改變主意，而桑難翰居然跪于賬前，自天亮到天黑，哭天喊地的懇求。

就這樣徹底將遼太宗打動，下決定心只支持石敬瑭一人，并把趙德鈞撂在了一旁，指著桑難翰說道：「我已許石郎，此石爛，方可改矣！」他們當時可曾料到與遼人「百世為敵」的趙氏，居然是后來趙匡胤建立的北宋。

不久石敬瑭建立了后晉王朝，并讓小他十歲的遼太宗耶律德光收他做了「義子」，又把遼西河北一帶的幽云十六州典當給了遼人，以保證隨時能從遼國抽調十萬鐵騎，替他攻打中原尚未臣服的其他諸侯。

空前絕后，史無前例的「兒皇帝」石敬瑭認為這些都是桑維翰的功勞，于是登基之后，立馬任命他為同中書門下平章事（常務副宰相）、樞密使（總軍師兼后勤部長）、禮部侍郎、大學士。后來又讓他先后出任相州節度使、泰寧節度使，成為位極人臣、權傾朝野的一朝宰輔兼封疆大吏。

可當時后晉很多將領和中原其他諸侯，都非常反感石敬瑭向遼國「賣土求榮」的卑劣行徑，許多后晉節度使都開始以與契丹斷交為名，舉兵反叛。后晉高祖皇帝石敬瑭此時焦慮萬分，不知如何是好，甚至也想要與契丹翻臉絕交，可桑維翰上書陳列了七條不能與契丹為敵的理由，石敬瑭這才漸漸安心下來，并把他召入內室密談。

敬瑭對他說：「與北面契丹之事，撓孤胸中何等煩悶，今計已決矣，俱托付于卿也！」不久之后，天下還是亂得一團糟，而遼國得到燕云十六州土地之后，卻沒有完全兌現當初的出兵諾言，石敬瑭一氣之下就病倒了，且他面對四方群雄并起，大有圍攻洛陽之勢，因此在洛陽也呆不住了，桑維翰就勸他移駕到離遼國較近的河北鄴都去。

后晉天福七年，石敬瑭就躲到鄴都養病去了，可沒過幾天就在驚懼之中病死榻上。

晉高祖駕崩，他的大侄子石重貴即位，是為晉出帝。晉出帝任命桑維翰為侍中（秘書長），卻沒有再重用他，而是起用了另一位一心要「抗遼自強」的大臣景延廣。景延廣則一直建議晉出帝與遼國絕盟，而桑維翰想要勸阻，卻沒辦法見到皇帝。

后來遼太宗多次親率大軍南下，幾番大戰之后，年輕氣盛的晉出帝這才知道，兇狠的遼人不是那麼容易靠一腔血氣就能戰勝的。這時桑維翰又派人到處散播童謠說：「制契丹而安天下，非用維翰不可！」

晉出帝聽聞之后，立馬將景延廣罷黜出朝，又將桑維翰請入宮中，授予中書令之職，并兼樞密使，又封魏國公，朝中之事無論巨細，全都交到他手里處置。桑維翰的權勢也越來越大，朝內朝外的官員都爭著向他送禮行賄，一時間他的家產竟達到富可敵國的境地。