1948年5月，李宗仁当选副总统，蒋介石为了削弱桂系，免去了白崇禧国防部长的职务。白妻马佩璋对李妻郭德洁酸溜溜的说：“你丈夫成了副总统，我丈夫却丢官了。” 1946年6月， 蒋介石改组军事机构，取消军委会，设立“国防部”，白崇禧成为国防部长。不过，老蒋显然不会让白崇禧独掌权力，他在“国防部”内部分设“国防部本部”和“国防部参谋本部”，“参谋本部”的参谋总长由心腹陈诚担任。 那么，白崇禧这个国防部长，和陈诚这个参谋总长谁的权力更大呢？ “国防部本部”的人事架构是“一长三次一办十司”，即一个部长，三个次长，一个办公室，十个业务厅长。 “参谋本部”的人事架构是“一长三次一办四总六厅十二局”，即一个总长，三个次子，一个办公室，四个总司令（陆军、海军、空军、联勤总司令）、六个厅长（含作战厅等）、十二个局长。 明显可以看出，“参谋本部”掌握实权，但即便如此，白崇禧的名义地位还是高于陈诚，他对“国防部长”这个职务还是很看重的，毕竟这可是中枢大员岗位。 1948年6月初，老蒋对“国防部”进行了人事大调整，何应钦、顾祝同分别取代白崇禧、陈诚担任“国防部长”、“参谋总长”。 陈诚当时已成为过街老鼠，国民党内对他一片喊杀喊打之声，老蒋将他免职，是为了应付舆论，依旧视为心腹，东山再起是早晚的。对白崇禧的免职，则完全就是打击报复了，老蒋对李宗仁当选副总统极为不满，为了削弱桂系，他免掉了白崇禧“国防部长”、李品仙安徽省主席的职务。 自廖磊1938年任安徽省主席以来，安徽省主席一职一直由桂系大员担任，桂系对安徽的控制度仅次于广西。李品仙被撤职后，老蒋一度打算委派亲信接任，但桂系反弹很大，考虑到还需要桂系的部队卖命，最后安徽省主席又由桂系的另一员大将夏威担任。 接着，老蒋将白崇禧、李品仙打发去新设立的“华中”剿总任总司令、副总司令。国民党先后设立了华北、东北、华中、徐州这四个“剿总”，由傅作义、卫立煌、白崇禧、刘峙分任总司令。 四大“剿总”中，以华中的兵力最少，而四个总司令中，白崇禧的资历高于另外三人，又是陆军一级上将，这是明显的免职。倍感屈辱的白崇禧，选择拒绝上任，称病去上海闲住。 白崇禧的妻子马佩璋情绪也是相当大，牢骚满腹， 有一次对李宗仁的妻子郭德洁以酸溜溜的语气说：“你丈夫升官，我丈夫丢官了。” 华中有不少桂系的部队，白崇禧迟迟不上任，老蒋也很是着急，派吴忠信前往上海，劝说白崇禧赴任。 吴忠信是安徽人，他和老蒋是结义兄弟，但也和李宗仁、白崇禧私交不错，倒是个当说客的好人选。 白崇禧虽然卖了面子见了吴忠信，但表示绝对不会去华中上任，吴忠信费了一番唇舌后，见毫无效果，只得回南京向老蒋复命。 见吴忠信无功而返，老蒋让黄绍竑去上海，指示务必说动白崇禧。 黄绍竑和李宗仁、白崇禧是新桂系的三巨头，也是三人中，唯一让老蒋较为信任的人。黄绍竑到上海的家中后，打电话给白崇禧，让过来一叙。 白崇禧推脱说：“这几天已经和人有约了，等我有空了再联系你。” 黄绍竑说：“我有要事商谈，还是尽快见一面吧。” 白崇禧说：“若是那个人派你来的，你我就没有什么好谈的。” “那个人”自然指的是老蒋，黄绍竑说：“确实是那个人派来的，但我此来可不是为他。” 白崇禧一听，语气转缓，同意见面，当晚乘车来到黄绍竑的公馆。黄绍竑和白崇禧相交多年，当即以毫不客气的语气说：“健生啊，都夸你聪明，说你是小诸葛，我看言过其实了。你与德公，和老蒋争斗多年，他的为人还不清楚吗？在我看来，你不当这个国防部长才是好事。” 被黄绍竑批评，反倒让白崇禧虚心起来，摆出愿闻其详的姿态，黄绍竑接着说：“德公当了副总统，你若还继续当国防部长，两个人都留在南京，成了笼中之鸟，任人宰割，若老蒋要动手，岂不是被一锅端了。最好的局面难道不是，德公在内，你在外吗。” 白崇禧被说的有些动摇，黄绍竑又劝道：“你若坚持不去，老蒋必然要委派他人去华中，到时候桂系这点部队，就被别人攥在手中了。北方的战局日渐不妙，我建议你马上去赴任，尽量多抓部队在手里，等待时机，由德公出面主持政务，你主持军事也不是没有可能。” 黄绍竑虽是替老蒋当说客，但句句却是桂系的利益，白崇禧顿有醍醐灌顶之感，在两人见面的第二天，就飞去南京见老蒋，随后飞去武汉正式就任华中“剿总”总司令。 白崇禧到任后，一面扩充桂系部队，一面拉拢“剿总”下属的各绥靖区司令，以加强“反蒋”资本。本来，老蒋是留了后手的，华中“剿总”的三个兵团中，桂系只掌握了张淦的第三兵团，十二兵团（司令官黄维）和十四兵团（华中剿总副总司令宋希濂兼任兵团司令），都是老蒋的嫡系部队。 蒋系人马，在华中“剿总”占据压倒性优势，但在淮海战役打响后，战斗力最强的十二兵团被派去徐州覆灭于双堆集，宋希濂孤掌难鸣，白崇禧对华中的控制度大增，最后联络各方反蒋势力，成功“逼蒋下野”。