1949年11月下旬，46岁的马步芳在台湾被弹劾后，又返回香港，并向国民党代总统李宗仁请假，希望能够去麦加朝觐。获得批准后，马步芳包乘英国航空公司三架飞机，率领宗亲、近友、护卫大约200多人，从香港飞开罗。
马步芳一行抵达开罗后，适逢沙特国王出游途经开罗。马步芳乃以中国回族名望的身份，与沙特国王进行了晤谈。马步芳按照仪式，诵了一段《古兰经》，在翻译的帮助下，相互寒暄一番。沙特国王在开罗组织宴会时，马步芳也应邀参加。
在开罗住了一段时间后，马步芳等人前往沙特。沙特国王接见了他，并且提出要赠送一辆小轿车，结果被他婉言谢绝。随后，马步芳自己购买了4辆小轿车，前往麦加朝觐。
身在异国他乡的生活，很多的不适应都陆续出现。不久，马步芳的三弟马步瀛便中暑去世。
料理完弟弟马步瀛的后事，马步芳又带领着一大家子人来到海港城市吉达居住。随后，马步芳又在开罗购置了一处私邸，一旁又购买了13层大楼一栋，作为随从的住所。
随着蒋介石的复出，他又电召马步芳返回台北“共商国是”，马步芳婉言谢绝。此后，台湾当局要他出任驻埃及“大使”、土耳其“大使”，均被他先后谢绝。
然而，马步芳身边的年轻侍卫们，并不甘心就此遥遥无期地滞留在埃及。马得清是马步芳的管家之一，虽然衣食无优，但思念家乡的情绪弥漫在他的脑海。
有一天，马得清在开罗的报纸上看到了人民政府的消息，欢迎国民党流落海外的军政人员回大陆。马得清心潮澎湃，遂与马呈祥的副官陈广清暗中计划，寻找着能够返回大陆的机会。
大约一年之后，马步芳的岳母要去麦加朝觐，马得清、陈广清与马世俊三人为护卫。朝觐活动结后，由马世俊护送马步芳岳母回开罗，而马得清、陈广清二人则搭船只返回了广州，经登记准予上岸后，前往北京登记报到，之后返回青海乐都的家中。
马得清、陈广清的离去，让马步芳心情格外抑郁。1957年，埃及承认中华人民共和国，马步芳更是郁闷，只好迁居沙特阿拉伯。
鉴于马步芳与沙特国王所保持的良好关系，蒋介石任命他就地出任驻沙特“大使”。这一回，马步芳并没有婉言谢绝，很快他又恢复了国民党党籍。马步芳当即动工修葺了国民党“驻沙特大使馆”，并购置了四处房产。还任命原青海省南部边区警备副司令马耀宗为“使馆”护卫长。
1959年，台湾当局派出“外交官”宋选铨前来协助马步芳的工作，而实为督察。为此，马步芳颇为不悦。马、宋之间的激烈冲突，起于马步芳的“姨太”马月兰。
当时马月兰20来岁，是马步芳出了“五服”的堂侄女，来到海外后，被马步芳娶为继室。两人结婚后时间不长，马步芳对马月兰时有辱骂殴打。马月兰不堪忍受，遂于1961年1月的一天，偷偷跑到宋选铨家求助。宋选铨有意弹劾马步芳，便将马月兰藏匿于私邸，此后借助马步芳的家事，大肆渲染。
马步芳怒火中烧，率领“使馆”护卫长马耀宗等人，来到宋家要人。“大使”带着一帮人砸门，引来许多路人的围观。宋选铨闭门不出，请警察前来帮忙，但马步芳亮出身份后，警察也只好作罢，但马、宋纠纷霎时满城风雨，传遍了当地。
4月，宋选铨带着全家人和马月兰一起秘密离开了沙特，返回台湾，将马步芳告到了“立法院”、“监察院”。马氏海外丑闻自此又传遍了台湾。台湾当局提出请马步芳“回国”述职，马步芳断然拒绝。
直到1967年，国民党台湾当局才免去马步芳“大使”职务。
晚年马步芳生活的波澜还不止于此。1963年，远在美国洛杉的马鸿逵，派人将自己所写的《给马步芳的一封公开信》，在台湾广为发散。
此外，马鸿逵遗著《马少云回忆录》中，只要提及马步芳，便是赤裸裸谩骂。
如：
“八年抗战，马步芳不曾出一兵一卒。”
“你目不识丁，十句中国话也难说得清楚。”
“淫乱成性，罔顾伦常；威逼强奸良家妇女，部下女眷亦难幸免。”
“(1947年在陇东)你们父子唆使青海军误打中央军，对方打旗语不懂，吹号音不理……致使中央军死伤累累。”
“(你在西北军政长官公署内)拥着两个美貌少女，轮流跳舞。当问此两少女为何人时，告以:天水周子扬的孙女。听后，(我)汗流決背，残杀其祖父，复侮辱其孙女……”
奇怪的是，面对马鸿逵的谩骂，马步芳选择了沉默。
1970年，马鸿逵的遗体运抵台湾后，台湾当局组织了盛大的治丧委员会，以谷正纲为主任委员，委员共计156人，其中有马步青、马继援的名字，惟独没有马步芳。
1975年，马步芳也躺在了自家的寓所里，病入膏育。恰巧，一位到麦加的青海籍回族阿訇拜访了他，此时的马步芳已经无法顺利说话，两人只好用西北独有的手语进行交流。
当问及马步芳对于家乡的情感时，阿訇用手势出示一个羊头、一个马头和一个牛头。马步芳却连连摇头。
阿訇再问时，马步芳老泪纵横，他用颤抖的手指着天，指着地，之后又指着自己的心口一一思乡之情让他怆然泪下。
1975年，72岁的马步芳病死在沙特。
