周恩来闻知，对于右任的处境十分担忧。当国民党和谈代表黄绍竑和代表团顾问屈武携带《国内和平协议》草案去南京复命时，特别请屈武到南京后立即转告于右任：“如果南京政府拒绝批准这个《国内和平协议》，我们渡江占领南京时，希望于先生在南京不要动，到时候我们会派飞机接你来北平，将来同张澜、李济深和沈钧儒先生一道，组织新政协，我们一同合作。”
屈武到南京后向于右任转达了周恩来的意见，但这时他已身不由己。
周恩来的交代慢了一步。南京解放前夕，一位国民党的高级军官来到于公馆，对于右任说：“报告院长，共产党军队已经突破江防，请院长即刻离开南京。飞机已经准备好了。到广州或是先到上海，由院长决定。”于右任说：“现在我身体不好，等一等再说好了。”那军官坚持说：“情况紧急，必须马上离开南京！”没等于右任把衣服穿好，就强使他上车驰往机场。于右任十分不想走，他早已看透了国民党，看透了蒋介石，不想去当随葬品。因此于右任到了上海后，看到国民党已兵败如山倒了，他原本打算就留下不走了。一次夜深人静时，其夫人沈氏问于右任：“上海要解放，怎么办？”于右任安慰道：“不要怕，上海解放了，共产党、毛主席会保护我们的。”
于右任在上海没住多久，解放军就大兵压境，不得已又同次子仲岑、儿媳周宝珠及两个孙子一道去了广州，最后在蒋介石的催促下，辗转飞往台北。
4月20日，国民党拒绝接受《国内和平协议》，人民解放军发起渡江战役。国民党军政机关撤往广州，于右任被“护送”至上海。25日，于右任被迫由沪抵穗，继续主持监察院院务。7月16日，国民党中常会正式决定成立挽救残局的最高决策机关中央非常委员会，蒋介石、李宗仁为正副主席，于右任是九委员之一。广州解放前于右任到香港，11月26日奉召到重庆，28日离渝，29日被迫飞抵台湾，而原配夫人高仲林、长女于芝秀等亲属仍留在大陆。
1949年11月下旬，于右任得知发妻和女儿仍在重庆等他，又从台北飞到了重庆。可是，妻子、女儿因等不着他，已于前几日去了成都。为此，于右任十分后悔，他对随行人员说：“我要是早来几天，就见到夫人了。”在重庆，于右任一直设法与妻子取得联系，想让她们返回重庆，但没有成功。
11月29日，解放军攻城的炮声越来越紧，于右任在众人的劝说下，蒋介石不容他再考虑，便派人把他接往香港，随后转往台湾。于右任不得不乘飞机飞往台湾。这一走，他就再没有机会回大陆。在台湾继续做了十五年的监察部门一把手，直到去世。
于右任暮年孤独无依，深念大陆亲人，抑郁苦闷，无以释怀，于1962年1月24日写下了脍炙人口的《国殇》这一人间离情绝唱。
8在台湾的晚年岁月
国民党政权摇摇欲坠时，于右任随国民党政府来台后，蒋介石给于右任一个冷衙门坐，即监察部门一把手，在一党独大、以党领政的时代，监察部门有如无牙老虎。于右任任监察部门一把手，一干就是十五年，苦闷可想而知。他在1949年3月26日曾提出辞去监察部门一把手职务，但在一片“挽留”声中，不得已仍留任。
于是他寄情书法，而且对各界的求字大多来者不拒，在三十多年前，坊间不少招牌都是于右任题的。但也有例外，一是倚仗权势的宋子文，还有就是他看不顺眼的官员，这些人求字他从不给。
于右任为人写字，不看来者的职位与身份，标准是他喜不喜欢。宋子文很喜欢于右任的字，特置一把精贵的扇面，托人请于右任题墨，于右任拒绝。但他却为南京夫子庙大集成酒馆的女侍写了一副对联：“玉壶卖春茅屋赏雨，座中佳士左右修竹。”
由于他的字值钱，到台后颇有一些落魄文人假借他的大名卖字。他的下属知道后要“严惩”，于右任关照“不要为难他们”。甚而连台北和平东路街头一商店招牌也假冒他的字，于右任见了，一点也不恼，让店家把假冒招牌摘下，为他重题了一幅。店家送一大笔润金，于右任拒收，店主嗟叹不已。
这十五年间，于右任的监察部门一把手形同虚设，几乎无所事事。他在1953年监察部门年度总检讨会上曾说：“年来我也多病，大声讲话头部便会作痛，老天爷留我是罚我，作苦工的日子尚未完满。”从这些话中，可以想见他当监察部门一把手的心绪。
但是于右任不愿做一只被拔了牙的老虎，他带领的监察主管部门迁台后曾弹劾的两名最高官员是前代“总统”李宗仁与前行政当局一把手俞鸿钧。此外，还有1955年影响较大的“孙立人案”。当时的监察部门一把手都是于右任。
1952年1月监察主管部门通过了弹劾李宗仁案。由于1949年停止行使“总统”职务的蒋介石当时已“复行视事”，1954年一届“国民大会”第四次会议通过了罢免李宗仁的提案，理由是李宗仁担任代“总统”期间“违法失职”。
1955年，与台湾当局组织陈诚领导的“九人小组”调查原“陆军总司令”、二级上将孙立人部属涉及间谍案及兵变的同时，监察主管部门陶百川等5人自行发动调查，其调查结果与台湾当局方面极为不同。监察主管部门报告认为孙立人案子虚乌有。
回顾半世纪前台湾的政治肃杀的环境，监察主管部门如螳臂挡车般地对抗行政权，“监察之父”于右任与蒋介石抗衡，同意安全委员会推举曹启文、萧一山、王枕华3人以及会外监委陶百川、余俊贤共组5人调查小组还原真相，5人并上书蒋介石犯颜直谏。该报告由于过于敏感，与当局意旨不合，事后被列为机密封存，直到1988年才重见天日。孙立人由于陈诚领导的9人小组的不实报告，遭到有关方面“管束”其行动达三十余年。
但“监委”仍针对行政当局引用有关规定，即所谓“侦查不公开”，拒绝除当事人孙立人将军外，郭廷亮等主要嫌犯接受“监委”当面询问，与行政当局会商解决；并要求监察主管部门、安全及“司法”两委员会切实注意军法局有无违失之处，终于让孙立人有生之年，含冤最后得雪，获得平反，于右任长期的关注与维持功不可没。
在“监院”弹劾行政当局一把手俞鸿钧事件中，蒋介石等已发现这个惩戒制度不可行，要改变对行政权的不利情势，于右任反对最力，与蒋介石唱对台戏，引起蒋的不快，痛批于右任“到底还有‘党国’观念无？”于却不为所动答道：“我是‘国民’后才是党员。”
蒋批评在那个时代，行政当局一把手纵使所有“立法委员”都排斥他，他也不必辞职，位高隆尊。可是几个“监察委员”弹劾，因几个公务员惩戒委员会委员受撤职惩戒处分，就可以被反对党弹劾而集体下台，所以这个制度有问题，当局曾提出政务官惩戒条例草案，对政务官的惩戒想要用另一种方式来严格地加以限制，使政务官不容易受撤职之处分，草案送到立法主管部门，立法主管部门内的委员与公务员惩戒委员会委员等，皆持反对立场，嗣后，当局只好撤回此一草案。
但是，蒋介石知道后非常不悦，在公开会议中声称都是于右任在后面煽的火，并当面斥责于右任的不是，这对于右任打击甚大！然而于右任并不惧怕威权，他把民国比诸清朝，把蒋介石比诸“亡国之君”，道出许多高见，也有以此回敬蒋介石的意味。
于右任认为，清王朝必然垮台的原因有三：“民穷财尽，社会破产，国家破产。国有金，吝不与人，为他人藏，此其一。”翻成白话文，大意是：百姓贫穷，读不起书，看不起病，住不起房，物价飞涨，社会、国家呈败落之象。国家与民众争利。公共财产归权贵私有。民众虽竭尽劳作，所得不足以维持生计，两极分化十分严重。
“善不能举，恶不能退，利不能兴，害不能除。化善而作贪，使学而为盗，此其二。”翻成白话文，大意是：行善不能受到褒扬，作恶不能受到惩处，社会道德严重滑坡。官员虽多，但不作为，只顾聚敛财富，使“利不能兴，害不能除”。“化善而作贪，使学而为盗”，社会道德极其败坏。
“宫中、府中、梦中、此哭中、彼笑中、外人窥伺中、宵小拨弄中、国际侦探金钱运动中，一举一动，一黜一陟，堕其术中，此其三。”翻成白话文，大意是：腐败政权用卖国的手段来维持统治。外强“窥伺”中华，伺机捞取好处；“宵小”（贪官、小人）拨弄是非，出卖国家利益。搞金钱外交，用通商拉拢外国政要“助纣为虐”，勉强维持其祸国殃民的统治。“侦探”渗透进来，用金钱收买国内政要，甚至行为举止，罢免升迁，都以金钱利益为动因，用这样的方法维持其统治岂能使社会不败亡？
于右任先生从以上三点看到了清王朝必然灭亡的趋势，结果完全被他言中了。当这篇文章发表后不到一年，貌似强大无比、繁荣昌盛的清朝就在武昌几个士兵走火的枪声中轰然倒台了。
尽管于右任讲这三点“恶因”在当时完全是针对清王朝的，但事实上，当他所归属的国民党政府于1949年垮台时，于右任相信蒋介石应该有这个自知之明。难道国民党政府垮台的主要原因不也是这三条吗？
毕竟两蒋在台无人能及，于老也无可奈何，监察主管部门受到蒋氏父子的侵权，早已变得无权无势，只能聊备一格。又依据权力分立与制衡的原理，有关审查预算的权力，本属于民意机构之职掌。因此对于行政当局违规编列预算，最有效与直接的制衡机制，就是立法主管部门。所以民意机构如果放弃把关的责任，想依赖监察主管部门行使纠正权、纠举权或弹劾权来制衡行政权，效果其实是非常有限的。
因为一方面在民主制度下，行政当局主要是对立法主管部门院负责，监察主管部门最多是对行政当局及其官员的违法或失职进行纠弹，在行使职权时不能逾越立法与司法权的范围；另一方面，当时的“监察委员”是由台湾地区领导人提名，经立法主管部门同意后而任命，因此难以完全跳脱政党利益的纠葛；最后，即便是监察主管部门想有一番作为，对“事”也只能行使“纠正权”，根本拘束不了行政当局。所以，与其期待监察主管部门的努力，倒不如要求民意机构作出更积极与强势的监督。毕竟，行政当局违法编列预算，如果没有立法主管部门的放水，这些违法预算还是很难通过的；如果连民意机构都不想管了，那能期待监察主管部门作出什么积极的作为？
行政当局与监察主管部门的关系也让监察主管部门执行起来困难重重。
从此以后，他不再打老虎，也不打苍蝇了，整天寄情书法诗词，每天去监察主管部门纯粹批阅公文，且都只批“是”、“行”、“商”、“阅”等单字。他看破官场，不再书写建议，所以就再没有两个字以上的批阅了，十分可惜啊！
于右任只有在字里行间寄托希望，他给监察主管部门写的草书《黄州》，是宋朝诗人陆游所作，描写苏东坡在“乌台诗案”中被恶御史诬陷迫害，流放到黄州的故事。于右任被称为“监察之父”，可能是借这首史诗提醒监察主管部门的后进，不能自编派系，陷害忠良。
古人早就看出通常人们很容易有这种认识上的局限性，故有诗曰：“不识庐山真面目，只缘身在此山中。”人民要有开阔的眼界，要看到自己根本的长远的利益，顾及子孙后代的长远利益，就不能只看眼前的利益，就不能只看眼前的这狭小的空间。
