廉希宪聪颖好学，19岁便得到了的信任。有一次，他正在读《》，忽必烈要召见他，他就装着书出来拜见。忽必烈问他《孟子》的内容，他就用孟子 主张性善，好义非利，崇仁恶暴的主旨回答，忽必烈听后非常高兴，说：“你就可以称得上是廉孟子嘛！”从此以后，人们就用“廉孟子”称呼他。
忽必烈的近臣们有一次进行射箭比赛，有个人射完了自己的箭就要取廉希宪的箭，他以为廉孟子一个书生，怎会射箭？哪知廉希宪微笑着制止他，从容地说：“你觉得我不能射箭吗？”。身边的人递给他一张硬弓，他三射三中，众人惊叹：“廉希宪真是文武全才。”
廉希宪的“武”更在于他有天才的指挥才能。宪宗蒙哥逝世后，他一面劝忽必烈还京即位，一面又先回京师，沿途宣讲天心人事——忽必烈应为大汗。得到了宗王塔察儿的响应。
忽必烈即位以后，廉希宪又根据当时的局势，建议遣回高丽王子，并与宋议和，得到忽必烈的赞许。接着又设计平定刘太平、霍鲁海的谋反，并代传圣旨，命汪惟 良带领秦州、巩州等处军队向六盘山进军，又调发更戍的蜀军及壮丁，由诸军总帅八春统领，与汪惟良会合，最后，彻底控制了关右的形势。忽必烈知道后，不但没 有怪罪他，反而觉得廉希宪用兵灵活，有胆有识。赐给金虎符，节制诸军，并下诏说：“朕委派你负责这方面的事情，你可以权衡利弊，自行定夺，不要拘束于平时 的制度而失去战机。”可见，忽必烈即位之初，廉希宪掌握和控制了整个西线的战事。因此，30岁的廉希宪便由中书右丞晋升为平章政事。
廉希宪整顿朝纲，兴利除害。他建议忽必烈根据治理的政绩，对世袭的官臣进行升降，刷新了地方吏治。奸臣阿合马擅权当道，管理财政，没人敢得罪他。廉希宪却认真追查阿合马的劣迹，如实上奏，使阿合马受到杖刑。
廉希宪在忽必烈面前奏事，总是据理力争，有时竟和皇帝辩论起来。气得忽必烈有一次大发雷霆，指着廉希宪说：“当初你在我的藩王府时，尚能忍受委屈，现在 你做了我的重臣，怎么返倒变得这么强硬呢！”廉希宪毫无俱色，从容答道：“王府事轻，天下事重，如果我不直言以谏，天下将受其害。我这样做并不是不自 爱。”忽必烈觉得他说得非常有理。
1270年，忽必烈下诏赦免京师囚犯。西域人匿赞马丁是先帝的大臣，为怨家所告入狱，这次也赦免 了。匿赞马丁的怨家向皇帝申斥。廉希宪得知后，立即在中书省签置释放匿赞马丁的书上补签了自己的名字。因释放匿赞马丁时他正在家休假，不知此事，他不想借 这个理由逃避此事。果然，忽必烈责问是谁做主释放匿赞马丁，廉希宪说：“这是陛下诏书上说的。”忽必烈生气地说：“诏书上说释放囚犯，有诏书说释放匿赞马 丁吗？”廉希宪回答：“不释放匿赞马丁，我们也不知道这个诏书。”忽必烈果然大怒：“你们号称读书之人，碰到事情竟然这样，应该定个什么罪？”廉希宪不加 思索地说：“我们身为宰相，有罪应该罢退。”忽必烈见一点台阶也没有，很不高兴地说：“就按你说的办吧！”于是把他和左丞相耶律铸一同罢退了。
过了几天，忽必烈觉得心里很不是滋味，他问侍臣：“希宪在家做什么？”侍臣说：“读书。”忽必烈沉着脸说：“读书当然是我要求的，但是读书而不能用，多 读有什么用处？”奸臣阿合马见状，赶忙趁机进谗：“廉希宪天天在家同妻子设宴寻欢。”“胡说！希宪没有钱，用什么设宴？”忽必烈脸色更加难看。
1274年，忽必烈起用廉希宪为北京行省平章政事。并派他去东北镇守辽东。有一次，大公主同国婿去京师，途经辽阳，以郊外射猎，践踏庄稼，侵扰百姓。廉 希宪当面向国婿讲道理，并说要向皇帝奏明。国婿害怕，来求公主，公主设宴来求希宪，并表示愿拿出一万五千贯钱偿还百姓，请求不要上奏朝廷。从这以后，诸王 贵族经过辽阳，再不敢放纵害民了。
1275年，忽必烈把廉希宪从东北召回，命他坐镇荆南行省，配合南征灭宋，廉希宪带病冒着暑热疾驱南下，到江陵，右丞上将阿里海牙率部到郊外迎接，望着来人掀起的尘土下拜，使荆州人士大为惊骇。
廉希宪来到江陵，马上下令，禁止元军抢掠居民财产，开展贸易，兴利除弊，地方秩序很快安定下来。廉希宪按忽必烈的要求施行的“仁政”颁发了一些命 令。接着又大兴办学，在廉希宪看来，“办学讲经是不可延缓的”，所以他选教官，置经书。在学校成立的第天，廉希宪亲自到学校讲课，勉励学习生员。
由于廉希宪施行仁政，荆州西南地区宋境的苗族聚居区，很多头人都越境来归顺。忽必烈得知后说：“先朝非用兵而不可得的地方，现在希宪能令千百里外居民越境纳士，他的仁政感化力量真大啊！”
