当时的蒙古贵胄认为汉人汉地没什么用，不如把汉人赶尽杀绝，将汉地改成牧场。耶律楚材则认为“天下虽马上得之，不可以马上治”，应该用汉人之法集四海之富。于是他主持设立了10路征收课税所，一年之后，收上来的税赋使得窝阔台大喜过望：“你一直陪在我身边，是用什么方法收来税赋充实国库的呢?南朝那边，也有像你那么能干的臣子吗?”耶律楚材半开玩笑说：“那边比我能干的人多了，我因为不够能干才留下为您效劳。”这些成效对窝阔台产生很大影响，他下旨任命耶律楚材为宰相，默许了耶律楚材以汉法治汉地的方针。
其后，耶律楚材又主持科举，聚集4300多名儒生参加考试，恢复尊孔，保护人才和中原文化，准备实现建构以汉法为主体，以“大一统”为主旨的封建王朝。
但耶律楚材没来得及培育这些人才。由于他的做法触犯了其他蒙古贵族的利益，他成为众矢之的。
1241年冬，窝阔台去世，乃马真皇后专政，她亲信一个叫奥都剌合蛮的西域人。耶律楚材逐渐失去了权势。
耶律楚材只比窝阔台多活了两年半，在这两年半里，他活得非常艰难，因为偌大一个国家，有多个民族，言语不通，文化不同，他以一介书生孤立在尚武的游牧民族庙堂之上，想运用自己所学，是件多么难的事啊。他是因为自己多年建立起来的法度将毁于一旦而愤郁至死的。据史载，耶律楚材死的时候，蒙古人哭得如失去了自己的亲戚，天下士大夫也莫不哭泣。
他所创立的规章奠定了有元一代的制度，但直到忽必烈时期才得以真正实现。耶律楚材去世90年后，被追封为广宁王，赠太师，谥文正。“文正”是古代文官最高级别的谥号，最近一个得此谥号的是清朝的中兴名臣曾国藩。
作为一个文人，耶律楚材留下了众多优美的诗歌，他的《湛然居士集》中收录了600余首诗。尤其是随军出征时写的景色诗，风骨雄健豪放，情调苍凉。耶律楚材也能填词，除此之外，现存篇幅最长的契丹语诗篇《醉义歌》就是由耶律楚材译为汉文，并保存下来的。仅就文化上的贡献而言，耶律楚材已是一个足以彪炳史册的巨人。
作为一个“楚材晋用”的异国臣子，耶律楚材辅佐过成吉思汗、拖雷、窝阔台、乃马真皇后，任丞相多年，影响巨大。他死后葬于瓮山(今北京颐和园万寿山)脚下。世事巨变，如今熙熙攘攘的颐和园中，有谁还会去凭吊这位蒙古国的一代名相呢?
