大历二年（767年），李勉入朝，拜京兆尹，兼任御史大夫。

大历四年（769年），出为广州刺史，兼岭南节度观察使。当时，番禺叛军首领冯崇道、桂州叛将朱济时等作乱数年，攻陷十余州。李勉到任后，派大将李观与容州刺史王翃合力征讨，将它们全部斩杀，最终平定五岭。

大历七年（772年），拜工部尚书，封汧（qiān）国公。次年（773年），永平军节度使令狐彰病死，临终前上表举荐李勉接替自己。唐代宗以为永平军节度使，在镇八年，以素有德望，不威而治，关东诸藩镇十分敬重。

大历十一年（776年），汴宋节度留后田神玉去世后，受命兼任汴州刺史、汴宋节度使。汴州大将李灵曜勾结魏博节度使田承嗣，起兵反叛。魏博节度使田承嗣派侄子田悦出兵援助。李勉联合淮西节度使李忠臣、河阳节度使马燧出兵征讨，大破田悦，令部将杜如江生擒李灵曜。

后来，李忠臣镇守汴州，李勉回镇。大历十四年（779年），李忠臣贪婪残虐，部下驱逐。李勉担任汴宋节度使，并将治所迁到汴州。

唐德宗继位，加李勉为检校吏部尚书、同平章事。建中元年（780年），李勉又加检校左仆射，充任河南汴宋滑亳河阳等道都统。

建中四年（783年），淮西李希烈反叛，兵围襄城。李勉奉命随同神策军将领刘德信出兵，上表道：“贼军以精兵围攻襄城，许州（今河南许昌）必然空虚，不如直捣许州，襄州之围可解。”不等朝廷答复，便命部将唐汉臣与刘德信攻袭许州。二将离许州还有数十里时，接到朝廷诏令，责备违诏出兵，只得返回，结果在扈涧遭到敌军袭击，辎重兵械全部丢失。唐汉臣逃到汴州，刘德信逃到汝州。李勉担心东都危急，另派四千兵马前去助守，被敌军截断后路，不得返回。同年十二月，李希烈亲自围攻汴州，李勉闭城坚守。援军数月未至，集中全部兵力突围而出，东奔宋州（今河南商丘）。不久，李希烈攻陷汴州。

兴元元年（784年），李勉请求辞去都统之职，朝廷以为检校司徒、同平章事。李勉回朝后，身穿白衣，向朝廷请罪，得到唐德宗赦免。李勉自觉惭愧，此后备位官职，不再有所建议。

贞元元年（785年），唐德宗打算拜新州司马卢杞为澧州刺史。给事中袁高认为卢杞奸邪败政，贬官尚不足以抵塞罪责，不肯发布诏书。德宗问宰相道：“让卢杞当一个小州刺史，可以吗？”李勉道：“陛下打算给他官作，即便让他当大州刺史也是可以的，只是会让天下百姓失望。”唐德宗遂封卢杞为澧州别驾，后来，唐德宗问李勉道：“大家都说卢杞奸邪，朕怎么不知道！你知道他的罪状吗？”李勉答道：“天下都知道卢杞奸邪，唯独陛下不知道，这正是他的奸邪之处。”时人都称赞李勉正直，唐德宗逐渐疏远于他。

贞元二年（786年），李勉罢相，加封为太子太师（一作太子太保）。贞元四年（788年），李勉病逝，终年七十二岁，册赠太傅，谥号贞简。

李泌：李勉公忠雅正，而用兵非其所长。

常裒：御史中丞东都畿内观察使李勉，才茂宗枝，名推公器，风标自肃，操履愈高。智略可仗於安危，忠贞克同於休戚，亲贤是赖，中外必闻。属肆觐观风，三川展义，来苏望积，处剧才难，实资模楷之良，共缉保□之政。

陆贽：汧国公李勉，忠信孝友，直方简俭，达君臣父子之际，知礼乐教化之端。虚澹保和，贞明寡欲，求旧则德懋，叙亲则属尊，师范国储无易其选。

刘昫：① 勉坦率素淡，好古尚奇，清廉简易，为宗臣之表。善鼓琴，好属诗，妙知音律，能自制琴，又有巧思。及在相位向二十年，禄俸皆遗亲党，身没而无私积。其在大官，礼贤下士，终始尽心。② 李勉、李皋，禀性端庄，处身廉洁，临民莅事，动有美声，可谓宗臣之英也。若夫治军旅，御寇戎，谋必臧，战必胜，则又勉不及皋远矣。

欧阳修：① 位将相，所得奉赐，悉遗亲党，身没，无赢藏。其在朝廷，鲠亮廉介，为宗臣表。礼贤下士有终始，尝引李巡、张参在幕府，后二人卒，至宴饮，仍设虚位沃馈之。遣戍兵，常视其资粮，春秋存问家室，故能得人死力。② 周之卿士，周、召、毛、原，皆同姓国也。唐宰相以宗室进者九人。林甫奸谀，几亡天下。李程和柔，在位无所发明。其余以材称职，号贤宰相。秦、隋弃亲侮贤，皆二世而灭。周、唐任人不疑，得亲亲用贤之道，飨国长久。呜呼盛欤！

赵构：肃宗兴灵武得一李勉，朝廷始尊。

徐钧：指破奸邪叵测心，一言剀切盍沉吟。主昏不听终无奈，付与清风一曲琴。

李勉少年时家境贫寒，在梁宋地区（今河南开封商丘一带）游历，与一个儒生同住一家客栈。儒生病重，临死前将自己带的银子交给李勉道：“希望你用这些钱将我埋葬，多余的银子就送给你。”李勉答应了，却在安葬后，暗中将剩下的银子放在棺材下面。后来，儒生的家属来向李勉道谢，李勉与他们一同挖开坟墓拿出银子交还他们。

李勉任开封尉时，审理犯罪案件，一个囚犯很有气概，请求活命，李勉便放了他。几年后，李勉被罢官，游历河北，偶然碰到这个囚犯。囚犯把他接回家中招待，因难以报答，竟在妻子的唆使下动了杀心。李勉得到囚犯家僮仆的通知，连忙骑马逃跑，驰到半夜，已行了百余里，便在一个渡口的客店投宿。店主问他：“此处有很多猛兽，你怎敢连夜赶路？”李勉就把前后经过讲述一遍。还未讲完，房梁上便跳下来一个人，道：“我几乎误杀长者！”随即离去，在天亮时又提着囚犯夫妻的人头回来，交给李勉。

这个故事后来被收录在《醒世恒言》中，名为《李汧公穷邸遇侠客》。

李勉任山南西道观察使时，任命前密县尉王晬为南郑令，但是朝廷却要将王晬处死。李勉得知王晬是被权贵诬陷，对将吏们道：“皇上正依靠地方官作为百姓父母，怎能因为有人进谗言而杀无罪之人！”于是飞表上奏，请求赦免王晬，王晬因此被释放。王晬后来担任大理评事、龙门县令，有能吏之名。当时人都称赞李勉有知人之明。

李勉为江西观察使时，部下有人因父亲生病，按照迷信的方法，制作一木偶人，写上李勉的姓名和官位，埋在土中。后来，此事被人告发。李勉道：“他是为父亲禳灾，值得同情。”于是没有追究此事。

京兆尹黎干阿附于宦官鱼朝恩，鱼朝恩每次到国子监，黎干都要动用京兆府的人力，准备数百人的饭菜接待。后来，李勉继任京兆尹，鱼朝恩又要到国子监，府吏请求准备饭菜。李勉道：“军容使鱼朝恩官职判国子监事，我如果前往太学迎侯，军容使应该厚礼款待。我担任京兆尹，军容使如果惠顾我京兆府，我岂敢不准备饭菜呢？”鱼朝恩得知后衔恨在心，从此不再去太学。

李勉在广州任职六年，所用器物车服等仍为原样，没有增加装饰。后来，李勉回京任职，在石门山（在广州西北江中），将全家人贮存的南货犀象等物，统统投入江中。当地耆老都认为李勉可以与宋璟、卢奂、李朝隐三人（三人都曾任职岭南）相媲美，当地吏民立碑以颂其德。

曾祖：李元懿，绛州刺史，郑王，追赠司徒、荆州大都督、谥号为惠。

祖父：李琳，封安德郡公。

父亲：李择言，岐州刺史，安德郡公。

儿子：李缵、李缜、李纬、李约（兵部员外郎）

《全唐文》收录有其文章两篇：《厨院新池记》、《滑州新驿记》。

《旧唐书·卷一百三十一·列传第八十一》

《新唐书·卷一百三十一·列传第五十六》