他无论到哪里为官，政治都很清明。兴元初年，调他回京到天子身傍任左散骑常侍，不久又被任命为陕府长史，充任陕虢防御史。陈、许的三千名戍卒从京西逃回，逃到陕州地界，李泌在险要处埋伏军队，把他们全都打败。他又开设了三门峡十八里陆地运输路线，使征运官粮的事船不再有碰上礁石的忧患，极大地有利于京城。兴元二年六月，他被任命为中书传郎平章事，加封崇文馆大学士，编修国史，封为邺候。
当时顺宗住在春宫，皇妃萧氏的母亲郜国公主和外官交往，皇上怀疑她有不轨的企图，受她株连被罢官的好几个人。皇太子也受到危机，十分害怕。李泌经过一番周旋，向皇上陈述利害，皇上才打消废太子的念头。
李泌很有正直的作风。兴元五年春天，德宗把二月一日定为中和节。李泌上奏现在有关官署献上一本农书，并且献来优良的穜稑的种子。王公和皇帝外戚聚居的地方，人们都换上了春装，士人和百姓就互相问候。李泌又制作了中和酒，祭祀勾芒神，用来祈求全年的丰收。这种祭神的活动至今还流传。
李泌旷达机敏善辩，喜欢正大的言论。自从他在宫中做官，多次遭到权臣的排挤，他总是凭着自己的智慧免遭灾祸。他终于因为言论古今至理，感悟了圣主，得到了相位。
这年三月他死了，皇上追封他太子太傅的称号。
这个月有个叫林远的宫中使者，在蓝关旅舍中遇见了李泌。李泌独自骑马，穿着平常的衣服，说暂时去衡山。他向林远述说自己辅佐四代帝王所得到的重遇，惨惨地呆了许久才别去。林远走了很远的路回到长安，才听说他已经死了。
德宗听说之后，尤其感到悲伤和惊奇。德宗说：“李泌先生自己说，他得辅佐四个皇帝然后再登天作神仙，这话应验了。
李泌在青年时，自从父母相继去世，再也没有去求取功名的愿望，所以他服真气，修道术，周游名山大川。他到南岳张先生那里，被张先生收为弟子。德宗追封张先生为玄和先生。又和明瓒禅师交往。写作了《明心论》，明瓒禅师佛教信徒都叫他懒残！李泌曾在衡岳寺读书，对明瓒禅师的作品感到惊异，说：“这不是个一般人。”他听明瓒禅师夜半念经，响彻山林。李泌很懂音乐，能辨别声音的喜庆和悲哀。他认为明瓒禅师读经的音调是先悲怆而后喜悦，一定是个从天宫谪贬下界的人，到时候就会离去的。等到半夜，他偷偷地去拜见明瓒禅师，懒残让他坐下，从火里拨出烧熟的山芋给他吃。懒残对李泌说：“千万不要多说，你拿到了十年宰相。”李泌参拜后便退出来。
天宝八年，他在表哥郑叔则家里，已经多年不吃粮食，身体很轻，能站在屏风上，拉动手指用气，可以吹灭烛火。每次作引导运气，骨节都有珊珊的响声，当时人们说他的骨头是锁子骨。
他在郑家的时候，忽然有两天不省人事了。等他醒来，自己说，看见自己的身体从头顶跳出有二三寸，傍边有一位仙人，挥着手，转动着眼睛，好像在帮助他，又像在鼓励他。等到脚也升到头顶时，忽然想到并且说，我还有大事未了，还有家庭房闱的留恋，希望把这些事办完。
这时在身傍又出现一个人，长得高大，穿戴像帝王，前面有个妇人，向他跪拜行礼，像帝王这个人责备说，李泌情缘未断，就想接他升天，还劳烦了灵仙。跪着的妇人说，要是这样，还是先让他给皇帝做事吧。然后我就醒转来了。
两年后，李泌果然被唐玄宗征入宫中。李泌还住在郑家时曾经有八个容颜服饰很奇特的隐士到郑家来过，几次说他们自己仙术齐备，没有办不到的事。他们临走的时候叹道：“你的俗缘竟然没了，可惜你的心志和骨相了！”李泌要和他们一块去，他们说不行。姑且给他一个做完宰相的时间罢。那八个人一出门就不见了。于是李泌作了《八公诗》记叙这件事。
又有一位隐士，带来一个六七岁的小男孩，对他说：“我有事要到南方去，或十来天或一个月就能回来。因为这男孩有痢疾，既然咱们是同道，我想把他寄放在你这里。”隐士又留下一个匣子，说：“如果病治不好，希望你用这个匣子把他埋葬了吧。”李泌答应之后，隐士才问那男孩：“你留在这里能行吗？”男孩说：“能行。”于是隐士就走了。李泌找药给男孩治病，始终没治好，八九天之后男孩就死了。于是他就把男孩的尸体装在匣子里，埋在院子里蔷薇花架下。一个月过去了，那位隐士到底没回来。李泌把匣子挖出来打开一看，里边有一颗黑石，天生的方形，上面有刀刻的字：“神真炼形年未足，化为我子功相续。丞相瘗之刻玄玉，仙路何长死何促。”