曾经立下功劳，让他以检校司空、同平章事的身份留在京城。朝廷任命李希烈为蔡州刺史、淮西留后。又任命永平节度使李勉兼任汴州刺史，增加管辖汴州、颍州二州，将节度使的治所迁移到汴州。
辛酉日，朝廷任命容管经略使王翃为河中少尹、知府事。河东副元帅留后的部将凌正横行霸道，王翃对他加以压制。凌正与他的党羽趁着夜晚发动叛乱，王翃得知了他们的阴谋，故意将计时器的漏水减少几刻，以此错开他们叛乱的时间。叛军惊慌失措，溃散逃走。王翃擒获了凌正，将他诛杀，军府这才安定下来。
成德节度使张宝臣恢复张姓之后，心中又感到不安，再次请求朝廷赐予姓氏。夏季四月癸未日，代宗再次赐予他姓李。
五月癸卯日，代宗开始生病。辛酉日，颁布制书，命令皇太子监理国政。当天晚上，代宗在紫宸内殿驾崩，留下遗诏，命令郭子仪代理冢宰之职。癸亥日，德宗即位。德宗在守丧期间，一举一动都遵守礼法。他曾经召韩王李迥前来吃饭，餐桌上只有马齿羹，没有摆放盐和乳酪。
常衮性情刚烈急躁，处理政务苛刻繁琐，不得人心。当时群臣每天早晚都要入宫哭吊代宗，常衮哭得疲惫不堪，随从的官吏有时会搀扶他。中书舍人崔佑甫指着他对众人说：“臣子在君主的灵前哭吊，有需要人搀扶的礼节吗！”常衮听到后，更加怨恨崔佑甫。恰逢群臣商议为代宗守丧的服饰制度，常衮认为：“按照礼制，臣子应当为君主服斩衰之丧，守丧三年。汉文帝创立了变通的制度，将守丧期限缩短为三十六天。高宗以来，都遵循汉代的制度。等到玄宗、肃宗驾崩时，才开始服丧二十七天。如今遗诏说：‘天下的官吏百姓，三天之后就可以脱去丧服。’古时候卿大夫是跟随君主守丧的，皇帝服丧二十七天后脱去丧服，在朝的群臣也应当按照这个标准执行。”崔佑甫认为：“遗诏中并没有区分在朝的大臣和普通百姓。朝廷内外，都是天下的臣民，凡是担任职务的人，谁不是官吏百姓呢！都应当在三天之后脱去丧服。”两人为此激烈争论，言辞声色都十分严厉。常衮难以忍受，于是上奏说崔佑甫肆意改变礼制，请求将他贬为潮州刺史。德宗认为这样的处罚太重，闰五月壬申日，将崔佑甫贬为河南少尹。
起初，在肃宗在位时期，天下事务繁多，宰相常常有好几个人，轮流值班处理政务。有时宰相们休假，各自回到家中，就下诏让值班的宰相代签其他人的名字，然后上奏朝廷。从此以后，这就成为了惯例。当时郭子仪、朱泚虽然凭借军功担任宰相，却都不参与朝政，只有常衮一人在政事堂办公，代替郭子仪、朱泚二人签名，上奏请求贬斥崔佑甫。崔佑甫被贬官之后，郭子仪、朱泚上表说崔佑甫并没有罪过。德宗问他们：“你们之前说崔佑甫应当被贬官，如今又说他没有罪过，这是为什么呢？”二人回答说，当初完全不知道这件事。德宗刚刚即位，认为常衮欺骗自己，十分震惊。甲戌日，百官身穿丧服，按照次序站立在月华门。德宗颁布制书，将常衮贬为潮州刺史，任命崔佑甫为门下侍郎、同平章事。听到这个消息的人都感到震惊。崔佑甫走到昭应县的时候，又被召回京城。不久之后，群臣为代宗守丧的服饰制度，最终还是采用了常衮的建议。
德宗当时正在守丧，各种政务都委托给崔佑甫处理，崔佑甫所说的话，德宗没有不答应的。起初，自从至德年间以来，天下战乱不断，将领们竞相论功请赏，所以官爵的授予难免出现泛滥的情况。等到永泰年间以来，天下逐渐平定，而元载、王缙执掌朝政，各地通过行贿谋求官职的人络绎不绝。官职大的，行贿要通过元载、王缙；官职小的，行贿要通过卓英倩等人。行贿的人都能按照自己的意愿得到官职。等到常衮担任宰相，想要革除这个弊端，杜绝侥幸做官的途径，各地的上奏请求，他全都不予批准。但他没有对人才进行甄别区分，导致贤能的人和平庸的人都被滞留，得不到任用。崔佑甫取代常衮担任宰相之后，想要笼络当时有声望的人，每天都不断地举荐提拔人才。他担任宰相还不到两百天，就任命了八百多名官员。常衮和崔佑甫的做法相互矫正，最终还是没有找到合适的尺度。德宗曾经对崔佑甫说：“有人诽谤你，说你任用的官员大多涉及自己的亲戚朋友，这是为什么呢？”崔佑甫回答说：“我为陛下选拔百官，不敢不审慎。如果是我平生不认识的人，我怎么能了解他的才能品行而任用他呢？”德宗认为他说得有道理。
对此，司马光说：“我听说任用人才，不应当区分亲疏、新旧的差别，只应当考察他是否贤能。如果这个人未必贤能，却因为是亲戚朋友就任用他，这当然是不公正的；如果这个人确实贤能，却因为是亲戚朋友就舍弃他，这也是不公正的。天下的贤能之士，本来就不是一个人所能全部了解的。如果一定要等到平时认识、熟知他的才能品行之后才任用他，那么所遗漏的贤能之士也太多了。古时候担任宰相的人就不是这样，他们凭借众人的举荐选拔人才，秉持公正的态度任用人才。众人都说这个人贤能，自己虽然对他了解不详细，也姑且任用他。等到他没有功绩，再将他降职罢免；如果他立下功绩，就将他提拔晋升。举荐的