后来的几年对于拉贝来说就像恶梦一般。他的寓所被炸毁，苏军占领柏林又使拉贝一贫如洗。厄休拉·莱因哈特说，他们一家之所以能生存下来，是因为他们住在柏林由英国人占领的部分，而不是苏军占领区。拉贝仍然断断续续地为西门子公司工作，把经济信函译成英文。但微薄的薪水仅能维持一家人的生存。
在战争刚刚结束的一段时期，拉贝遭到了很多愤怒的指责。首先，他被苏联人逮捕，在弧光灯前被审讯了三天三夜。然后，他又被英国人抓去折磨了一整天，但后来发给他一个工作许可证。(这个许可证对拉贝来说用处不大，因为西门子公司还没有给他一个长期职位。)最后的羞辱是因为一位熟人的告发，他被卷入了一场旷日持久的“非纳粹化”的过程中。他必须支付辩护费用，在这期间，他还失去了工作许可证，耗尽了积蓄和精力。拉贝一家挤住在一间小屋里，忍受着饥饿和寒冷，拉贝还不得不把他收集的心爱的中国工艺品一件件地卖给美军，以换取豆子、面包和肥皂。营养不良使他患了皮肤病，而悲哀和压力更是摧垮了他的身体。在南京，拉贝是一个传奇，而在德国，拉贝是一个垂死的人。
拉贝日记中的这段摘录表明了他在1945-1946年间的精神状态：
西门子公司没有我的工作--我失业了......根据军政府的规定，我必须持我的基本生活保险单到施潘道区(柏林西北部的一个区--译注)的城市商业银行登记。我工作多年积蓄的1027多镑(总共5000镑的剩余部分)都在格雷特(马格丽特·拉贝之女)的手中，我想，这笔钱已经没有了。
上个星期天，我和妻子(多拉·拉贝)呆在克桑滕大街(拉贝被炸毁的寓所所在地)。有人打坏了地窖的门，把我的打字机、收音机和其他东西偷走了!
现在多拉只有44公斤重--我们都已经十分虚弱了。夏天就要过去了--冬天会带来什么呢?从哪里能找到燃料、食物和工作?我眼下正翻译田伯烈(Timpe-ley，英国《曼彻斯特卫报》驻华记者。--译注)的《战争意味着什么》(中译本名为《外人目睹中之日军暴行》--译注)。但现在还不会有收入。或许，我应当弄一个更好的食品供应卡，......所有像我们这样的德国人都有了。
我们在不断地忍受饥饿--我没什么可说的，也没有什么要写的。除了那点可怜的食品，只能嚼些橡子面粥。秋天的时候，妻子悄悄地收集了这些橡子。现在，口粮已经没有了，我们只能天天吃带刺的荨麻，它的嫩叶吃起来很像菠菜。
昨天，我要求非纳粹化的请求被拒绝了。作为南京安全区国际委员会的主席，我曾拯救了25万中国人的生命，但我的请求还是被拒绝，因为我曾当过短期南京德国国家社会主义工人党的领导，而像我这样有头脑的人本不应加入该党的。我还要请求……如果他们不给我在西门子公司工作的机会，我不知凭什么能活下去。我必须斗争--可我太累了。现在我还要每天接受警察的讯问。
如果我在中国听说过任何纳粹的暴行，我不会加入国社党，如果我作为一个德国人与任何在南京的外国人的观点不同，像英国人、美国人、丹麦人等等，我不可能当上安全区国际委员会的主席!在南京，对于数十万人来说，我是“菩萨”，可在这里，我是“贱民”，是无家可归的人。噢，但愿想家的愿望就能治愈我的创伤!
6月3日，英国人所在的夏洛滕堡区(柏林的一个区--译注)非纳粹委员会终于给我免除了纳粹的罪名。判决为：“尽管你是德国国家社会主义工人党南京区的代理领导人，回到德国后也没有退出这一组织(厄休拉·莱哈特指出，拉贝如果这么做会被杀害)，但鉴于你在中国出色的人道主义工作，委员会决定接受你的请求”，等等。
这样，精神的折磨终于有了尽头。很多朋友和西门子公司的负责人们都业祝贺我，公司还让我休假，以恢复我的疲劳。
今天，多拉带着我们的一个中国木像去看常常给我们送食物的克雷布斯博士，他很喜欢这个木像。孔(拉贝的一个中国朋友--译注)作为礼物送给我们的地毯，我们送给了托依普弗夫人，她曾送给我们300多个土豆。
1948年，拉贝的遭遇传到了南京。当南京政府告知南京人民拉贝需要帮助的时候，反响极大，让人联想起弗兰克·尤普拉的经典电影《这是一个伟大的一生》的结尾。几天之内，大屠杀的幸存者就为拉贝募集了1亿元中国币，大约相当于当时的2000美元--这在1948年可不是个小数字。当年3月，南京市长来到瑞士，购买了大量的奶粉、香肠、茶叶、咖啡、牛肉、黄油和果酱，用4个大包裹将这些食品寄给了拉贝。自1948年6月到1949年中国人民解放军进入南京，南京人民每月都给拉贝寄一包食品，以表达他们对拉贝在南京国际安全区所做的一切的衷心感谢之情。国民党政府还指出，如果拉贝愿意返回中国，将为他提供住房和终身养老金。
对拉贝及其家人来说，这些包裹仿佛从天而降。1948年6月，从拉贝的几封信中，南京人民才得知拉贝是多么需要他们的帮助，这些信至今还保存在中国的档案馆里。国在那些包裹到达之前，拉贝一家采集野菜，煮成汤让孩子们吃，大人则凭着一点干面包维持生命。当拉贝给南京写信时，柏林的市场上连面包都没有了，这也使那些包裹更加宝贵。拉贝一家对南京人民的支持十分感激，拉贝也在信中说，南京人民的这一举动使他恢复了对生命的信心。
1950年，拉贝死于中风。去世前，他留下了一份记录他在中国工作情况的文字遗产：2，000多页关于南京暴行的材料，这些材料都由拉贝进行了打印、排序和装订，甚至还有图片说明。这些材料包括：拉贝及其他外国人的目击报告、报刊文章、广播消息、电报及屠杀的照片。无疑，拉贝已认识到这些记录的历史价值，或许，他已预见到这些材料会在未来出版。拉贝去世10年后，厄休拉·莱因哈特的母亲从拉贝的文件中发现这些材料，并把这些材料交给莱因哈特。可惜不是时候：当时的莱因哈特已经怀孕，又忙于学校的考试；更重要的是，她害怕日记中那些可怕的内容。莱因哈特委婉地拒绝保存，拉贝的儿子奥托·拉贝博士则继承了这些文件。这些材料在他的手中保存了半个多世纪，一直不为世人知道，甚至连德国的历史学家也全然不知。