一款能记住你的日记运行 LangFriend

本文经翻译并二次整顿自LangFriend: a Journal with Long-Term Memory一文。讲述了LangChain在模型记忆性能方面启动的一次性深化的运行实战，并推出了具有记忆才干的日记运行-LangFriend。

咱们坚信，记忆性能将是大型言语模型（LLM）系统中最具后劲的一局部。生成性AI的魅力在于它能即时发明共同的内容，这在共性化用户体验方面展现出渺小后劲。这种共性化可以经过应用已有的用户信息来成功，也可以经过记住用户之前的互动并从中学习来达成。

正是这种“记忆”性能，让咱们充溢探求的激情。咱们置信，随着用户与LLM之间互动的增多，聊天机器人将成为LLM运行的关键方式。这象征着在这些对话中，将替换更多有价值的用户信息，比如团体的喜好、好友相关和指标等。了解这些信息，并将它们融入到运行中，将极大地优化用户体验。

在探求记忆的环节中，咱们以为经过一个详细的例子来激起咱们的上班是十分有协助的。咱们选用了日记运行作为这个例子，并将其命名为“LangFriend”，当天正式向大家引见。虽然它还只是一个初步的钻研版本，但咱们宿愿搜集大家的反应，找出好处和改良空间，最终将其开源。

在本文中，咱们将探讨一些对于记忆的学术钻研，以及其余公司在这方面的翻新上班。咱们还将详细引见咱们的日记运行及其性能。假设你对记忆技术感兴味，欢迎咨询咱们。

学术钻研

咱们发现了两篇对咱们的上班颇有启示的学术论文。

大型言语模型（LLMs）曾经彻底扭转了 AI，但遭到有限高低文窗口的限度，阻碍了它们在像裁减对话和文档剖析这样的义务中的适用性。为了在有限的高低文窗口之外经常使用高低文，咱们提出了虚构高低文治理，一种从传统操作系统中的档次记忆系统失掉灵感的技术，它经过在物理内存和磁盘之间分页提供裁减虚构内存的幻觉。经常使用这种技术，咱们引入了 MemGPT（MemoryGPT），一个系统，它智能地治理不同的存储档次，以有效地在 LLM 的有限高低文窗口内提供裁减高低文。

其次是Generative Agents。。斯坦福大学的钻研者们经过反思阅从来构成记忆，并将这些记忆存储起来，以便在须要时程序性地检索。

咱们经过消融展现了咱们代理架构的组成局部——观察、布局和反思——每一个都对代理行为的可信度做出了关键奉献。经过将大型言语模型与计算交互代理融合，这项上班引入了架构和交互形式，以成功人类行为的可信模拟。

这两篇论文展现了LLM在被动经常使用记忆和作为背景环节两种不同方式的运行。

业界灵活

一些公司在记忆技术上取得了清楚停顿。

Plastic Labs 正在开发像 TutorGPT 这样的名目，这是一个灵活的、以心智实践为基础的教学辅佐工具。

Good AI 最近开源了一个带有常年记忆性能的聊天助手Charlie。这个助手不只能够记住用户的交互，还能在必要时检索和整合这些记忆，以提供愈加共性化的服务。

乍一看，Charlie 或者与现有的 LLM 代理如 ChatGPT、Claude 和 Gemini 相似。但是，其共同的特点是成功了 LTM，使其能够 从每次交互中学习 。这包括 将用户信息、助手回应和环境反应存储和整合到 LTM 中，以便在与手头义务相关时检索。

OpenAI 也在其 ChatGPT 中参与了记忆性能，进一步优化了用户体验。

这些公司的做法展现了记忆性能可以是LLM被动调用的一局部，也可以是智能运转的背景环节。

为何选用日记运行？

咱们在寻觅一个适宜测试常年记忆用例时，立刻想到了日记运行。咱们以为，与个别聊天运行相比，日记中的互动蕴含更多值得记忆的信息。

在个别聊天运行中，或者充满着许多有关紧要的交流，比如“嘿！”、“嗨”、“怎样样？”等。而在日记的环境中，人们更快地分享实在而深入的感触和见地。

虽然如此，咱们还是为这个运行减少了聊天性能。这关键是为了展现咱们的运行能够学习和记住用户的信息，并应用这些信息为用户提供共性化的回应。

在这里，你可以看到运行记住了我青睐意大利菜，以及我在锻炼后感到有气无力的信息。

运行界面截图

当你宣布了第一篇日记并与咱们的助手启动交流后，你会在导航栏中看到一个“记忆”按钮。点击它，你将看到咱们从你的日记中提取的一切关键记忆。

记忆列表界面截图

你会留意到，这个列表并不长，只蕴含了最关键的理想。实践上，咱们在后盾从你的日记中提取了更多的信息，并且你可以搜查一切的记忆！

开局在“搜查记忆...”输入框中输入关键词，你将实时看到LangFriend为你保管的各种理想：

搜查记忆界面截图

共性化设置

咱们宿愿LangFriend能够吸引各种用户。因此，咱们准许用户自定义系统信息，这是与咱们的助手启动一切聊天的前缀和基调。咱们提供了一个自动设置，但假设你想要一些不同的物品，你可以依据自己的喜好启动调整。

找到系统提醒，访问“日志”页面并点击“性能”按钮启动更改。这里会弹出一个对话框，你可以在这里编辑你的系统提醒。

性能界面截图

一切更改都将在会话之间保管，并将成为你未来一切聊天对话的前缀。

总结

LangFriend是一个充溢后劲的钻研预览版，它展现了将常年记忆整合到LLM运行中的渺小后劲。经过专一于日记运行，咱们旨在捕捉用户的无心义信息，提供共性化的回应，从而增强用户体验。遭到学术钻研和业界翻新的启示，LangFriend证实了记忆可以被踊跃地经常使用，也可以作为背景环节整合出去，发明出引人入胜、能够顺运行户需求的交互体验。咱们很兴奋地约请社区来体验LangFriend，提供反应，并与咱们一同推进LLM运行中记忆技术的边界，监禁生成性AI的所有后劲，为用户带来更弱小、更共性化、更无心义的体验。