编译 | Vendii裁剪 | 漠影西野翔

智东西9月25日音信，据TechCrunch本周一报谈，MemGPT团队初度官宣创业。由该团队创立的Letta公司，推出了一个同名的AI凹凸文内存照看平台Letta。

最近2年，诳言语模子快速发展，但受到凹凸文窗口长度的结果，导致它在多轮对话和文档分析等任务中的适用性较差。

针对这个问题，Letta提倡了诬捏凹凸文照看，这是一个可用在Agent居品中的内存照看平台，可让诳言语模子能在有限凹凸文窗口以外使用更多的凹凸文。

此外，它还通过将大模子的策画和用户的数据分辨，让开辟者不错无邪地在不同模子提供商之间切换。

Letta平台的前身是加州大学伯克利分校的一个盘问神气MemGPT。早在客岁10月，MemGPT神气在施展发布论文和代码之前，仅凭一份白皮书就赶紧走红。该神气施展发布在GitHub上后，很快就收到11000个星标和1200个Fork。这诠释诳言语模子凹凸文内存照看一直是AI领域中的痛点问题。

Letta公司由加州大学伯克利分校的实验室Sky Computing Lab孵化而成，由伯克利的博士生Sarah Wooders和Charles Packer于本年创立。该公司当今照旧得到了1000万好意思元的种子资金，估值达7000万好意思元，投资东谈主包括硅谷大佬Jeff Dean。

官网地址：https://www.letta.com/

在夙昔的一年中，AI Agent成为了AI领域的新趋势。这些AI Agent不仅能为用户考虑任务、进行推理，还能实践复杂的多模范任务。

同期，基于诳言语模子构建的讹诈模范正在变得越来越复杂。它们不再仅限于生成聊天音信，还或者调用用具、辘集外部数据源、与其他AI Agent通讯，以致进行多模范推理。

关联词，传统的AI讹诈模范常常短缺巨大的情景回首和屡次交互的一语气性。这就像是和独一8秒回首的金鱼聊天：你问它答，但进行了几轮对话后，它就把最开动的对话现实全忘光了，不可笔据之前的对话现实来给你更连贯的回答。

这种“片时的回首”结果了AI在进行复杂一语气推理时的智商。这种短期回首的局限西野翔，使得模子在处理需要永久凹凸文的任务时显过劲不从心。

这恰是Letta平台致力于于于照看的问题，它提供了一个用于诳言语模子的凹凸文内存照看平台。

它将大模子的凹凸文分为主凹凸文（Main Context）和外部凹凸文（External Context），其中，主凹凸文模子不错径直打听和操作，外部凹凸文则用于存储不立即需要但可能在改日需要的信息。

Letta通过特定的内存照看算法，详情什么时候以及通过什么样子在主凹凸文和外部凹凸文之间移动信息。

此外，Letta平台不错与任何AI模子兼容，保证开辟者或者在数据不丢失的前提下解放更换模子行状，比如OpenAI、Anthropic、Mistral的模子，以及他们自家的模子。

更蹙迫的是，Letta坚握将神气开源，并称开源是AI讹诈模范开辟者的更佳选用。闭源模子的API将遏止开辟者看到与其推理模范关连的任何模子输出。

“咱们将我方定位为开源版的‘OpenAI’，”Packer说，“我合计，淌若开辟东谈主员看不到AI模子里面发生了什么，尤其是濒临AI幻觉问题的时候；对他们来说，要构建出颠倒好的AI讹诈，口角常繁重的。”

加州大学伯克利分校的实验室Sky Computing Lab（以下简称为“Sky Lab”）由知名诠释注解Ion Stoica训诫。该实验室是RISELab和AMPLab的延续。RISELab和AMPLab也曾孵化了云策画公司Databricks、散播式策画公司Anyscale和半导体公司SiFive等。

Sky Lab孵化了很多诳言语模子神气，如Gorilla LLM、vLLM和SGLang。

“在短短一年时间内，实验室就涌现了多数神气。而这些项认识负责东谈主就坐在咱们掌握，”Letta公司的首创东谈主之一Wooders说谈，“是以这一年确切是不可念念议。”

MemGPT等于这批神气中的其中一个。它在施展发布前仅凭借一份白皮书，就在互联网上引起了普通神志。

该项认识首创东谈主之一Packer在收受TechCrunch采访时清楚谈，他们在2023年10月12日发布了该项认识白皮书，并考虑鄙人周一将更详备的论文和代码发布到GitHub上。然则，不知谈是谁在周日就将白皮书发布到了Hacker News上，导致MemGPT立马在Hacker News上赶紧走红。

发布白皮书的帖子的热度保握了整整48小时，Packer回忆谈。在接下来的几天里，他一直在Hacker News上回答网友问题，同期抽时间准备发布代码。

其后，MemGPT在GitHub上施展发布没多久，它的一语气再次在Hacker News上病毒式传播。YouTube上的访谈和教程、Medium上的帖子……以及GitHub上的11000个星标和1200个Fork延绵不息。

来自风投公司Felicis的Myers亦然通过阅读对于MemGPT的著作发现了Wooders和Packer，独立即意识到这项技艺的生意后劲。

她告诉TechCrunch，她看完MemGPT的论文就立马接洽了首创东谈主。

“咱们有一个围绕AI Agent基础顺序的投资主题，并意识到数据和内存照看是使这些会话聊天机器东谈主和AI Agent有用的蹙迫构成部分。”

同期，Sky Lab的诠释注解Stoica也为Wooders和Packer引荐了谷歌的Jeff Dean、Hugging Face的Clem Delangue、Runway的Cristóbal Valenzuela以及Anyscale的Robert Nishihara等硅谷知名的天神投资东谈主。

“伯克利的很多诠释注解因为身处伯克利，彼此关系密切，”对于得到投资的顺利经过，Packer回忆谈，“这些诠释注解时刻神志真实验室里有可能生意化的神气。”

GitHub神气地址：https://github.com/cpacker/MemGPT

诚然Letta神气从一开动就受到了极大的神志，并诱骗了如Jeff Dean这么的硅谷AI大佬注资，不外，它濒临的竞争也不小。

比如，LangChain就在作念相似的事情，而况照旧开动赢利了。

此外，OpenAI推出的最新模子o1，可能会让AI凹凸文“失忆”的问题变得卑不足谈。看成一个多模范推理模子，o1在回话前本就需要保握一定的现象，以便于进行“念念考”和事实核查。

起首：TechCrunch、Letta官网西野翔