一位网友逆向破解了 ChatGPT 记忆系统,意外的简洁

开发者Manthan Gupta逆向破解发现ChatGPT记忆系统采用四层架构:会话元数据、用户记忆、近期对话摘要和滑动窗口;系统未使用向量数据库或RAG检索,而是通过预生成的轻量级摘要和显式保存的结构化信息实现”记住用户”的效果;GPT-4最大上下文窗口为128k token,超出后最前面的内容会被遗忘,用户可随时要求模型删除或修改记忆内容。

搜索