上下文管理是對話式 AI 的記憶中樞，需通過技術(shù)方案（RAG、結(jié)構(gòu)化記憶）與優(yōu)化策略 （意圖過濾、動態(tài)裁剪）解決連貫性、資源消耗與準(zhǔn)確性的三角平衡問題。

聲網(wǎng)對話式 AI 引擎采用的方案是通過結(jié)構(gòu)化短期記憶+動態(tài)長期記憶注入，在保障兼容性的同時，針對實時語音交互場景（尤其中斷處理）進(jìn)行深度優(yōu)化，并賦予開發(fā)者高度靈 活的上下文控制權(quán)限。

1．短期記憶機制

短期記憶（Short-term Memory）是智能體在當(dāng)前會話中臨時保存和處理的信息空間。 用戶和對話式智能體互動期間，智能體會在短期記憶中緩存當(dāng)前對話的上下文，確保智能體 能夠連貫地理解和回應(yīng)用戶的連續(xù)輸入。

對話式 AI 引擎整體短期記憶會以 JSON 的形式存儲，遵循 OpenAI Chat Completions 的規(guī)則，同時進(jìn)行了部分的擴展。

2．短期記憶的獲取：

◇ 智能體運行期間，調(diào)用 GET 獲取智能體短期記憶接口獲取短期記憶 JSON。該接 口會得到智能體生命周期內(nèi)儲存的完整的短期記憶。

◇ 智能體停止后，聲網(wǎng)會通過消息通知服務(wù)將短期記憶回調(diào)至你的業(yè)務(wù)服務(wù)器，詳見 消息通知事件類型。

3．固化和注入長期記憶：

智能體的短期記憶會隨智能體停止而消失，你可以在智能體停止后，將短期記憶儲存到 你的服務(wù)器以固化為長期記憶，之后在創(chuàng)建智能體時通過 llm.system_messages 直接注入 原始記憶內(nèi)容或經(jīng)過總結(jié)的記憶內(nèi)容，從而實現(xiàn)在智能體退出或重啟后仍然能夠訪問和使用 這些數(shù)據(jù)。

以下示例展示了通過 system_messages 注入經(jīng)過總結(jié)的記憶內(nèi)容：