Ngày 09/07/2025, Google Cloud đã công bố bản xem trước (public preview) của Memory Bank, một dịch vụ được quản lý mới trong bộ công cụ Vertex AI Agent Engine. Giải pháp này giải quyết một trong những thách thức lớn nhất của AI agent hiện nay: thiếu bộ nhớ dài hạn, giúp doanh nghiệp xây dựng các trợ lý ảo có khả năng ghi nhớ và cá nhân hóa tương tác với người dùng một cách tự nhiên và liền mạch.

Thách thức của AI Agent không có “trí nhớ”

Hiện nay, các nhà phát triển đang nỗ lực đưa các AI agent vào ứng dụng thực tế, nhưng một hạn chế phổ biến là chúng không có khả năng ghi nhớ. Nếu không có bộ nhớ, agent sẽ xem mỗi tương tác như lần đầu tiên, dẫn đến việc lặp lại câu hỏi và không thể nhớ được các tùy chọn của người dùng. Sự thiếu nhận thức về ngữ cảnh này khiến agent khó có thể cá nhân hóa trải nghiệm, gây thất vọng cho cả người dùng và lập trình viên.

Một phương pháp phổ biến để giải quyết vấn đề này là tận dụng cửa sổ ngữ cảnh (context window) của mô hình ngôn ngữ lớn (LLM). Tuy nhiên, việc đưa toàn bộ lịch sử hội thoại vào context window vừa tốn kém chi phí inference, vừa không hiệu quả về mặt tính toán, làm chậm thời gian phản hồi. Hơn nữa, khi lượng thông tin đưa vào LLM tăng lên, đặc biệt là các chi tiết không liên quan, chất lượng đầu ra của mô hình sẽ giảm đáng kể, dẫn đến các vấn đề như “lạc trong đoạn giữa” (lost in the middle) và suy giảm chất lượng ngữ cảnh.

Memory Bank: Giải pháp bộ nhớ dài hạn cho AI Agent

Memory Bank được thiết kế để giải quyết các vấn đề về bộ nhớ theo bốn cách chính, mang lại giá trị kinh doanh rõ rệt:

• Cá nhân hóa tương tác: Vượt qua các kịch bản chung chung. Agent có thể ghi nhớ sở thích, các sự kiện quan trọng và lựa chọn trong quá khứ của người dùng để điều chỉnh mọi phản hồi.
• Duy trì tính liên tục: Tiếp nối các cuộc hội thoại một cách liền mạch tại điểm dừng trước đó, ngay cả khi đã qua nhiều ngày hoặc nhiều tuần.
• Cung cấp ngữ cảnh tốt hơn: Trang bị cho agent những thông tin nền tảng cần thiết về người dùng, giúp đưa ra các câu trả lời phù hợp, sâu sắc và hữu ích hơn.
• Cải thiện trải nghiệm người dùng: Loại bỏ sự phiền toái khi phải lặp lại thông tin, tạo ra các cuộc trò chuyện tự nhiên, hiệu quả và hấp dẫn hơn.

Memory Bank được tích hợp với Agent Development Kit (ADK) và Agent Engine Sessions. Doanh nghiệp có thể sử dụng Memory Bank để quản lý bộ nhớ cho agent, kể cả khi sử dụng các framework khác như LangGraph và CrewAI.

Cách thức hoạt động của Memory Bank

Memory Bank hoạt động dựa trên một quy trình thông minh và tự động hóa cao:

1. Hiểu và trích xuất ký ức từ tương tác: Sử dụng các mô hình Gemini, Memory Bank phân tích lịch sử hội thoại của người dùng với agent (được lưu trong Agent Engine Sessions) để trích xuất các dữ kiện, sở thích và ngữ cảnh quan trọng, từ đó tạo ra ký ức mới. Quá trình này diễn ra bất đồng bộ ở chế độ nền, không yêu cầu doanh nghiệp phải xây dựng các pipeline trích xuất phức tạp.
2. Lưu trữ và cập nhật ký ức thông minh: Các thông tin quan trọng—ví dụ: “Nhiệt độ ưa thích của tôi là 22 độ C” hoặc “Tôi thích ghế cạnh lối đi trên máy bay”—được lưu trữ bền bỉ và sắp xếp theo phạm vi do bạn xác định, chẳng hạn như theo ID người dùng. Khi có thông tin mới, Memory Bank (sử dụng Gemini) có thể hợp nhất nó với các ký ức hiện có, giải quyết các mâu thuẫn và giữ cho bộ nhớ luôn được cập nhật.
3. Truy xuất thông tin liên quan: Khi người dùng bắt đầu một cuộc trò chuyện mới, agent có thể truy xuất các ký ức đã lưu này. Đây có thể là một truy vấn đơn giản để lấy tất cả dữ kiện hoặc một tìm kiếm tương đồng nâng cao (sử dụng embeddings) để tìm các ký ức phù hợp nhất với chủ đề hiện tại, đảm bảo agent luôn được trang bị đúng ngữ cảnh.

Toàn bộ quy trình này dựa trên phương pháp nghiên cứu mới của Google Research (đã được chấp nhận tại hội nghị ACL 2025), cho phép agent học hỏi và gợi lại thông tin một cách thông minh theo chủ đề, thiết lập một tiêu chuẩn mới về hiệu năng bộ nhớ của agent.

Ví dụ thực tiễn: Trợ lý tư vấn mỹ phẩm

Hãy tưởng tượng bạn là một nhà bán lẻ trong ngành làm đẹp. Bạn có một trợ lý cá nhân được trang bị bộ nhớ để đề xuất sản phẩm và quy trình chăm sóc da.

Như minh họa trong sơ đồ, agent có thể ghi nhớ loại da của người dùng (duy trì ngữ cảnh) ngay cả khi nó thay đổi theo thời gian và có thể đưa ra các đề xuất được cá nhân hóa. Đây chính là sức mạnh của một agent có trí nhớ dài hạn.

Bắt đầu với Memory Bank

Doanh nghiệp có thể tích hợp Memory Bank vào agent của mình theo hai cách chính:

• Phát triển agent với Google Agent Development Kit (ADK) để có trải nghiệm tích hợp sẵn.
• Phát triển agent điều phối các lệnh gọi API đến Memory Bank nếu bạn đang xây dựng agent của mình bằng bất kỳ framework nào khác.

Đặc biệt, Google Cloud đã giới thiệu chế độ đăng ký nhanh (express mode) cho Agent Engine Sessions và Memory Bank. Các lập trình viên có thể đăng ký bằng tài khoản Gmail để nhận khóa API, sau đó xây dựng và thử nghiệm agent trong hạn mức sử dụng miễn phí trước khi nâng cấp lên một dự án Google Cloud đầy đủ cho môi trường production. Để biết thêm chi tiết, doanh nghiệp có thể tham khảo hướng dẫn sử dụng chính thức và các ví dụ trên kho lưu trữ GitHub của Google Cloud.