Google Cloud đã chính thức đưa mô hình AI tiên tiến nhất của mình là Gemini đến các môi trường tại chỗ (on-premise) thông qua Google Distributed Cloud (GDC). Động thái này cho phép các doanh nghiệp, đặc biệt trong các lĩnh vực có quy định nghiêm ngặt, có thể khai thác sức mạnh của AI tạo sinh mà vẫn đảm bảo dữ liệu được lưu trữ và xử lý hoàn toàn trong trung tâm dữ liệu của mình.

Theo công bố ngày 10/04/2025, bản xem trước công khai (public preview) của Gemini trên GDC đã bắt đầu vào Quý 3 năm 2025. Để thực hiện điều này, Google đã hợp tác với NVIDIA để đưa các mô hình Gemini lên hệ thống NVIDIA Blackwell mà doanh nghiệp có thể mua trực tiếp từ Google hoặc các kênh phân phối ưu tiên.

Google Distributed Cloud (GDC) là giải pháp đám mây tại chỗ và biên được quản lý hoàn toàn, cung cấp các tùy chọn kết nối hoặc air-gapped (cách ly hoàn toàn khỏi mạng ngoài), có khả năng mở rộng từ một máy chủ đến hàng trăm rack. Giải pháp này giúp doanh nghiệp giải quyết bài toán về chủ quyền dữ liệu, độ trễ và tuân thủ quy định, vốn là rào cản khiến họ không thể tiếp cận công nghệ AI mới nhất trên đám mây công cộng.

NVIDIA và Google Distributed Cloud cung cấp một nền tảng AI an toàn, đưa các mô hình Gemini đến trung tâm dữ liệu doanh nghiệp và các ngành công nghiệp được quản lý chặt chẽ. Với hạ tầng NVIDIA Blackwell và confidential computing, Google Distributed Cloud tăng cường quyền riêng tư và bảo mật, đồng thời mang lại hiệu năng hàng đầu trên các hệ thống DGX B200 và HGX B200, có sẵn từ Dell.
– Justin Boitano, Phó Chủ tịch, Enterprise AI Software, NVIDIA

Gemini trên GDC: Khai phá tiềm năng AI tạo sinh ở mọi nơi

Các mô hình Gemini nổi bật với hiệu năng đột phá: khả năng phân tích ngữ cảnh hàng triệu token, xử lý đa phương thức (multimodal) bao gồm văn bản, hình ảnh, âm thanh và video, và hoạt động trên hơn 100 ngôn ngữ.

Khi triển khai trên GDC, Gemini API cho phép doanh nghiệp thực hiện các tác vụ inferencing (suy luận) mà không cần lo lắng về quản lý hạ tầng, hệ điều hành hay vòng đời mô hình. Điều này mang lại nhiều lợi ích thiết thực:

• Bổ sung ngữ cảnh kinh doanh: Sử dụng kỹ thuật RAG (Retrieval Augmented Generation) để cá nhân hóa và tăng cường đầu ra của mô hình AI, loại bỏ nhu cầu tinh chỉnh (fine-tuning) hay huấn luyện lại mô hình.
• Tự động hóa xử lý thông tin: Nâng cao hiệu suất nhân viên bằng cách dùng AI tạo sinh để tóm tắt tài liệu dài, phân tích cảm xúc trong báo cáo, hoặc thêm phụ đề cho nội dung hình ảnh, âm thanh, video.
• Tạo trải nghiệm hội thoại tương tác: Xây dựng mối quan hệ khách hàng sâu sắc hơn thông qua các agent hỗ trợ khách hàng, chatbot ngôn ngữ tự nhiên và trợ lý cho nhân viên được vận hành bởi Gemini.
• Tùy chỉnh agent cho ngành đặc thù: Phát triển các agent chuyên biệt cho các quy trình công việc phức tạp, từ cố vấn tài chính, trợ lý bảo mật đến robot.

Gemini trên Google Distributed Cloud sẽ cho phép ServiceNow tăng cường các khả năng AI tác tử mạnh mẽ như lý luận trong các hệ thống hiện có của chúng tôi thông qua các API mạnh mẽ. Việc triển khai chiến lược này cho phép chúng tôi khám phá và thực hiện những tiến bộ tiên tiến trong khi vẫn duy trì cam kết về sự tin cậy của khách hàng và bảo vệ dữ liệu.
– Pat Casey, Giám đốc Công nghệ & Phó Chủ tịch Điều hành DevOps, ServiceNow

Vertex AI: Một nền tảng thống nhất cho cloud và on-premise

Bên cạnh Gemini, khách hàng cũng được hưởng lợi từ nền tảng Vertex AI trên GDC, giúp tăng tốc phát triển, triển khai và quản lý các ứng dụng agentic (ứng dụng có tính tác tử).

Nền tảng AI hoàn chỉnh này cung cấp:

• API được huấn luyện trước: Các API sẵn sàng sử dụng, tối ưu hóa cho từng tác vụ như dịch thuật, chuyển giọng nói thành văn bản (speech-to-text), và nhận dạng ký tự quang học (OCR).
• Công cụ xây dựng AI tạo sinh: Hỗ trợ các mô hình mã nguồn mở và bên thứ ba với khả năng inferencing được tối ưu hóa trên GKE, mang lại tốc độ khởi động nhanh và tự động co giãn.
• RAG (Retrieval Augmented Generation): Khả năng grounding (neo dữ liệu vào nguồn tin cậy) sử dụng Google Agentspace search và quản trị LLM API bằng Apigee on-prem.
• API embedding và cơ sở dữ liệu vector AlloyDB tích hợp: Tạo ra các ứng dụng mạnh mẽ cho cá nhân hóa và đề xuất, cải thiện trải nghiệm người dùng.

Với Google Distributed Cloud, Vertex AI và Agentspace search, chúng tôi sẽ trao quyền cho các nhà đổi mới của Home Team bằng một nền tảng AI/ML an toàn và tìm kiếm hợp nhất, cho phép sử dụng AI để nâng cao năng suất và chuyển đổi an toàn công cộng vì một tương lai an toàn và bảo mật hơn.
– Chee Wee Ang, Giám đốc AI, HTX

Google Agentspace: Truy cập hợp nhất dữ liệu on-premise

Một trong những thách thức lớn nhất của doanh nghiệp khi triển khai AI tạo sinh là kết nối các nguồn thông tin bị phân mảnh trên nhiều kho lưu trữ và định dạng khác nhau. Để giải quyết vấn đề này, Google đã công bố Google Agentspace search trên GDC, với bản xem trước công khai bắt đầu từ Quý 3 năm 2025.

Agentspace search cung cấp cho nhân viên tri thức khả năng truy cập hợp nhất vào toàn bộ dữ liệu của doanh nghiệp một cách an toàn và có kiểm soát quyền truy cập. Các tính năng chính bao gồm:

• Agent tìm kiếm đa phương thức: Giao diện tìm kiếm dạng hội thoại có thể trả lời các câu hỏi phức tạp dựa trên thông tin độc nhất của công ty.
• Trình kết nối dữ liệu doanh nghiệp có sẵn: Các trình kết nối để đánh chỉ mục (index) dữ liệu từ các hệ thống on-premise phổ biến như Confluence, Jira, ServiceNow và Sharepoint.
• Kết quả tìm kiếm nhận biết quyền truy cập: Thực thi danh sách kiểm soát truy cập (ACL) mạnh mẽ để đảm bảo kết quả tìm kiếm tuân thủ quyền hạn, duy trì bảo mật cho tất cả dữ liệu on-premise.

Để bắt đầu hành trình đưa Gemini và AI tạo sinh về trung tâm dữ liệu của mình, các doanh nghiệp có thể liên hệ với đội ngũ kinh doanh của Google Cloud hoặc các đối tác toàn cầu được công nhận.