Cách nhìn đơn giản của tôi về các vấn đề liên quan đến đại lý là tất cả hiệu suất trên các mô hình đều đến từ ngữ cảnh, vì vậy bạn cần cung cấp cho nó quyền truy cập vào tất cả dữ liệu của bạn, những dữ liệu nhạy cảm nhất, nhiều hơn những gì bạn từng nghĩ là OK để chia sẻ trước đây và điều đó có nghĩa là bạn sẽ muốn tự lưu trữ ở quy mô lớn.

bạn sẽ bắt đầu bằng cách tự lưu trữ hạ tầng VM / bí mật, để thực hiện các nhiệm vụ lớn hơn, bạn sẽ chuyển sang máy chủ vật lý, và sau đó khi bạn bắt đầu cảm thấy không thoải mái về các mô hình lớn, bạn sẽ mua một cụm GPU và tự lưu trữ các mô hình đã được tinh chỉnh tốt cho 90% các nhiệm vụ của bạn

khi mọi thứ trở nên tồi tệ, bạn sẽ muốn có nhật ký kiểm toán, cảnh báo, giới hạn phạm vi thiệt hại, tất cả những thứ đó.

vì vậy đây không phải là một vấn đề "kỹ thuật AI", đây là một vấn đề hạ tầng doanh nghiệp / zerotrust rất rất truyền thống!