Trao quá nhiều quyền cho AI, người dùng có nguy cơ mất dữ liệu
(Dân trí) - AI đang dần chuyển sang đọc email, đặt vé và mua hàng thay con người. Chuyên gia cảnh báo việc trao quyền quá rộng có thể khiến AI thực hiện những hành động ngoài ý muốn trên tài khoản thật.
Khi AI bắt đầu làm việc thay con người
Thay vì tự tìm vé máy bay, so sánh giá và điền thông tin đặt chỗ, người dùng có thể giao những công việc này cho một trợ lý AI. Hệ thống tự tìm kiếm, lựa chọn phương án phù hợp và chỉ quay lại hỏi khi cần xác nhận.
Đây là hướng phát triển của Muse, trợ lý AI cá nhân được Meta giới thiệu vào tháng 9. Khác với chatbot thông thường, Muse có thể trực tiếp sử dụng trình duyệt, điền biểu mẫu, gửi email, mua hàng và xử lý nhiều công việc trực tuyến, ngay cả khi người dùng đã đóng ứng dụng.
Muse của Meta có thể thay người dùng thực hiện nhiều công việc trực tuyến như đọc email, đặt vé, mua hàng và điền biểu mẫu (Ảnh: Future).
Trong trải nghiệm được TechRadar đăng tải, nhà báo Lance Ulanoff đặt tên cho trợ lý Muse của mình là Charlie và cấp quyền truy cập Gmail cá nhân.
Khi được hỏi liệu có bỏ sót email quan trọng nào không, Charlie tìm ra ba thư đáng chú ý, trong đó có thông tin về một sản phẩm công nghệ chưa công bố.
AI không chỉ tóm tắt nội dung mà còn giúp ông soạn thư phản hồi. Sau khi được yêu cầu chỉnh sửa bản nháp, Muse tiếp tục hoàn thiện và gửi email theo chỉ dẫn.
Ở một tình huống khác, dù Ulanoff nhập sai tên người liên hệ, Muse vẫn tìm được email chứa địa điểm và thông tin đỗ xe cho một sự kiện mà ông sắp tham dự.
Khác với chatbot thông thường, AI agent có thể trực tiếp thao tác trên các tài khoản được cấp quyền thay vì chỉ đưa ra hướng dẫn (Ảnh: Future).
Trao đổi với phóng viên Dân trí, chuyên gia an ninh mạng Ngô Minh Hiếu (Hiếu PC) nhận định điểm thay đổi lớn nhất của AI agent là khả năng trực tiếp hành động thay người dùng, thay vì chỉ đưa ra câu trả lời.
Khi AI được trao quyền đọc email, truy cập website hoặc thực hiện giao dịch, rủi ro không còn dừng ở việc cung cấp thông tin sai lệch mà có thể dẫn đến những hành động ngoài ý muốn trên tài khoản thật.
Nguy cơ khi trao quá nhiều quyền cho AI
Để trở thành trợ lý cá nhân, AI cần hiểu lịch trình, sở thích và những thông tin riêng tư của chủ nhân.
Một AI biết lịch làm việc có thể tìm chuyến bay phù hợp. Nếu được truy cập email, nó có thể phát hiện những cuộc hẹn bị bỏ quên. Khi biết kích cỡ quần áo và thói quen mua sắm, AI cũng có thể lựa chọn sản phẩm sát nhu cầu hơn.
Việc cấp quyền truy cập email cho AI có thể khiến nhiều thông tin cá nhân và dữ liệu nhạy cảm đứng trước nguy cơ bị lộ nếu hệ thống bị khai thác (Ảnh: Viết Huy).
Tuy nhiên, theo ông Hiếu, rủi ro lớn nhất nằm ở việc người dùng trao quyền truy cập quá rộng.
Nếu AI được phép đọc, gửi hoặc xóa email, một câu lệnh bị hiểu sai có thể khiến hệ thống thực hiện hành động ngoài ý muốn. Nguy hiểm hơn, kẻ tấn công có thể cài chỉ dẫn độc hại trong email, website hoặc tài liệu mà AI đọc để tìm cách điều khiển hành vi của nó.
Hình thức này được gọi là prompt injection, tức tấn công bằng cách đưa chỉ dẫn độc hại vào nguồn thông tin mà AI tiếp nhận.
Chuyên gia gọi tình trạng AI được trao quá nhiều chức năng, quyền hạn hoặc khả năng tự chủ là "Excessive Agency".
Chuyên gia an ninh mạng cảnh báo AI có thể bị lợi dụng để thực hiện những hành động ngoài ý muốn khi được trao quá nhiều quyền hạn (Ảnh: Future).
Về phía Meta, hãng cho biết Muse hoạt động trong một môi trường máy tính riêng trên đám mây. Thông tin đăng nhập được lưu trong khu vực bảo mật và AI không trực tiếp nhìn thấy mật khẩu.
Hệ thống cũng có cơ chế yêu cầu xác nhận trước những hành động nhạy cảm như gửi email hoặc mua hàng. Người dùng có thể xem lịch sử hoạt động, thay đổi hoặc thu hồi quyền truy cập.
Hiếu PC đánh giá những biện pháp như máy ảo riêng, kho lưu thông tin đăng nhập, thẻ thanh toán dùng một lần và nhật ký hành động là các lớp bảo vệ cần thiết. Tuy nhiên, không có cơ chế bảo mật nào tuyệt đối, đặc biệt khi AI vẫn có thể bị đánh lừa bởi những nội dung mà nó tiếp nhận.
Những việc nào không nên giao toàn quyền cho AI?
Theo Hiếu PC, người dùng có thể để AI tự thực hiện những công việc ít rủi ro và dễ hoàn tác như tìm chuyến bay, so sánh giá, điền thông tin hoặc chuẩn bị đơn hàng.
Ngược lại, những thao tác như thanh toán, chuyển tiền, gửi email, xóa dữ liệu, thay đổi mật khẩu hoặc cấp quyền truy cập mới cần có bước xác nhận cuối cùng của con người.
Chuyên gia khuyến nghị áp dụng nguyên tắc quyền tối thiểu cần thiết. Nếu chỉ cần AI tìm kiếm email, người dùng không nên cấp thêm quyền gửi hoặc xóa thư. Tương tự, việc tìm vé máy bay không đòi hỏi AI phải có quyền thanh toán.
Người dùng nên trực tiếp xác nhận những thao tác quan trọng như thanh toán, chuyển tiền hoặc thay đổi mật khẩu, thay vì giao toàn quyền cho AI (Ảnh: Dân trí).
Đối với tài khoản ngân hàng, email công việc, dữ liệu nhạy cảm và tài khoản quản trị, người dùng cần đặc biệt thận trọng, đồng thời thường xuyên kiểm tra và thu hồi những quyền không còn sử dụng.
"AI càng có khả năng hành động giống con người thì việc cấp quyền cho AI càng phải giống cách chúng ta cấp quyền cho một nhân viên: đúng việc, đúng phạm vi và luôn có giới hạn", Hiếu PC nhấn mạnh.
Khi AI ngày càng có thể xử lý công việc thay con người, điều quan trọng không chỉ là công nghệ làm được bao nhiêu việc, mà còn là người dùng có thể kiểm soát những hành động đó đến mức nào.