Chuyên gia AI Việt nói điều đáng lo hơn viễn cảnh AI hủy diệt loài người
(Dân trí) - Theo chuyên gia Nguyễn Chiến Thắng, hiểm họa AI đáng lo nhất không phải viễn cảnh robot nổi loạn, mà là khi con người trao cho công nghệ quyền lực vượt ngoài khả năng kiểm soát.
Một robot bị đẩy ngã bất ngờ đứng dậy tấn công con người. Một cỗ máy khác thể hiện sự sợ hãi, tìm cách chống cự khi bị đưa vào lò tiêu hủy. Những đoạn video như vậy xuất hiện trên mạng xã hội, thu hút sự chú ý bởi hình ảnh chân thực và kịch bản không khác gì phim khoa học viễn tưởng.
Điểm chung của chúng là khơi dậy một nỗi sợ đã tồn tại từ lâu: Điều gì sẽ xảy ra nếu trí tuệ nhân tạo (AI) trở nên thông minh đến mức không còn chấp nhận sự kiểm soát của con người?
Nỗi lo ấy càng được chú ý khi lãnh đạo những công ty AI hàng đầu thế giới như OpenAI và Anthropic đề cập đến những nguy cơ nghiêm trọng mà công nghệ này có thể gây ra đối với nhân loại.
Trong cuộc trao đổi với phóng viên Dân trí, ông Nguyễn Chiến Thắng, Giám đốc Trung tâm Phát triển, Ngân hàng TMCP Sài Gòn - Hà Nội (SHB), chia sẻ góc nhìn về những nguy cơ thực sự của AI và cách con người kiểm soát công nghệ này.
Gần đây, mạng xã hội xuất hiện những video robot phản kháng khi bị tiêu hủy hoặc tấn công con người sau khi bị đẩy ngã, khiến nhiều người lo sợ viễn cảnh AI nổi loạn. Bên cạnh đó, lãnh đạo OpenAI và Anthropic cũng đưa ra những cảnh báo về nguy cơ AI gây ra thảm họa. Ông đánh giá thế nào về những lo ngại này?
- Trước hết, những video robot mà chúng ta vừa đề cập thực chất là sản phẩm được tạo dựng bằng AI. Công nghệ hiện nay có thể tạo ra những hình ảnh rất chân thực, khiến người xem tưởng rằng robot đã có cảm xúc, thậm chí có khả năng phản kháng con người.
Về những cảnh báo AI có thể gây ra thảm họa cho nhân loại, theo quan điểm cá nhân tôi, một số thông điệp đang được truyền tải theo hướng quá xa so với thực tế, phần nào nhằm thu hút sự chú ý của công chúng đối với các doanh nghiệp công nghệ.
Tuy nhiên, nếu hỏi AI có nguy hiểm hay không, câu trả lời của tôi là có.
Điều đáng quan tâm không phải AI tự nhiên hình thành ý thức để chống lại con người, mà là những rủi ro khi hệ thống được trao khả năng hành động và quyền truy cập không phù hợp.
Ông giải thích cụ thể hơn AI có thể gây nguy hiểm như thế nào, đặc biệt trong bối cảnh Agentic AI đang phát triển mạnh mẽ?
- Trước đây, AI chủ yếu thực hiện những tác vụ như viết văn bản, tóm tắt thông tin hoặc trả lời câu hỏi. Tuy nhiên, với sự xuất hiện của Agentic AI (AI có khả năng tự chủ hành động), công nghệ đã tiến thêm một bước quan trọng.
Agentic AI có thể lập kế hoạch, lựa chọn công cụ, thực hiện nhiều bước công việc và phân tích kết quả để hoàn thành mục tiêu được giao.
Chẳng hạn, một hệ thống AI được trang bị công cụ tìm kiếm lỗ hổng bảo mật có thể thử kết nối với một hệ thống công nghệ thông tin, phân tích phản hồi, phát hiện điểm yếu rồi tiếp tục sử dụng công cụ khác để tìm cách truy cập sâu hơn.
Những khả năng này có thể gây nguy hiểm cho hệ thống thông tin. Tuy nhiên, cần chú ý rằng AI phải sử dụng các công cụ để thực hiện những hành động đó.
Vậy ai cung cấp công cụ cho AI? Chính là con người.
Một mô hình AI dù thông minh đến đâu cũng không thể tự nhiên truy cập hệ thống ngân hàng hay dữ liệu doanh nghiệp nếu không được kết nối với giao diện lập trình ứng dụng (API), mạng máy tính hoặc những công cụ thực thi phù hợp.
Chính con người là bên cấp quyền và tạo điều kiện để AI Agent thực hiện các hành động trên hệ thống.
Vì vậy, thay vì chỉ đặt câu hỏi AI có thể trở nên nguy hiểm đến đâu, chúng ta cần quan tâm hơn đến việc ai đang kiểm soát những hành động mà AI được phép thực hiện.
Hiện nay, nhiều người sử dụng các trợ lý AI trên máy tính và chấp nhận cấp quyền truy cập tệp tin, thư mục, thậm chí toàn bộ dữ liệu cá nhân để AI làm việc thuận tiện hơn. Việc này tiềm ẩn những nguy cơ gì?
- Những công cụ được cấp cho AI giống như một con dao hai lưỡi.
Nếu không cho AI quyền đọc hoặc chỉnh sửa tệp tin, hệ thống khó có thể thực hiện các công việc mà người dùng mong muốn. Nhưng nếu cấp quyền không phù hợp, AI có thể thực hiện những thao tác ngoài ý muốn.
Thực tế đã có những trường hợp người dùng trao quyền truy cập quá rộng, khiến AI xóa nhầm hàng loạt tệp tin trong quá trình xử lý công việc.
Nguyên nhân không nhất thiết đến từ ý đồ phá hoại. Đôi khi, AI hiểu sai yêu cầu hoặc lựa chọn phương án xử lý không phù hợp trong phạm vi quyền hạn được cấp.
Vậy người dùng cần làm gì để vừa tận dụng được khả năng tự động hóa của AI, vừa bảo đảm an toàn dữ liệu?
- Trong an toàn thông tin có một nguyên tắc rất quan trọng là Least Privilege (quyền hạn tối thiểu). AI chỉ nên được cấp quyền truy cập và sử dụng những công cụ thực sự cần thiết cho nhiệm vụ.
Nguyên tắc này tương tự cách doanh nghiệp phân quyền cho nhân viên. Một nhân viên văn thư không cần quyền truy cập kho tiền hoặc hệ thống kế toán nếu công việc không liên quan.
AI cũng vậy. Chẳng hạn, khi sử dụng trợ lý AI để xử lý tài liệu, tôi chỉ cấp quyền truy cập một thư mục cụ thể, thay vì toàn bộ dữ liệu trên máy tính.
Với các thao tác nhạy cảm như xóa hàng loạt tệp tin hoặc thực hiện giao dịch, hệ thống phải có bước xác nhận của con người (Human-in-the-loop) trước khi thực thi.
Trong phát triển AI còn có khái niệm Harness, có thể hình dung như bộ dây cương dùng để điều khiển một con ngựa.
Đối với AI, Harness là hệ thống các công cụ, quy tắc và cơ chế kiểm soát giúp giới hạn hành vi của mô hình. Nếu thiếu những rào chắn cần thiết, AI có thể hoạt động sai lệch, gây ảnh hưởng đến hệ thống được kết nối.
Điều quan trọng là tận dụng sức mạnh của AI nhưng phải thiết lập phạm vi hoạt động phù hợp, thay vì trao quyền không cần thiết.
Nếu phân chia rủi ro AI thành hai nhóm, gồm những nguy cơ hiện hữu và những rủi ro có thể xảy ra trong tương lai, theo ông đâu là điều đáng lo ngại hơn đối với người dùng Việt Nam?
- Theo tôi, điều đáng lo ngại trước mắt là nhiều người hiện nay chưa có đủ kiến thức về AI để sử dụng công nghệ một cách hiệu quả và an toàn.
Một ví dụ là tình trạng nhân viên vô tình đưa báo cáo tài chính, thông tin khách hàng, tài sản sở hữu trí tuệ hoặc bí mật kinh doanh lên các chatbot AI công cộng để nhờ phân tích, dẫn đến nguy cơ rò rỉ thông tin.
Một nguy cơ khác là phân quyền không phù hợp, khiến AI xóa nhầm dữ liệu hoặc làm ảnh hưởng đến hoạt động của hệ thống.
Ngoài ra, nhiều người còn thiếu kỹ năng nhận biết hình ảnh, video Deepfake hoặc xác thực các cuộc gọi giả mạo, từ đó dễ trở thành nạn nhân của những hành vi lừa đảo.
Đây đều là những biểu hiện của việc chưa có đủ AI Literacy - năng lực hiểu, sử dụng và đánh giá AI an toàn, có trách nhiệm.
Về tương lai, công nghệ AI đang thay đổi với tốc độ rất nhanh nên khó có thể đưa ra dự báo chắc chắn.
Tuy nhiên, khi Agentic AI ngày càng có khả năng tự chủ hành động, các mô hình ngôn ngữ lớn (LLM) vẫn có thể đưa ra những kết quả không chính xác hoặc hành động không phù hợp với mục tiêu của con người.
Bởi vậy, việc nâng cao kiến thức AI và xây dựng những cơ chế kiểm soát phù hợp cần được thực hiện ngay từ hiện tại.
Trong môi trường ngân hàng, nơi dữ liệu khách hàng và thông tin giao dịch có yêu cầu bảo mật rất cao, AI được quản lý và phân quyền như thế nào để hạn chế rủi ro?
- Trước hết, chúng tôi vẫn áp dụng nguyên tắc Least Privilege, tức chỉ cấp những quyền cần thiết cho từng nhiệm vụ.
Điểm quan trọng là phải quản lý AI như một nhân sự điện tử chính thức (e-employee), có danh tính và giới hạn quyền hạn rõ ràng.
Mỗi tác nhân AI (AI Agent) được cấp một mã định danh riêng, tương tự tài khoản của nhân viên khi truy cập hệ thống ngân hàng.
Đồng thời, mỗi AI Agent có một Agent Card, ghi nhận những thông tin như thời điểm khởi tạo, chức năng, đơn vị quản lý và phạm vi quyền hạn.
Khi AI truy cập dữ liệu hoặc thực hiện thao tác trên hệ thống, quyền truy cập cũng phải được kiểm tra tương tự một nhân viên.
Chẳng hạn, nhân viên hành chính không có quyền truy cập kho tiền hoặc thực hiện lệnh chuyển tiền trên hệ thống Core Banking. Một AI Agent không được giao những nhiệm vụ đó cũng phải chịu giới hạn tương ứng.
Bên cạnh việc phân quyền, ngân hàng lựa chọn mô hình AI như thế nào để bảo đảm dữ liệu nhạy cảm không bị đưa ra ngoài hệ thống?
- Một nguyên tắc quan trọng khác là sử dụng các mô hình ngôn ngữ lớn (LLM) phù hợp dựa trên việc phân loại dữ liệu theo mức độ nhạy cảm.
Với những tác vụ phân tích chung, không chứa thông tin mật, chúng tôi có thể tận dụng các mô hình AI trên nền tảng điện toán đám mây công cộng (Public Cloud) để khai thác khả năng xử lý và tư duy của chúng.
Ngược lại, những dữ liệu nhạy cảm liên quan đến khách hàng, tài khoản và nghiệp vụ ngân hàng cần được xử lý trên các hệ thống AI nội bộ (Local AI/On-premise).
Đối với những bài toán nghiệp vụ chuyên biệt, chúng tôi có thể sử dụng các mô hình ngôn ngữ nhỏ (Small Language Model - SLM) được tùy biến để thực hiện một nhiệm vụ cụ thể, chẳng hạn phân loại văn bản hoặc kiểm tra tính hợp lệ của hồ sơ.
Cách tiếp cận này giúp tận dụng khả năng của các mô hình AI khác nhau, đồng thời bảo đảm yêu cầu quản lý và bảo mật dữ liệu.
Với những hệ thống AI có thể tự thực hiện nhiều bước công việc, đâu là giới hạn mà ngân hàng không nên để AI tự đưa ra quyết định cuối cùng?
- Theo tôi, không nên phân định dựa trên lĩnh vực mà cần căn cứ vào mức độ rủi ro của từng bài toán nghiệp vụ.
Với những công việc rủi ro thấp như tóm tắt biên bản họp, tổng hợp thông tin hoặc đưa ra khuyến nghị tham khảo, AI có thể tự động thực hiện.
Ở mức rủi ro trung bình, chẳng hạn soạn email chăm sóc khách hàng, AI có thể chuẩn bị nội dung nhưng cần chờ nhân viên phê duyệt trước khi gửi.
Riêng những nghiệp vụ rủi ro cao như thẩm định tín dụng và phê duyệt khoản vay, AI chỉ nên đóng vai trò hỗ trợ tổng hợp, đối chiếu và phân tích thông tin.
Quyết định phê duyệt, giải ngân cuối cùng vẫn phải do cán bộ có thẩm quyền xem xét và chịu trách nhiệm. Đây là trường hợp cần có sự tham gia của con người trong quá trình ra quyết định (Human-in-the-loop).
Khi một hệ thống AI đưa ra quyết định sai, gây ảnh hưởng đến khách hàng hoặc thiệt hại cho doanh nghiệp, trách nhiệm sẽ thuộc về ai: người sử dụng, đơn vị phát triển hay tổ chức triển khai AI?
- Đây là một vấn đề quan trọng trong AI Governance (Quản trị AI).
Khi triển khai AI vào thực tế, doanh nghiệp phải xác định rõ trách nhiệm và quyền hạn của từng bộ phận ngay từ đầu.
AI Agent là một hệ thống công nghệ, không thể tự chịu trách nhiệm trước pháp luật. Trách nhiệm phải được phân định theo từng khâu nghiệp vụ.
Nếu sai sót xuất phát từ logic lập trình, cần xem xét trách nhiệm của đơn vị phát triển công nghệ. Nếu dữ liệu đầu vào không chính xác, bộ phận quản trị và cung cấp dữ liệu phải được kiểm tra.
Nếu lỗi phát sinh trong quá trình phê duyệt hoặc thực hiện nghiệp vụ, trách nhiệm thuộc về cá nhân, bộ phận có thẩm quyền theo quy trình áp dụng.
Đặc biệt, trước khi đưa AI vào vận hành, các bộ phận liên quan phải tham gia kiểm thử, nghiệm thu và xác nhận trách nhiệm đối với phạm vi công việc của mình.
Trách nhiệm pháp lý cụ thể còn phụ thuộc vào pháp luật, hợp đồng và tính chất từng sự cố.
Tuy nhiên, AI đôi khi được ví như một "hộp đen" vì quá trình xử lý rất phức tạp. Nếu không thể giải thích rõ vì sao AI đưa ra quyết định sai, làm thế nào để xác định trách nhiệm?
- Trong AI Governance có một khái niệm rất quan trọng là Observability (khả năng quan sát, giám sát hoạt động).
Khi AI thực hiện công việc, hệ thống phải có khả năng ghi nhận nhật ký các bước đã diễn ra, từ thời điểm tiếp nhận yêu cầu, nguồn dữ liệu được truy xuất, công cụ được sử dụng cho đến hành động cuối cùng.
Chẳng hạn, nếu AI gửi nhầm email cho khách hàng, bộ phận kỹ thuật có thể truy xuất nhật ký theo tác nhân AI, khoảng thời gian và giao dịch liên quan.
Từ đó, chúng ta có thể xác định AI đã lấy thông tin từ đâu, sử dụng công cụ nào và thực hiện hành động gì để khoanh vùng nguyên nhân.
Đây là cơ sở quan trọng để giám sát, xử lý sự cố và xác định trách nhiệm trong quá trình vận hành AI.
Xin cảm ơn ông đã dành thời gian chia sẻ!
Nội dung: Đoàn Thủy
Thiết kế: Tuấn Nghĩa