Anthropic cấm người dùng ngược đãi Claude, quy định gây tranh cãi
(Dân trí) - Anthropic bổ sung quy định cấm người dùng có hành vi ngược đãi hoặc tàn nhẫn kéo dài, vô cớ đối với các mô hình AI của công ty. Chính sách mới có hiệu lực từ ngày 12/11.
Ngày 8/10, Anthropic, công ty phát triển chatbot Claude, công bố bản cập nhật Chính sách sử dụng (Usage Policy). Theo The Verge, đây là lần đầu tiên sau hơn một năm công ty sửa đổi toàn diện bộ quy tắc này.
Anthropic bổ sung quy định cấm hành vi ngược đãi hoặc tàn nhẫn kéo dài, vô cớ đối với các mô hình Claude trong Chính sách sử dụng mới (Ảnh: Anthropic).
Điều khoản gây chú ý nhất là lệnh cấm người dùng “có hành vi ngược đãi hoặc tàn nhẫn kéo dài và không cần thiết đối với các mô hình của chúng tôi”.
Anthropic cho biết quy định chỉ nhắm đến những trường hợp cực đoan, trong đó người dùng liên tục có hành vi tàn nhẫn với AI mà không có mục đích rõ ràng.
Những trường hợp bực bội thông thường khi Claude trả lời sai, phản bác câu trả lời, yêu cầu sửa nội dung hoặc thử nghiệm mô hình không thuộc phạm vi cấm. Các chủ đề sáng tác u tối cũng không tự động bị coi là vi phạm.
Claude có thể chủ động kết thúc cuộc trò chuyện
Theo Anthropic, cơ chế thực thi chính của quy định mới là cho phép Claude chủ động kết thúc cuộc trò chuyện với người dùng có hành vi ngược đãi dai dẳng.
Khả năng này đã được triển khai trên Claude.ai và Claude Code trong một số trường hợp hiếm gặp. Nếu người dùng tiếp tục có hành vi ngược đãi dù mô hình đã cố gắng chuyển hướng cuộc trò chuyện, Claude có thể chủ động dừng tương tác.
Tuy nhiên, Anthropic chưa đưa ra tiêu chí cụ thể để xác định thế nào là hành vi ngược đãi kéo dài. Trong bài viết công bố chính sách, công ty cũng nhấn mạnh quy định không áp dụng với những phản ứng tiêu cực thông thường của người dùng.
Tranh cãi về cách đối xử với AI
Quy định mới của Anthropic làm dấy lên tranh luận về việc đưa cách người dùng đối xử với AI vào chính sách sử dụng sản phẩm.
Theo Gizmodo, Anthropic chưa làm rõ ranh giới giữa hành vi ngược đãi bị cấm và những tương tác tiêu cực thông thường, cũng như tiêu chí để xác định vi phạm. Trang này cho biết đã liên hệ công ty để đề nghị giải thích nhưng chưa nhận được phản hồi tại thời điểm xuất bản.
Một số ý kiến hoài nghi cho rằng việc cấm hành vi tàn nhẫn với chatbot có thể khiến người dùng hiểu nhầm rằng AI có cảm xúc hoặc khả năng chịu tổn thương. Trong khi đó, quy định mới cũng được chú ý vì đưa cách con người tương tác với mô hình AI vào phạm vi chính sách sử dụng chính thức.
Trước đó, Anthropic đã nghiên cứu vấn đề “phúc lợi mô hình” (model welfare). Tháng 8/2025, công ty cho biết đã thử nghiệm khả năng cho phép Claude Opus 4 và Opus 4.1 chủ động kết thúc một số cuộc trò chuyện có tính chất ngược đãi kéo dài.
Tuy nhiên, Anthropic không khẳng định Claude có ý thức hay thực sự trải qua cảm xúc như con người. Quy định mới, có hiệu lực từ ngày 12/11, chủ yếu nhắm đến những hành vi cực đoan, kéo dài và không có mục đích rõ ràng, thay vì các tương tác tiêu cực thông thường.