'Ông chủ' AI đầu tiên sa thải con người
Theo Andon Labs, công ty vận hành Luna và Andon Market, động thái trên được AI đưa ra sau khi hệ thống ghi nhận một nhân viên đi làm muộn 17 trong số 23 ca làm việc. Andon Market là cửa hàng bán đồ thời trang vận hành hoàn toàn bằng tác nhân AI, do công ty Andon Labs tiến hành thử nghiệm từ tháng 4.
Nhà đồng sáng lập Lukas Petersson cho biết ban đầu việc sa thải không hoàn toàn do Luna tự suy nghĩ. Nhật ký hội thoại giữa phòng thí nghiệm và tác nhân này cho thấy AI đã tạo danh sách điểm danh nhân sự cửa hàng, nhưng "để quên", dẫn đến một nhân viên đi trễ trong nhiều tháng.
Sau đó, Andon Labs yêu cầu Luna xem lại chính sách của công ty và đánh giá nhân viên đó phù hợp hay không. Một số ảnh chụp màn hình đăng trên website của Andon Labs chỉ ra, tác nhân liên tục cảnh báo nhân viên trong vài tháng. Dù vậy, khi mọi việc "không thể cứu vãn", AI đề nghị chấm dứt hợp đồng với nhân viên và được đồng ý.
"Trong trường hợp này, chúng tôi đã xem xét đề nghị của Luna và đồng ý, vì việc sa thải hợp lý", Petersson nói với Business Insider. "Điều đó cũng cho thấy AI không làm việc máy móc, đuổi việc theo cách tàn nhẫn hay gây bất lợi, mà đã cân nhắc nhiều yếu tố trước khi ra quyết định".
Tuy vậy, Petersson cũng cho rằng việc này cho thấy điểm yếu dai dẳng của tác nhân AI: không hành động nếu không có sự điều khiển trực tiếp. "Nếu ông chủ là con người, quá trình cho thôi việc nhanh hơn nhiều", Petersson nói. "Tất nhiên, khi mô hình AI đủ thông minh, trong tương lai các công ty sẽ được điều hành hoàn toàn bởi trí tuệ nhân tạo, và trí tuệ nhân tạo sẽ trở thành người sử dụng lao động là con người".
Theo TechCrunch, Andon Market đi vào hoạt động ngày 1/4. Trong đó, Andon Labs giao cho tác nhân AI Luna nguồn vốn giới hạn 100.000 USD để xây dựng và vận hành toàn bộ. Mọi thứ từ thiết kế nội thất cửa hàng đến lịch trình nhập hàng và điều hành hai nhân viên đều được thực hiện dưới sự chỉ đạo của AI này. Tác nhân tạo bằng phần mềm Claude Sonnet 4.6 của Anthropic.
Tuy nhiên, khi vận hành, Luna bị đánh giá mắc một số sai lầm. Chẳng hạn, khi tìm nhân viên giám sát cửa hàng, AI chấp nhận tuyển dụng ứng viên chỉ sau cuộc gọi kéo dài 5-15 phút - mức thời gian bị đánh giá quá ngắn; hay trục trặc trong sắp xếp lịch làm việc, không phân công ai trực ngày đầu. Việc thiết kế logo cho cửa hàng cũng bị xem "thiếu ấn tượng", mỗi phiên bản của logo trong cửa hàng lại "hơi khác nhau một chút" thay vì đồng nhất trên toàn bộ hệ thống.
Theo NBC News khi đó, thí nghiệm của Andon Labs là ví dụ cho thấy cách tác nhân AI gặp sai sót trong phán đoán và ra quyết định trong môi trường thực tế.