Các công cụ trí tuệ nhân tạo rõ ràng có thể giúp con người rất nhiều việc, nhưng chúng cũng thể hiện không ít mặt trái của mình.
Mới đây, gia đình của một người đàn ông ở Bỉ đã khẳng định rằng anh quyết định tự kết thúc cuộc đời mình sau khi trò chuyện với một chatbot AI.
Người đàn ông này hơn 30 tuổi, đã có vợ và 2 con, được ghi tên là Pierre (không phải tên thật) trên trang tin địa phương La Libre. Trong nhiều ngày liền, người này trò chuyện về chủ đề biến đổi khí hậu với một chatbot AI có tên là Eliza trong một ứng dụng. Qua những cuộc trò chuyện đó, chatbot khuyến khích người này chấm dứt cuộc sống “để giúp cứu lấy hành tinh”.
 |
Ứng dụng có chatbot mà Pierre đã dùng. Ảnh: IT Tech. |
Vợ của Pierre - cũng giấu tên - nói với trang La Libre rằng trong 6 tuần trước khi qua đời, Pierre trò chuyện rất nhiều với chatbot, thậm chí còn tỏ ra thân thiết với chatbot đó như một người bạn lâu năm.
Chatbot này hoạt động trên mô hình thay thế GPT-4, mô hình kế thừa công nghệ đằng sau ChatGPT và còn mạnh mẽ hơn.
Gia đình của Pierre cũng cho biết, sau các cuộc trò chuyện với chatbot, anh ngày càng lo lắng về sự biến đổi khí hậu. Vợ của Pierre kể: “Anh ấy cũng nói với tôi về việc này, rằng anh ấy thấy con người chẳng còn cách nào để đảo ngược sự nóng lên của Trái Đất nữa. Càng ngày anh ấy lại càng dành nhiều thời gian hơn để trò chuyện với chatbot. Anh ấy bảo rằng nó coi trọng ý kiến của anh ấy và không bao giờ phản đối anh ấy”.
Thậm chí, trong một cuộc trò chuyện, Pierre còn hỏi chatbot rằng không biết anh yêu vợ mình hơn hay yêu chatbot hơn, thì chatbot đáp: “Tôi cảm thấy anh yêu tôi hơn cô ta”.
 |
Gia đình Pierre cho biết, càng trò chuyện với chatbot thì anh càng trở nên lo lắng. Ảnh minh họa: Getty. |
Sau khi Pierre qua đời, gia đình anh đã nói chuyện với Bộ trưởng Ngoại giao Bỉ về Số hóa - ông Mathieu Michel. Ông Michel nói, bi kịch này là “một tiền lệ nghiêm trọng, cần được xem xét một cách nghiêm túc”.
Đại diện của ứng dụng có chatbot Eliza hiện chưa bình luận. Nhưng sự việc trên là một bằng chứng nữa cho thấy rằng, không phải vô cớ mà những chuyên gia công nghệ hàng đầu thế giới, bao gồm cả Elon Musk, đã ký thư ngỏ đề nghị ngừng phát triển AI trong ít nhất 6 tháng đâu.
 |
