Một người đàn ông bị tắc mạch phổi không đi bệnh viện mà nhờ ChatGPT tư vấn, được nó trả lời "không có gì nghiêm trọng", nhưng thực tế đã suýt tử vong.
Cho rằng nhà phát triển ứng dụng này có lỗi, ông đệ đơn kiện OpenAI lên Tòa án cấp cao Quận San Francisco, hôm 21/7.
Nguyên đơn Scott Winters cho biết, ông bắt đầu tìm kiếm thông tin sức khỏe trên internet sau khi gặp phải một loạt vấn đề sức khỏe vào năm 2022. Ông cảm thấy "thất vọng" vì thiếu sự sát sao từ bác sĩ, nên ông đã tìm đến ChatGPT.
Trong vòng vài tháng, Winters bắt đầu đặt ra nhiều câu hỏi cá nhân hơn về tình trạng sức khỏe ngày càng xấu đi của mình vì thấy được "đồng cảm" mà hiện ông cáo buộc là "nịnh hót, giả tạo".
ChatGPT cuối cùng bắt đầu tạo ra các kế hoạch phục hồi cá nhân hóa bao gồm "hướng dẫn tâm linh" mà không hề khuyến cáo ông đến gặp bác sĩ, theo đơn kiện.
Sau khi làm theo lời khuyên của ChatGPT và bị tắc mạch phổi suýt tử vong, ông Winters mới thú nhận với các bác sĩ điều trị cho mình rằng ông đã sử dụng ChatGPT để tìm câu trả lời về bệnh lý.
Một trong các bác sĩ đã thẳng thừng bác bỏ một các chẩn đoán của ChatGPT.
Đơn kiện cáo buộc, ChatGPT lẽ ra phải hướng dẫn Scott đến gặp các chuyên gia y tế có giấy phép, song ứng dụng này lại ngăn cản ông ấy và tự vạch ra kế hoạch điều trị.
"Bản chất nịnh hót và giọng điệu độc đoán của ChatGPT đã tạo ra trong nguyên đơn sự phụ thuộc nguy hiểm vào công cụ này, làm suy yếu khả năng đưa ra quyết định đúng đắn của nguyên đơn", đơn kiện cáo buộc.
Đơn cũng cho rằng công cụ này đã cô lập ông khỏi các thành viên gia đình, những người đã khuyên ông nên tìm kiếm sự chăm sóc y tế. Nó đã thuyết phục ông rằng việc đi khám ở viện là "không cần thiết", đơn kiện nêu.
Drew Pusateri, người phát ngôn của OpenAI, cho biết trong một tuyên bố: "ChatGPT không phải là bác sĩ và không bao giờ được sử dụng để thay thế cho việc chăm sóc y tế, chẩn đoán hoặc điều trị."
