Sự đáng sợ của ChatGPT: Phá tan 30 năm sự nghiệp của một luật sư, còn sắp bị đưa ra tòa

Theo như tờ báo "The New York Times" đưa tin, một người đàn ông Roberto Mata vừa đưa đơn kiện hãng hàng không Avianca do bị xe đẩy hàng tại sân bay quốc tế Kennedy, New York tông trúng. Sau đó, hãng hàng không Avianca đã yêu cầu thẩm phán liên bang ở Manhattan hủy bỏ vụ kiện, vị luật sư của ông Mata đã phản đối kịch liệt và đệ trình một bản tóm tắt dài gần 10 trang trích dẫn các vụ kiện có liên có, ví dụ như: Một người tên Martinez kiện hãng Delta Air Lines, Zicherman kiện Korean Air Lines và Varghese kiện China Southern Airlines. 

Tuy nhiên, không một ai, kể cả luật sư hãng hàng không và ngay cả thẩm phán có thể tìm được nguồn trích dẫn cho những thông tin trên. Hóa ra mọi tài liệu đều được ChatGPT tạo ra.

Luật sư của hãng hàng không Avianca đã viết thư cho Thẩm phán Castel nói rằng không thể tìm thấy bất kỳ dữ kiện về các trường hợp trong trích dẫn của luật sư Roberto Mata.

“Không thể tìm thấy câu trích dẫn này, cũng như bất cứ thứ gì tương tự như vậy”, luật sư hãng hàng không nói. 

Công ty của luật sư Bart Banino là Condon & Forsyth cũng không thể tìm ra được các thông tin cho thấy dẫn chứng kia là thật, ông nghi ngờ rằng đã có sự nhúng tay từ công nghệ chatbot.

Ngay sau đó, vị luật sư tham khảo nguồn từ chatbot - Steven A.Schwarts đến từ công ty luật Levidow, Levidow & Oberman đã xin tòa tha thứ. Ông biết mình sai khi sử dụng trí tuệ nhân tạo dẫn chứng những thông tin sai lệch vào vụ kiện. 

Tờ "The New York Times" cũng đưa tin, ông Schwartz đã hành nghề luật sư ở New York trong gần 30 năm và không có ý định lừa dối tòa án. Ông nói rằng mình chưa bao giờ sử dụng Chat GPT do đó không thể biết rằng nó có thể sai và xin hứa không bao giờ làm như vậy lần nữa.

Thẩm phán Castel cho biết, bản thân ông chưa bao giờ phải đối mặt với một bản đệ trình pháp lý chứa đầy các phán quyết không có thật như vậy. Do đó, ông đã quyết định tổ chức một phiên tòa vào ngày 8/6 để trừng phạt vị luật sư trên.

Theo Stephen Gillers, giáo sư đạo đức pháp lý của Trường Luật Đại học New York, vấn đề này đặc biệt gay gắt giữa các luật sư - những người vốn đang tranh luận về giá trị cũng như sự nguy hiểm của AI.

“Bạn không thể dùng ChatGPT, lấy thông tin rồi dán nó vào hồ sơ tòa án của mình”, ông Stephen Gillers nói. 

Được biết, ChatGPT cũng gặp phải nhiều tranh cãi như phải mất bao lâu thì công nghệ này mới có thể hoạt động mà không cần sự can thiệp của con người. Những hạn chế này cũng được chính CEO Sam Altman của Open AI thừa nhận.

“ChatGPT vẫn còn nhiều thiếu sót nhưng lại khiến mọi người cho rằng nó hoàn hảo. Chúng ta không nên phụ thuộc vào chatbot này đối với những vấn đề quan trọng”, ông chia sẻ. 

Trước đó, đồng sáng lập Apple, Steve Wozniak, Elon Musk cùng hơn 1.000 nhà lãnh đạo doanh nghiệp đã ký một bức thư yêu cầu các biện pháp bảo mật và tạm ngừng phát triển các mô hình trí tuệ nhân tạo trong bối cảnh công nghệ này đang phát triển mạnh mẽ. Họ lập luận rằng các mô hình trí tuệ nhân tạo mạnh mẽ như GPT-4 của OpenAI chỉ nên phát triển khi có được sự tin tưởng và kiểm soát toàn diện về rủi ro.

“Đó là một ý tưởng rất hay để làm chậm quá trình phát triển mô hình mới bởi vì nếu AI thực sự tốt, việc chờ đợi hàng tháng hoặc hàng năm cũng chẳng có hại gì, dù sao chúng ta cũng sẽ đi đến đích”, James Grimmelmann, giáo sư về kỹ thuật số cho biết.

Khi AI càn quét thế giới trực tuyến, nó đã gợi ra viễn cảnh rằng một ngày nào đó, máy móc sẽ thay thế con người làm việc. Nỗi sợ đặc biệt lớn đối với những lao động tri thức.

Theo: The New York Times