Theo Insider, một công ty luật đã bị phạt 5.000 USD sau khi một trong các luật sư của công ty trích dẫn vụ kiện không có thật do ChatGPT tạo ra.
ChatGPT được OpenAI phát hành vào tháng 11.2022 và kể từ đó đã trở thành một “cơn sốt” toàn cầu. Mọi người đã và đang sử dụng chatbot trí tuệ nhân tạo (AI) cho nhiều mục đích như viết email công việc, làm bài tập ở trường… Một số nghiên cứu cho thấy AI tạo sinh có thể có tác động lớn đến ngành luật, bao gồm cả việc tự động hóa việc làm. Tuy nhiên, ngay cả Giám đốc công nghệ của OpenAI Mira Murati cũng cảnh báo những phản hồi của AI đưa ra không phải lúc nào cũng chính xác.
Một người đàn ông đã kiện hãng hàng không Avianca với cáo buộc chiếc xe đẩy bằng kim loại của hãng đã làm ông bị thương. Luật sư Steven Schwartz của công ty luật Levidow, Levidow & Oberman, đại diện cho bên nguyên đơn, đã sử dụng ChatGPT để tìm kiếm thông tin về các phiên tòa có trường hợp tương tự. Thế nhưng chatbot của OpenAI đã đưa 6 vụ án không có thật.
Luật sư phía Avianca và tòa án đã nảy sinh nghi ngờ sau khi không thể xác định được một số trường hợp được trích dẫn trong hồ sơ. Công ty luật đại diện cho Avianca – Condon & Forsyth cho biết họ nhận ra ngay rằng 6/8 vụ kiện kia không có thật.
Schwartz thừa nhận đã tìm kiếm sự trợ giúp từ ChatGPT và “không ý thức được nội dung nó đưa ra có thể là giả mạo” và khẳng định bản thân không biết ChatGPT có khả năng thêu dệt các thông tin.
Thẩm phán P. Kevin Castel đã chỉ trích Levidow, Levidow & Oberman vì đã không “làm rõ về hành động của họ”. Ông nói rằng công ty và các luật sư của họ đã rũ bỏ trách nhiệm khi gửi các trích dẫn giả được tạo bởi ChatGPT. Không chỉ vậy, các luật sư vẫn trình tài liệu giả mạo sau khi bên bị đơn đặt câu hỏi về tính chính xác của 6 vụ án được đề cập.
Thẩm phán Castel đã phạt Levidow, Levidow & Oberman 5.000 USD, đồng thời ra lệnh cho công ty luật gửi thư cho từng thẩm phán bị xác định sai trong những vụ án hư cấu. Ông cho biết những tiến bộ về công nghệ là điều bình thường và không có gì là sai trái khi sử dụng một công cụ trí tuệ nhân tạo đáng tin cậy để hỗ trợ, nhưng những quy tắc hiện hành áp đặt vai trò quan trọng đối với luật sư trong việc đảm bảo tính chính xác trong hồ sơ.
Theo CBS News, công ty luật Levidow, Levidow & Oberman cho biết sẽ tuân thủ lệnh của Castel, nhưng không đồng ý với kết luận rằng công ty đã hành động thiếu thiện chí. Công ty cũng đưa ra lời xin lỗi đến tòa án và khách hàng, thừa nhận sai lầm khi không nhận ra công nghệ AI có thể bịa đặt các vụ án.
