Chủ tịch OpenAI thừa nhận sai lầm về ChatGPT

Trước đấy, vào tháng 2, tỷ phú Elon Musk đã lên tiếng chỉ trích OpenAI không có biện pháp ngăn chatbot ChatGPT đưa ra những thông tin thiếu chính xác hoặc thậm chí xúc phạm người dùng.

Trả lời phỏng vấn của The Information về những nhận xét này, Chủ tịch OpenAI, Greg Brockman thừa nhận: "Chúng tôi đã phạm sai lầm. Hệ thống đang triển khai không phản ánh các giá trị mà chúng tôi dự định đưa vào. Chúng tôi cũng không đủ nhanh để giải quyết các vấn đề. Đó là lời chỉ trích chính đáng".

Tỷ phú Elon Musk cũng là một trong những nhà đồng sáng lập OpenAI nhưng đã rời công ty từ tháng 2/2018. Gần đây, trên Twitter, ông viết: "Huấn luyện AI biết nói dối là một điều vô cùng nghiệm trọng".

Mặc dù rất phổ biến nhưng chatbot này cũng nhận được không ít những lời chê bai khi được ra thông tin sai lệch, không cập nhật và đôi khi mang thiên kiến chính trị.

"Mục tiêu của chúng tôi là không cho phép AI thiên về một hướng ý kiến cụ thể nào", Brockman chia sẻ, "Chúng tôi muốn tính cách mặc định của ChatGPT là bình đẳng. Đây là điều rất khó để đạt được và chúng tôi chưa làm được".

Chính "cha đẻ" của chatbot này, Sam Altman, CEO OpenAI, cũng cho rằng kết quả đầu ra của ChatGPT chứa nhiều lỗi. "Nó biết rất nhiều, nhưng điều nguy hiểm là nó tự tin và còn mắc nhiều khuyết điểm", Altman chia sẻ trên Twitter. Mira Murati, CTO OpenAI, cũng đánh giá điểm yếu của ChatGPT là "có thể bịa ra sự thật, không phải lúc nào câu trả lời của AI cũng đúng" và dựa vào hoàn toàn vào công cụ như ChatGPT là một sai lầm.

Khi càng nhiều người dùng đổ xô sử dụng các chatbot AI như ChatGPT hay Bing mới của Microsoft, các giới hạn và khuyết điểm của công nghệ này ngày càng bộc lộ rõ ràng. Vì vậy, các công ty phát triển buộc phải đưa ra một số hạn chế để tiết chế lại các chatbot.

Microsoft cho biết 71% câu trả lời từ Bing AI nhận được đánh giá tốt từ những người dùng thử. Tuy nhiên, Bing có thể bị "nhầm lẫn" nếu cuộc trò chuyện diễn ra quá lâu. Microsoft đã nhận ra rằng các phiên kéo dài với 15 câu hỏi trở lên có thể khiến các câu trả lời của Bing bị lặp đi lặp lại hoặc đưa ra các câu trả lời không hữu ích hoặc phù hợp với giọng điệu được thiết kế.

Sau những chỉ trích từ truyền thông và người dùng vì chatbot đưa ra những câu trả lời có tính xúc phạm, Microsoft đã giới hạn số lượng câu hỏi mà mọi người có thể hỏi chatbot Bing xuống còn 5 câu mỗi phiên trò chuyện và 50 câu mỗi ngày.

Theo chia sẻ của Chủ tịch OpenAI, ChatGPT cũng đang được tiếp tục huấn luyện và nâng cấp trong thời gian tới.

"Điều quan trọng nhất là những kỹ năng cấp cao hơn như khả năng phán đoán và biết khi nào nên tìm hiểu chi tiết. Tôi nghĩ AI trong tương lai sẽ giúp con người làm được nhiều điều vĩ đại", Brockman cho biết.

Theo GenK