OpenAI nghiên cứu ngăn AI nổi loạn

Mục tiêu xa hơn nữa của OpenAI là sử dụng AI để quản lý chính nó, theo Reuters. Hai vị quản lý này thừa nhận chưa có công cụ để ngăn AI nổi loạn.

"Sức mạnh to lớn của trí thông minh siêu việt có thể khiến nhân loại mất quyền lực hoặc dẫn đến sự tuyệt chủng loài người. Hiện nay, chúng ta không có giải pháp để dẫn dắt hay kiểm soát một AI siêu thông minh tiềm năng và ngăn nó nổi loạn", ông Sutskever và ông Leike viết trong một thông báo.

Hai tác giả dự báo các hệ thống AI siêu thông minh với trí tuệ hơn người có thể ra đời trong thập niên này và con người cần kỹ thuật tốt hơn để kiểm soát nó.

Do đó, cần có những đột phá trong nghiên cứu về việc quản lý, dẫn dắt phần mềm thực hiện đúng chức năng được nhắm đến và đảm bảo AI tạo ra lợi ích cho con người. OpenAI sẽ dành 20% sức mạnh của mình trong 4 năm tới để giải quyết vấn đề này.

Bên cạnh đó, công ty còn đang thành lập một nhóm mới để tạo ra một nhà nghiên cứu về quản lý AI "ở cấp độ con người", sau đó mở rộng nó thông qua sức mạnh tính toán. OpenAI cho biết việc đó nghĩa là họ sẽ huấn luyện các hệ thống AI sử dụng phản hồi như con người, hỗ trợ việc đánh giá như con người và thực hiện nghiên cứu về quản lý.

Mối nguy hại tiềm tàng từ AI đã khiến giới nghiên cứu và công chúng lo lắng. Hồi tháng 4, một nhóm các lãnh đạo và chuyên gia trong ngành này ký vào thư ngỏ kêu gọi tạm ngừng phát triển các hệ thống siêu AI mạnh hơn GPT-4 của OpenAI trong 6 tháng, do những nguy cơ tiềm tàng với xã hội.

Khảo sát của Reuters/Ipsos hồi tháng 5 cho thấy hơn 2/3 người Mỹ lo ngại về tác động tiêu cực của AI và 61% tin rằng nó có thể đe dọa nền văn minh.

Theo Vi Trân/TNO