Hạn chế tiêu cực khi phát triển AI

Bộ trưởng Bộ Khoa học và Công nghệ Huỳnh Thành Đạt vừa ký quyết định hướng dẫn một số nguyên tắc về nghiên cứu, phát triển các hệ thống AI có trách nhiệm tại Việt Nam. Theo đại diện Bộ Khoa học và Công nghệ, trong xu thế chung của thế giới, AI được đánh giá sẽ mang lại lợi ích to lớn cho con người, xã hội và nền kinh tế Việt Nam thông qua việc hỗ trợ, giải quyết các vấn đề khó khăn mà con người, cộng đồng đang phải đối mặt.

Tuy nhiên, song song với quá trình đó, cần nghiên cứu, có biện pháp giảm thiểu các rủi ro trong quá trình phát triển, sử dụng AI cũng như cân đối các yếu tố kinh tế, đạo đức và pháp lý liên quan. Qua đó, thúc đẩy việc nghiên cứu, phát triển và sử dụng các hệ thống/ứng dụng AI một cách an toàn, có trách nhiệm, hạn chế tối đa ảnh hưởng tiêu cực cho con người và cộng đồng.

Trí tuệ nhân tạo có sự phát triển bùng nổ trong thời gian qua. (Ảnh minh hoạ: Forbes.com)

Để đạt được mục tiêu trên, Bộ Khoa học và Công nghệ nêu 9 nguyên tắc nghiên cứu, phát triển các hệ thống AI có trách nhiệm gồm tinh thần hợp tác, thúc đẩy đổi mới sáng tạo; tính minh bạch; khả năng kiểm soát; an toàn; bảo mật; quyền riêng tư; tôn trọng quyền và phẩm giá con người; hỗ trợ người dùng và trách nhiệm giải trình.

Trong 9 nguyên tắc trên, nguyên tắc minh bạch được nhấn mạnh. Các đơn vị phát triển các ứng dụng trí tuệ nhân tạo có thể ảnh hưởng đến tính mạng, thân thể, quyền riêng tư hoặc tài sản của người dùng hoặc bên thứ ba cần chú ý đến khả năng xác định rõ các đầu vào và đầu ra của hệ thống cũng như khả năng giải thích liên quan dựa trên các đặc điểm của công nghệ được áp dụng và cách sử dụng chúng để đảm bảo có sự tin tưởng của xã hội, bao gồm cả người dùng.

Cùng với sự minh bạch, các nhà phát triển sản phẩm cũng cần thực hiện đánh giá trước, tiến hành thử nghiệm công nghệ trong một không gian riêng như trong phòng thí nghiệm hoặc môi trường thử nghiệm, nơi đã có các biện pháp đảm bảo an ninh, an toàn trước khi đưa vào áp dụng thực tế.

Tiếp tục cập nhật các nguyên tắc

Bộ nguyên tắc cũng khuyến khích các nhà phát triển AI cũng cần đảm bảo rằng hệ thống của mình không vi phạm quyền riêng tư của người dùng hoặc bên thứ ba. Quyền riêng tư được đề cập gồm quyền riêng tư về không gian (sự yên bình trong cuộc sống cá nhân), quyền riêng tư về thông tin (dữ liệu cá nhân) và sự bí mật của việc thông tin liên lạc. Các nhà phát triển cần áp dụng các quy định, hướng dẫn hiện hành (của cơ quan chức năng, cơ quan có thẩm quyền), có thể tham khảo các tiêu chuẩn, hướng dẫn quốc tế về quyền riêng tư.

Bộ nguyên tắc cũng đề xuất các nhà phát triển ứng dụng tôn trọng quyền và phẩm giá con người, cần thực hiện các biện pháp để đảm bảo không gây ra sự phân biệt đối xử, không công bằng do thiên vị (định kiến) trong dữ liệu khi huấn luyện hệ thống AI.

Một nguyên tắc nữa là các nhà phát triển AI cần thực hiện trách nhiệm giải trình của mình đối với các bên liên quan bao gồm cả người dùng hệ thống AI. Ngoài ra, cần thực hiện chia sẻ thông tin và hợp tác chặt chẽ với các nhà cung cấp để đảm bảo cập nhật và giải quyết các vấn đề liên quan trong quá trình cung cấp dịch vụ và sử dụng các hệ thống trí tuệ nhân tạo.

Theo đại diện Bộ Khoa học và Công nghệ, ở giai đoạn hiện nay, tạm thời xác định bộ nguyên tắc có thể ở dạng hướng dẫn, không có tính ràng buộc và khuyến khích xây dựng, áp dụng các tiêu chuẩn, quy trình thực hành dựa trên các khuyến nghị quốc tế làm nền tảng để thúc đẩy nghiên cứu, phát triển và sử dụng các hệ thống AI. Trong tương lai, các nguyên tắc, hướng dẫn này sẽ tiếp tục được nghiên cứu, cập nhật để phù hợp với tình hình thực tiễn của sự phát triển.