Đài Fox News hôm 15.5 dẫn lời ông A.J. Nash, Phó chủ tịch chuyên về AI của Công ty an ninh mạng ZeroFox (trụ sở ở bang Minnesota, Mỹ), cảnh báo người Mỹ chưa chuẩn bị cho viễn cảnh đối phó AI tạo sinh. Theo ông, AI tạo sinh không những có thể nhanh chóng soạn thảo nội dung thư điện tử, tin nhắn, video clip phục vụ cho chiến dịch tranh cử, mà còn có thể bị biến thành công cụ nguy hiểm.

"AI tạo sinh mang đến bước nhảy vọt đáng kể về năng lực tạo ra các nội dung về âm thanh và video. Khi bạn có thể thực hiện điều đó ở quy mô lớn và phát tán trên các nền tảng mạng xã hội, công nghệ này sẽ gieo rắc tác động vô cùng lớn", ông Nash giải thích. Trong số nhiều khả năng mà AI tạo sinh như ChatGPT có thể làm được, có không ít năng lực gây ảnh hưởng mạnh cho công tác bầu cử và bỏ phiếu ở quốc gia hiện đại như Mỹ.

ChatGPT có thể tạo ra nhiều nội dung trong thời gian ngắn. Ảnh minh họa: REUTERS

Chẳng hạn, ChatGPT có thể tạo ra các tin nhắn thoại tự động, bắt chước giọng của ứng viên, hướng dẫn cử tri bỏ phiếu sai ngày; tung ra những đoạn ghi âm giả giọng ứng viên thú nhận một tội nào đó hoặc tạo dựng nội dung kỳ thị chủng tộc; tạo ra video clip quay cảnh một người phát biểu hoặc trả lời phỏng vấn dù trên thực tế chẳng xảy ra. Bên cạnh đó, có thể xuất hiện những hình ảnh xây dựng bằng máy tính dựa trên cách trình bày của các bản tin địa phương, với nội dung sai lệch như thông báo một ứng viên rời đường đua.

"Chuyện gì xảy ra nếu tỉ phú Elon Musk đích thân gọi điện và thuyết phục bạn hãy bỏ phiếu cho một ứng viên cụ thể?", tiến sĩ Oren Etzioni, cựu Tổng giám đốc sáng lập Học viện Allen về AI (trụ sở ở bang Washington, Mỹ), nói. "Nhiều người sẽ nghe lời ông ấy. Thế nhưng ông ấy không hề gọi cuộc điện thoại nào như thế, mà là AI", tiến sĩ Etzioni chỉ ra.

Nguy cơ từ phía đối địch

Ông Petko Stoyanov, Giám đốc công nghệ toàn cầu của Công ty an ninh mạng Forcepoint (trụ sở ở bang Texas, Mỹ), cảnh báo những thế lực nước ngoài có thể lợi dụng AI tạo sinh để tìm cách phá hoại cuộc bầu cử Mỹ năm 2024. "Chuyện gì xảy ra nếu một thế lực nước ngoài, một tổ chức tội phạm mạng hoặc một nhà nước, tìm cách mạo danh ai đó? Mức độ ảnh hưởng sẽ đến đâu? Chúng ta có cách ứng phó không?", ông Stoyanov đặt ra những câu hỏi cần giải quyết. Theo ông, nước Mỹ sẽ chứng kiến làn sóng thông tin sai lệch từ các nguồn nước ngoài trong thời gian tổ chức bầu cử.

Thượng nghị sĩ Pete Ricketts (bang Nebraska) cũng cảnh báo nguy cơ các tổ chức ủng hộ Trung Quốc sử dụng deepfake (chỉ công nghệ tạo dựng những hình ảnh và video bịa đặt để trông giống và nghe tiếng như người và sự kiện thật) trong mùa bầu cử năm 2024. "Họ hoàn toàn có khả năng này, và đó là điều chúng ta cần phải thật sự cảnh giác", ông Ricketts trả lời phỏng vấn Đài Fox News.

Thậm chí từ đầu năm đến nay, tin vịt do AI tạo ra đã không ít lần gây bão trên mạng xã hội. Có thể kể đến video clip giả mạo ông Biden phát biểu công kích người chuyển giới, hoặc những hình ảnh tạo dựng cho thấy trẻ em học Sa tăng giáo trong các thư viện. Thậm chí, không ít người tin như sái cổ sau khi internet xuất hiện ảnh chụp lưu hồ sơ cảnh sát của cựu Tổng thống Donald Trump, dù ông không hề bị chụp ảnh tội phạm. Những hình ảnh AI tạo sinh khác cho thấy ông Trump chống cự lệnh bắt giữ, và tất nhiên đó cũng là ảnh giả.

Hạ nghị sĩ Yvette Clarke (bang New York) đã giới thiệu dự luật yêu cầu các ứng viên phải thông báo cho cử tri những hình ảnh quảng cáo tạo dựng bằng AI. Bà Clark cũng đồng bảo trợ dự luật yêu cầu bất kỳ người nào tạo ra ảnh tổng hợp cũng phải chèn thêm hình mờ để thông tin rõ ràng về nguồn gốc của hình ảnh đó. Một số tiểu bang cũng đưa ra những đề xuất riêng nhằm ứng phó quan ngại do deepfake.

Còn thượng nghị sĩ Ricketts cho rằng điều có thể làm hiện tại là tăng cường giáo dục dân Mỹ về nguy cơ đến từ AI tạo sinh. Theo ông, chính phủ Mỹ có thể hợp tác với các trường đại học nâng cao năng lực phát hiện hình ảnh giả tạo trước khi cuộc bầu cử bắt đầu.

Đài Fox News hôm 15.5 dẫn lời ông A.J. Nash, Phó chủ tịch chuyên về AI của Công ty an ninh mạng ZeroFox (trụ sở ở bang Minnesota, Mỹ), cảnh báo người Mỹ chưa chuẩn bị cho viễn cảnh đối phó AI tạo sinh. Theo ông, AI tạo sinh không những có thể nhanh chóng soạn thảo nội dung thư điện tử, tin nhắn, video clip phục vụ cho chiến dịch tranh cử, mà còn có thể bị biến thành công cụ nguy hiểm.

"AI tạo sinh mang đến bước nhảy vọt đáng kể về năng lực tạo ra các nội dung về âm thanh và video. Khi bạn có thể thực hiện điều đó ở quy mô lớn và phát tán trên các nền tảng mạng xã hội, công nghệ này sẽ gieo rắc tác động vô cùng lớn", ông Nash giải thích. Trong số nhiều khả năng mà AI tạo sinh như ChatGPT có thể làm được, có không ít năng lực gây ảnh hưởng mạnh cho công tác bầu cử và bỏ phiếu ở quốc gia hiện đại như Mỹ.

ChatGPT có thể tạo ra nhiều nội dung trong thời gian ngắn. Ảnh minh họa: REUTERS

Chẳng hạn, ChatGPT có thể tạo ra các tin nhắn thoại tự động, bắt chước giọng của ứng viên, hướng dẫn cử tri bỏ phiếu sai ngày; tung ra những đoạn ghi âm giả giọng ứng viên thú nhận một tội nào đó hoặc tạo dựng nội dung kỳ thị chủng tộc; tạo ra video clip quay cảnh một người phát biểu hoặc trả lời phỏng vấn dù trên thực tế chẳng xảy ra. Bên cạnh đó, có thể xuất hiện những hình ảnh xây dựng bằng máy tính dựa trên cách trình bày của các bản tin địa phương, với nội dung sai lệch như thông báo một ứng viên rời đường đua.

"Chuyện gì xảy ra nếu tỉ phú Elon Musk đích thân gọi điện và thuyết phục bạn hãy bỏ phiếu cho một ứng viên cụ thể?", tiến sĩ Oren Etzioni, cựu Tổng giám đốc sáng lập Học viện Allen về AI (trụ sở ở bang Washington, Mỹ), nói. "Nhiều người sẽ nghe lời ông ấy. Thế nhưng ông ấy không hề gọi cuộc điện thoại nào như thế, mà là AI", tiến sĩ Etzioni chỉ ra.

Nguy cơ từ phía đối địch

Ông Petko Stoyanov, Giám đốc công nghệ toàn cầu của Công ty an ninh mạng Forcepoint (trụ sở ở bang Texas, Mỹ), cảnh báo những thế lực nước ngoài có thể lợi dụng AI tạo sinh để tìm cách phá hoại cuộc bầu cử Mỹ năm 2024. "Chuyện gì xảy ra nếu một thế lực nước ngoài, một tổ chức tội phạm mạng hoặc một nhà nước, tìm cách mạo danh ai đó? Mức độ ảnh hưởng sẽ đến đâu? Chúng ta có cách ứng phó không?", ông Stoyanov đặt ra những câu hỏi cần giải quyết. Theo ông, nước Mỹ sẽ chứng kiến làn sóng thông tin sai lệch từ các nguồn nước ngoài trong thời gian tổ chức bầu cử.

Thượng nghị sĩ Pete Ricketts (bang Nebraska) cũng cảnh báo nguy cơ các tổ chức ủng hộ Trung Quốc sử dụng deepfake (chỉ công nghệ tạo dựng những hình ảnh và video bịa đặt để trông giống và nghe tiếng như người và sự kiện thật) trong mùa bầu cử năm 2024. "Họ hoàn toàn có khả năng này, và đó là điều chúng ta cần phải thật sự cảnh giác", ông Ricketts trả lời phỏng vấn Đài Fox News.

Thậm chí từ đầu năm đến nay, tin vịt do AI tạo ra đã không ít lần gây bão trên mạng xã hội. Có thể kể đến video clip giả mạo ông Biden phát biểu công kích người chuyển giới, hoặc những hình ảnh tạo dựng cho thấy trẻ em học Sa tăng giáo trong các thư viện. Thậm chí, không ít người tin như sái cổ sau khi internet xuất hiện ảnh chụp lưu hồ sơ cảnh sát của cựu Tổng thống Donald Trump, dù ông không hề bị chụp ảnh tội phạm. Những hình ảnh AI tạo sinh khác cho thấy ông Trump chống cự lệnh bắt giữ, và tất nhiên đó cũng là ảnh giả.

Hạ nghị sĩ Yvette Clarke (bang New York) đã giới thiệu dự luật yêu cầu các ứng viên phải thông báo cho cử tri những hình ảnh quảng cáo tạo dựng bằng AI. Bà Clark cũng đồng bảo trợ dự luật yêu cầu bất kỳ người nào tạo ra ảnh tổng hợp cũng phải chèn thêm hình mờ để thông tin rõ ràng về nguồn gốc của hình ảnh đó. Một số tiểu bang cũng đưa ra những đề xuất riêng nhằm ứng phó quan ngại do deepfake.

Còn thượng nghị sĩ Ricketts cho rằng điều có thể làm hiện tại là tăng cường giáo dục dân Mỹ về nguy cơ đến từ AI tạo sinh. Theo ông, chính phủ Mỹ có thể hợp tác với các trường đại học nâng cao năng lực phát hiện hình ảnh giả tạo trước khi cuộc bầu cử bắt đầu.