Công nghệ

Google ban hành chính sách kiểm duyệt nội dung do AI tạo ra

6 tháng trước

Google sẽ yêu cầu các ứng dụng Android cho phép người dùng báo cáo nội dung lừa đảo hoặc không phù hợp do AI tạo ra nếu chúng muốn tiếp tục được hiển thị trên kho ứng dụng Google Play Store trong bối cảnh lo ngại rằng nhiều người dùng ứng dụng AI để tạo ra nội dung độc hại.

Bắt đầu từ ngày 31.1, các ứng dụng trên Google Play Store cho phép người dùng tạo nội dung AI sẽ phải có tính năng để người dùng có thể báo cáo nội dung vi phạm cho nhà phát triển theo chính sách mới.

Chính sách này yêu cầu các nhà phát triển ứng dụng sẽ sử dụng báo cáo của người dùng để lọc cũng như kiểm duyệt nội dung trên ứng dụng. Quy định mới sẽ áp dụng cho các chatbot AI tạo sinh dạng văn bản và trình tạo ảnh AI.

Nhưng Google không yêu cầu các ứng dụng chỉ lưu trữ nội dung do AI tạo ra và không cho phép người dùng tạo nội dung AI mới có tính năng báo cáo.

Những quy định mới sẽ có hiệu lực vào đầu năm tới. Ảnh: Pavlo Gonchar/ SOPA Images/ LightRocket/ Getty Images/ Forbes

Google xác định nội dung vi phạm do AI tạo ra bao gồm tin giả về xâm hại tình dục (hoặc hình ảnh AI giả mạo với độ chân thực cao), bản ghi âm giả giọng nói của người thật dùng để lừa đảo và thông tin sai lệch về bầu cử.

Tháng 9, Google cũng thông báo rằng công ty sẽ sớm yêu cầu những ai muốn chạy quảng cáo liên quan đến bầu cử phải công khai đây là quảng cáo chứa nội dung do AI tạo ra.

Hồi tháng 6, Eric Schmidt, cựu CEO Alphabet, công ty mẹ của Google, cảnh báo: “Cuộc bầu cử trong năm 2024 sẽ trở nên hỗn loạn vì những tin giả do AI tạo ra được phát tán rộng rãi trên mạng xã hội.”

Schmidt lưu ý thêm tình trạng trên có thể sẽ trở nên tệ hơn khi các công ty như Meta và X (Twitter) cắt giảm nhân sự bộ phận kiểm duyệt nội dung.

Google là một trong những công ty công nghệ lớn đi đầu trong việc thúc đẩy các quy định kiểm soát AI chặt chẽ hơn. Apple vẫn chưa đưa ra những chính sách mới liên quan đến quản lý AI hoặc chatbot trên kho ứng dụng của công ty mặc dù việc sử dụng AI tạo sinh gây ra nhiều tranh cãi.

Nhiều người dùng ứng dụng AI tạo sinh để tạo ra các hình ảnh, video về xâm hại tình dục, meme độc hại, và tài liệu về lạm dụng tình dục trẻ em, đôi khi dùng những ứng dụng được thiết kế để lừa đảo hoặc thao túng nhằm lách lệnh cấm đối với một số nội dung bị chặn.

Biên dịch: Gia Nhi

———————

Xem thêm:

Google đàm phán với Universal Music Group về công cụ AI tạo nhạc
Google nhận định về AI trong báo cáo kinh doanh mới