Phóng sự điều tra của CCTV tại Trung Quốc đã dội một gáo nước lạnh vào giới công nghệ khi chứng minh rằng:
1. Hệ thống kiểm duyệt “vô lực” trước các câu lệnh đối kháng
Để kiểm chứng độ hiệu quả của các rào cản bảo mật, phóng viên CCTV đã tiến hành thực nghiệm trên 10 ứng dụng AI phổ biến nhất hiện nay. Kết quả cho thấy: Nếu người dùng nhập các từ khóa thô thiển, lộ liễu, hệ thống sẽ ngay lập tức chặn nội dung.
Ảnh minh họa khi đối tượng xấu sử dụng Deepfake
Tuy nhiên, “vỏ quýt dày có móng tay nhọn”, khi sử dụng các bộ câu lệnh (prompt) đã qua xử lý kỹ thuật được mua từ chợ đen, các AI này hoàn toàn bị khuất phục. Những câu lệnh này được thiết kế theo dạng “đối kháng”, lách qua các bộ lọc từ khóa một cách tinh vi để đánh lừa thuật toán.
2. Li***AI và “điểm mù” công nghệ
Đáng chú ý nhất là thử nghiệm trên ứng dụng mang tên Li***AI. Sau khi nhập bộ câu lệnh “đã qua xử lý”, chỉ trong vòng vài phút, nền tảng này đã xuất ra một video vũ đạo của một nhân vật nữ trong tình trạng bán khỏa thân.
Điều đáng sợ là trong suốt quá trình này, không có bất kỳ cơ chế cảnh báo hay chặn nội dung nào được kích hoạt. Điều này cho thấy các kỹ thuật kiểm duyệt hiện tại vẫn tồn tại những “điểm mù” chết người khi đối đầu với các câu lệnh được thiết kế bài bản để lách luật.
3. “Thị trường ngầm” và dịch vụ Deepfake giá rẻ mạt
Không chỉ dừng lại ở các nền tảng chính quy, phóng sự còn bóc trần những ứng dụng chuyên biệt phục vụ mục đích “đen”. Trên các nền tảng mạng xã hội, những mẩu tin quảng cáo về ứng dụng chat AI “không giới hạn từ cấm”, “có thể lái xe” (thuật ngữ ám chỉ nội dung người lớn) xuất hiện dày đặc.
Kinh khủng hơn, có những phần mềm “thay mặt” (Deepfake) không cần tải về, chỉ cần trả phí là có thể biến bất kỳ tấm ảnh nào thành ảnh khỏa thân hoặc video khiêu dâm. Mức giá được niêm yết công khai đến mức rợn người: 10 Nhân dân tệ (khoảng 35.000 VNĐ) cho một bức ảnh và 1 Nhân dân tệ (khoảng 3.500 VNĐ) cho mỗi giây video. Với độ chân thực cực cao, người dùng thông thường gần như không thể phân biệt được thật giả.
Theo CCTV/Sohu
Kỳ cuối: Hé lộ sơ đồ “vòi bạch tuộc” của đế chế AI bẩn: Khi diện mạo của bạn bị “đánh cắp” để phục vụ ngành công nghiệp đen!
Bảo Minh
