Đầu năm nay, một nhân viên tại một tập đoàn đa quốc gia đã gửi cho kẻ lừa đảo 25 triệu USD do bọn tội phạm sử dụng chương trình AI tạo video call một cách vô cùng chân thực.
Đầu năm nay, một nhân viên tại một tập đoàn đa quốc gia đã gửi cho kẻ lừa đảo 25 triệu USD do bọn tội phạm sử dụng chương trình AI tạo video call một cách vô cùng chân thực.
Video do AI tạo ra đã trở nên chân thực đến mức con người (và các hệ thống phát hiện hiện có) phải vật lộn để phân biệt giữa video thật và video giả. Các nhà nghiên cứu Columbia Engineering, do GS Khoa học Máy tính Junfeng Yang làm trưởng nhóm, đã phát triển một công cụ mới có thể phát hiện video do AI tạo ra có tên là DIVID (Diffusion-generated Video Detector).
Thế hệ công cụ video AI tổng hợp mới, như Sora của OpenAI, Runway Gen-2 và Pika, sử dụng mô hình khuếch tán để tạo video. Mô hình này là một kỹ thuật AI tạo hình ảnh và video bằng cách dần dần biến tiếng ồn ngẫu nhiên thành hình ảnh rõ ràng, chân thực. Đối với video, nó tinh chỉnh từng khung hình riêng lẻ đồng thời đảm bảo chuyển tiếp mượt mà, tạo ra kết quả chất lượng cao, sống động như thật.
Nhóm của GS Yang sử dụng một kỹ thuật gọi là DIRE (Lỗi tái tạo khuếch tán) để phát hiện các hình ảnh được tạo ra từ khuếch tán. DIRE là phương pháp đo lường sự khác biệt giữa hình ảnh đầu vào và hình ảnh đầu ra tương ứng được tái tạo bằng mô hình khuếch tán đã được huấn luyện trước.
ĐÔNG NGHI
(Nguồn: TechXplore)
