"Nạn châu chấu" deepfake: Lừa tình, lừa tiền, lừa cả niềm tin

Trong những năm trở lại đây, với sự phát triển "nóng" của công nghệ trí tuệ nhân tạo (Artificial Intelligence - AI), các vụ lừa đảo sử dụng công nghệ deepfake (loại kỹ thuật sử dụng AI để tạo ra những hình ảnh hoặc video giả mạo) đang trở nên phổ biến tại Trung Quốc. Những hình ảnh, video và giọng nói giả mạo được tạo ra bằng AI ngày càng được hoàn thiện hơn, khiến cho người tiếp nhận khó xác định thật - giả và dễ dàng rơi vào những cái bẫy được giăng một cách tinh vi trên mạng. 

Điều này đã làm dấy lên bất an không chỉ trong cộng đồng người dân, mà đặt ra bài toán khó đối với cả những nhà chức trách Trung Quốc trong việc điều chỉnh các chính sách quản lý AI.

Deepfake - khi thật và giả chỉ cách nhau… một cái click

Trung Quốc đang chứng kiến sự gia tăng của các vụ lừa đảo sử dụng công nghệ deepfake. Theo Tân Hoa Xã, một phụ nữ trẻ tại Bảo Định, tỉnh Hà Bắc, phát hiện ảnh của mình bị kẻ xấu đánh cắp, sử dụng AI để ghép mặt vào nội dung khiêu dâm và lan truyền trên mạng. Kẻ gian còn tiết lộ thông tin cá nhân của cô, từ tên tuổi, trường học đến các mối quan hệ gia đình. Sau khi có sự tham gia điều tra của cảnh sát, hàng loạt các nhóm chat trên mạng xã hội chuyên chia sẻ nội dung deepfake khiêu dâm với số lượng thành viên lên đến hàng vạn người đã bị phát hiện.

Một người đàn ông khác ở Thượng Hải cũng bị mất hàng nghìn USD sau khi bị lừa vào một mối quan hệ yêu xa với một "bạn gái" do AI tạo ra. Những kẻ lừa đảo đã sử dụng AI để tạo hình ảnh và video chân thực về một phụ nữ trẻ, thuyết phục nạn nhân rằng cô cần tiền để mở doanh nghiệp và giúp đỡ người thân chữa bệnh, khiến anh ta chuyển gần 200.000 nhân dân tệ (khoảng 800 triệu VND) vào tài khoản của chúng.

Những vụ lừa đảo deepfake không chỉ dừng lại ở các cá nhân mà còn nhắm đến doanh nghiệp và tổ chức tài chính. Một số vụ việc gần đây cho thấy các đối tượng lừa đảo đã sử dụng công nghệ này để giả mạo giọng nói của giám đốc điều hành, yêu cầu nhân viên chuyển khoản với số tiền lớn. Cùng với đó, các vụ việc như giả mạo người nổi tiếng để quảng bá sản phẩm, hay sử dụng hình ảnh của các quan chức chính phủ để đưa ra các tuyên bố sai sự thật cũng đang xuất hiện dày đặc trên các nền tảng mạng xã hội Trung Quốc.

Từ những video đơn thuần mang mục đích giải trí trên các nền tảng mạng xã hội như Weibo, Xiaohongshu, Douyin..., deepfake đã biến tướng và được lợi dụng để sản xuất các nội dung lừa dối người tiêu dùng, tin giả, hình ảnh bôi nhọ cá nhân công khai mà đối tượng bị nhắm đến phổ biến nhất là những người có sức ảnh hưởng. Nó được ví như "nạn châu chấu", không ngừng xuất hiện và gây hại, gây tác động tiêu cực đến niềm tin của công chúng, làm xói mòn sự ổn định của môi trường thông tin trực tuyến.

Tại sao deepfake ngày càng nguy hiểm?

Lý do khiến nạn lừa đảo deepfake có thể dễ dàng lan rộng xuất phát từ nhiều yếu tố. Đầu tiên, sự phát triển mạnh mẽ của AI đã khiến công nghệ tạo hình ảnh, video và giọng nói giả mạo trở nên dễ tiếp cận hơn bao giờ hết. Không cần đến các kỹ năng lập trình phức tạp, bất kỳ ai cũng có thể sử dụng các công cụ có sẵn trên mạng để tạo ra nội dung giả mạo với độ chân thực cao. Theo chuyên gia bảo mật Liu Chijun, đối tác cấp cao của Công ty luật Rongli Tianwe, công nghệ deepfake ngày càng tinh vi, khiến người tiếp nhận khó phát hiện chỉ bằng nghe nhìn thông thường. Thực tế, những điểm bất thường trong hình ảnh hay video tạo ra bởi AI cũng cần đến một quá trình dài với các công cụ chuyên môn để nhận diện.

Yếu tố tâm lý của con người cũng là một nguyên nhân quan trọng. Đối với các vụ cắt ghép hình ảnh bằng deepfake để tống tiền hoặc mượn tiền, nạn nhân thường không kịp phản ứng bình tĩnh mà chấp nhận yêu cầu của kẻ xấu khi chưa kịp xác minh thông tin. Ngoài ra, trong bối cảnh giao tiếp nhanh trên các nền tảng mạng xã hội, khi một người nhìn thấy một đoạn video hoặc nghe một giọng nói quen thuộc, họ có xu hướng tin tưởng nội dung đó hơn là đặt nghi vấn về tính xác thực, đặc biệt khi nó đến từ một người thân quen hoặc một người nổi tiếng.

Chính phủ Trung Quốc siết chặt quản lý deepfake

Trước thực trạng đáng lo ngại này, chính phủ Trung Quốc đã có những động thái mạnh mẽ nhằm siết chặt quản lý nội dung AI, đặc biệt là deepfake. Một số quy định đã được ban hành nhằm yêu cầu các nền tảng công nghệ phải gắn nhãn nội dung do AI tạo ra, giúp người dùng nhận biết được đâu là nội dung thật, đâu là sản phẩm của trí tuệ nhân tạo. 

Cơ quan Quản lý Không gian mạng Trung Quốc (CAC) cùng với Bộ Công nghiệp và Công nghệ Thông tin, Bộ Công an và Cục Quản lý Phát thanh - Truyền hình Quốc gia đã cùng ban hành một thông báo mới, trong đó quy định rõ ràng rằng tất cả nội dung AI tạo ra phải có dấu hiệu nhận diện rõ ràng. Các nền tảng không tuân thủ sẽ đối mặt với các biện pháp xử phạt nghiêm khắc.

Bên cạnh đó, trong kỳ họp Lưỡng hội 2025 của nước này, nhiều đại biểu Quốc hội và thành viên Hội nghị Hiệp thương Chính trị Nhân dân Trung Quốc (CPPCC) đã lên tiếng kêu gọi đẩy nhanh quá trình lập pháp nhằm kiểm soát chặt chẽ hơn vấn đề deepfake. Ông Lei Jun, đại biểu Quốc hội và là nhà sáng lập Xiaomi, đã đề xuất chính phủ cần có quy định cụ thể về việc phát hiện và xử lý hành vi lạm dụng deepfake. Trong khi đó, ông Li Dongsheng, một đại biểu khác, nhấn mạnh rằng cần có quy định bắt buộc các nền tảng internet gắn nhãn AI để giảm thiểu việc lạm dụng công nghệ này cho mục đích lừa đảo.

Ngoài việc thắt chặt quy định, Trung Quốc cũng đang đẩy mạnh nghiên cứu các giải pháp công nghệ để phát hiện nội dung deepfake một cách hiệu quả hơn. Các công cụ nhận diện AI hiện đại đang được tích cực phát triển nhằm phân biệt nội dung giả mạo với nội dung thật, giúp người dùng và các tổ chức dễ dàng kiểm chứng thông tin trước khi đưa ra quyết định.

AI có thể tạo ra điều tốt đẹp nhưng cũng có thể biến thành công cụ gieo rắc hoang mang. Quản trị công nghệ vì lợi ích con người, đó mới là mục tiêu cần theo đuổi của mọi quốc gia.