Đức đã cảnh báo các nền tảng truyền thông xã hội về việc lan truyền hình ảnh giả mạo về Holocaust được tạo bởi AI. Chính phủ và các tổ chức tưởng niệm Holocaust đã yêu cầu các nền tảng truyền thông xã hội ngăn chặn sự lan truyền của hình ảnh giả mạo, mà họ cho rằng đang bóp méo và hạ thấp giá trị lịch sử.
Các địa điểm tưởng niệm trại tập trung và trung tâm tư liệu đã bày tỏ lo ngại trong một bức thư gần đây, chỉ trích sự gia tăng của cái gọi là hình ảnh rác AI hoặc hình ảnh giả mạo, xoay quanh việc phát xít Đức giết hại hơn sáu triệu người Do Thái ở Đức trong Thế chiến II. Những hình ảnh này bao gồm các minh họa cảm xúc về các sự kiện bịa đặt, chẳng hạn như cuộc gặp gỡ giữa các tù nhân trại tập trung và người giải phóng họ hoặc trẻ em đứng sau hàng rào kẽm gai.
Đức muốn ngăn chặn sự lan truyền hình ảnh giả mạo về Holocaust được tạo bởi AI
Trong bức thư được gửi bởi các tổ chức, họ lưu ý rằng nội dung do AI tạo ra đã bóp méo lịch sử bằng cách hạ thấp giá trị của các sự kiện nghiêm trọng đã xảy ra từ lâu. Họ đề cập rằng những hình ảnh như vậy có thể gây ra sự không tin tưởng giữa những người dùng đối với các tài liệu lịch sử chính thống. Wolfram Weimer, bộ trưởng văn hóa và truyền thông của bang Đức, đã đề cập rằng ông ủng hộ các bước đi và nỗ lực được thực hiện bởi các tổ chức tưởng niệm trong trường hợp này, cho biết đó là bước đi đúng đắn.
Wolfram cũng đề cập rằng ông ủng hộ quyết định của họ trong việc đánh dấu hình ảnh do AI tạo ra về các sự kiện cổ đại và, trong những trường hợp cần thiết, xóa chúng khỏi các nền tảng truyền thông xã hội. Ông đề cập rằng đây là vấn đề tôn trọng hàng triệu người đã bị giết hại và bị bách hại dưới chế độ khủng bố của phát xít Đức. Theo bức thư của các tổ chức tưởng niệm, họ lưu ý rằng những người tạo ra hình ảnh dường như sử dụng chúng để tạo sự chú ý trực tuyến và kiếm tiền.
Các tổ chức cũng đề cập rằng những kẻ thủ phạm cũng một phần có ý định làm loãng sự thật, chuyển đổi vai trò nạn nhân và thủ phạm, và lan truyền các câu chuyện theo chủ nghĩa xét lại. Các tổ chức bao gồm các trung tâm tưởng niệm cho Belsen, Buchenwald, Dachau và các trại tập trung khác nơi người Do Thái, cũng như những người khác, bao gồm người Roma và Sinti, đã bị giết hại. Họ yêu cầu các nền tảng truyền thông xã hội chủ động hành động chống lại hình ảnh giả mạo của AI về Holocaust thay vì chờ người dùng báo cáo.
Các tổ chức Holocaust muốn hình ảnh do AI tạo ra được dán nhãn
Ngoài ra, họ yêu cầu các nền tảng dán nhãn rõ ràng, vì họ tin rằng điều đó sẽ ngăn người dùng tạo ra hình ảnh có thể kiếm tiền từ chúng. Sự lan truyền của hình ảnh rác AI chất lượng thấp, bao gồm văn bản, hình ảnh hoặc video giả mạo, đã làm dấy lên lo ngại trong nhiều chuyên gia. Họ tin rằng nó sẽ làm ô nhiễm bối cảnh thông tin và khiến người dùng khó phân biệt sự thật với sai lầm. Sự việc này xảy ra sau sự việc mà các công ty AI, đặc biệt là xAI của Elon Musk, chủ sở hữu chatbot Grok, hiện đang phải đối mặt.
Công ty đã chịu áp lực trong vài tuần qua về việc một số người dùng tạo ra hàng nghìn hình ảnh deepfake mang tính khiêu dâm về phụ nữ và trẻ vị thành niên và lan truyền chúng trên nhiều nền tảng truyền thông xã hội. Mối đe dọa này đã khiến một số lãnh đạo các quốc gia yêu cầu công ty chấn chỉnh, với những người khác yêu cầu họ phát triển các biện pháp bảo vệ thích hợp để giải quyết các sự cố. Các quốc gia như Indonesia cũng đã công bố lệnh cấm tạm thời chatbot cho đến khi mọi thứ được giải quyết.
Trong khi đó, nền tảng đã xác nhận rằng họ sẽ chặn theo vị trí địa lý khả năng của người dùng Grok và X tạo deepfake của mọi người ở những địa điểm mà hành động đó bị coi là bất hợp pháp. Tuy nhiên, vẫn chưa biết liệu các biện pháp bảo vệ mới sẽ áp dụng cho ứng dụng độc lập hay trang web của nó. Cũng vẫn chưa biết liệu các biện pháp sẽ ngăn người dùng tạo ra những loại hình ảnh này hay sẽ thúc đẩy họ tìm kiếm những cách mới để truy cập dịch vụ.
Đừng chỉ đọc tin tức crypto. Hãy hiểu nó. Đăng ký nhận bản tin của chúng tôi. Nó miễn phí.
Nguồn: https://www.cryptopolitan.com/germany-warns-spread-ai-holocaust-images/
