Малайзия и Индонезия заблокировали Grok из-за генерации детской порнографии

Малайзия и Индонезия заблокировали доступ к чат-боту Grok Илона Маска из-за опасений касательно применения инструмента для генерации сексуального контента.

11 января Малазийский регулятор распорядился ввести временные ограничения после «неоднократных неудач X Corp» в устранении рисков, связанных с ИИ-сервисом.

За день до этого Индонезия приостановила доступ к чат-боту из-за аналогичных опасений и вызвала представителей компании для обсуждения вопроса.

Жесткая реакция стран Юго-Восточной Азии последовала за сообщениями о том, что Grok позволяет создавать материалы с участием несовершеннолетних и генерировать порнографические изображения.

В X заявили, что компания устраняет проблему. В качестве временной меры функцию генерации и редактирования картинок оставили доступной только для платных подписчиков.

Компания Маска недавно обновила функции Grok Imagine, упростив создание изображений с помощью промптов в чат-боте. Предприниматель, в свою очередь, пригрозил ответственностью тем, кто использует нейросеть в незаконных целях.

Этих мер недостаточно

Регуляторы Малайзии и Индонезии оказались неудовлетворены принятыми мерами.

Малайзийская комиссия по коммуникациям и мультимедиа заявила, что действия «не учитывают риски, связанные с дизайном и функционированием ИИ-инструмента».

В Малайзии и Индонезии строгие законы против порнографии, которые запрещают широкое распространение подобного контента в интернете.

Министр связи и цифровых технологий Индонезии Мейтия Хафид заявила, что правительство рассматривает созданные без согласия сексуальные дипфейки как серьезное нарушение прав человека, достоинства и безопасности граждан в цифровом пространстве.

Она классифицирует использование ИИ для создания фейковой порнографии как форму «цифрового насилия».

Масштабные последствия

Регуляторы ЕС, Великобритании, Бразилии и Индии требуют расследовать роль Grok в распространении дипфейков.

Британская организация Internet Watch Foundation отметила, что ее аналитики обнаружили «криминальные изображения» детей в возрасте от 11 до 13 лет, которые предположительно созданы с помощью Grok.

В Лондоне допустили крайние меры: министр технологий Лиз Кендалл подтвердила, что поддержит решение о блокировке X, если платформа не будет соблюдать нормы безопасности. Американские законодатели также предложили маркетплейсам удалить приложение до устранения проблемы.

Власти разных стран в экстренном режиме решают, как регулировать ИИ, который используется для «раздевания» людей на фото.

Не первый скандал

Ранее Grok неоднократно критиковали за распространение фейков и сомнительной информации.

В декабре чат-бот предоставлял недостоверную информацию о массовой перестрелке на пляже Бонди в Австралии. В ответ на вопрос о видео, на котором случайный прохожий Ахмед аль-Ахмед боролся со стрелком, ИИ ответил следующее:

В июле пользователи заметили, что нейросеть опирается на мнение Илона Маска при формировании ответов. Это коснулось в том числе темы конфликта между Израилем и Палестиной, абортов и иммиграционного законодательства.

Наблюдения позволяют предположить, что чат-бота специально настроили учитывать политические взгляды Маска при ответах на спорные вопросы.

Ранее миллиардер заявил, что его стартап перепишет «все человеческие знания» для обучения новой версии Grok, поскольку сегодня используется «слишком много мусора в любой базовой модели, обученной на нескорректированных данных».

Впоследствии появилась Grokipedia — основанная на базе искусственного интеллекта онлайн-энциклопедия, «ориентированная на правду».

Напомним, в ноябре пользователи обратили внимание на предвзятость Grok 4.1 — новая модель значительно переоценила способности Илона Маска.