ИИ-агент OpenClaw вышел из под контроля и удалил почту исследовательницы Meta

Исследовательница по безопасности Meta AI Саммер Юэ поручила ИИ-агенту OpenClaw проверить ее переполненную почту и предложить, что стоит удалить, а что отправить в архив. Бот начал удалять все подряд с молниеносной скоростью.

Девушка рассказала, что ассистент игнорировал команды с телефона остановиться.

Юэ приложила скриншоты проигнорированных команд stop.

Mac mini — недорогой компьютер Apple — в последнее время стал любимым устройством многих пользователей для запуска OpenClaw.

Пользователи X задались вопросом: если исследовательница безопасности ИИ столкнулась с подобной проблемой, каковы шансы у обычных людей? У нее спросили, она тестировала защитные ограничения или допустила ошибку.

Сотрудница Meta ранее тестировала агента на другом оборудовании. Он заслужил ее доверие, поэтому она пустила помощника в настоящую почту.

Запрет на криптовалюту

OpenClaw (ранее Clawdbot) — сервис с открытым исходным кодом, который стал популярным в конце января. Он позволяет создавать ИИ-агентов, работающих локально на устройстве пользователя.

В феврале стартап OpenAI пригласил основателя OpenClaw Питера Штайнбергера возглавить направление персональных ИИ-агентов. Параллельно предпринимателя обвинили в отказе запускать токен проекта.

В интервью Лексу Фридману Штайнбергер рассказал о том, как его атаковали в криптосообществе. В какой-то момент разработчик собирался удалить проект.

Он не заинтересован в выпуске или продвижении токена, однако пользователи активно призывали к этому. Люди создали цифровой актив и начали требовать от Штайнбергера признать его, получать комиссии и заниматься развитием. Они спамили в Discord и X.

В итоге его обвинили в том, что он не пампит токен. Параллельно криптоскамеры старались взломать Github разработчика, а во время ребрендинга проекта все юзернеймы быстро перехватывали для продвижения новых цифровых активов.

Впоследствии создатель OpenClaw запретил любые упоминания биткоина или криптовалют в Discord-сервере проекта. Он заблокировал одного из пользователей за нарушение правила.

Он заявил, что именно травля со стороны криптосообщества заставила его ввести строгую модерацию. Некоторые пользователи пытались отговорить от столь жесткой политики, но безуспешно.

Некоторые юзеры выразили мнение, что криптовалюты — лучший сценарий применения для платежей среди ИИ-агентов вроде OpenClaw:

Напомним, в январе эксперты предупредили об опасности использования ИИ-помощника Clawdbot. Он мог непреднамеренно раскрывать личные данные и API-ключи.