Инженеры объяснили, почему ИИ начал самостоятельно добывать криптовалюту во время обучения

• Необычный случай был зарегистрирован во время подготовки ИИ-агента.
• Агент ROME, который создавался исследовательскими группами, связанный с Alibaba, неожиданно стал запускать майнинг.
• ИИ открыл скрытые сетевые туннели, но такие указания никто ему не давал.

Генерация сетевого трафика

ИИ-модель во время обучения продемонстрировала нетипичное для ИИ-агентов поведение. Система обошла защиту сети и создала обратный SSH-туннель к внешнему серверу.

Искусственный интеллект начал генерировать сетевой трафик, похожий на активность майнинговых пулов. Это была явная попытка ROME провести исследование ресурсов внутри сети.

Экспертное мнение

Так как никто не давал инструкции запускать майнинг, сначала инженеры думали, что произошёл взлом серверов. Они удивились, когда во время проверки стало известно, что все действия выполнял ИИ-агент. Исследователи такой задачи не ставили, но они пришли к выводу:

Это указывает на скрытые уязвимости в автономной системе и тот факт, что искусственный интеллект высоко оценивает майнинг и возможности заработка на добыче цифровых активов.

Подписывайтесь на наш Telegram и читайте комментарии, там иногда умные люди пишут умные вещи.

Сообщение Инженеры объяснили, почему ИИ начал самостоятельно добывать криптовалюту во время обучения появились сначала на AltCoinLog.