L'ingegnere del software afferma che OpenClaw ha inviato centinaia di messaggi spam

Chris Boyd era bloccato in casa sua nella Carolina del Nord dopo una tempesta di neve quando ha deciso di provare uno strumento di IA chiamato OpenClaw. Pensava che potesse aiutarlo a organizzare le sue mattine. Lo ha configurato per inviare un riepilogo delle notizie alla sua casella di posta alle 5:30 ogni giorno. Quella parte ha funzionato. Poi gli ha dato accesso a iMessage.

Subito dopo, tutto è andato in pezzi. OpenClaw ha iniziato a inviare messaggi come un pazzo. Ha inviato oltre 500 messaggi a lui, sua moglie e persino persone casuali nella loro lista contatti. Boyd non ha riso.

Lo ha spento, ha modificato il codice e ha detto: "Non era difettoso. Era pericoloso."

L'ingegnere del software dice che OpenClaw ha inviato spam con centinaia di messaggi

Boyd ha definito il software "incompiuto" e ha detto che sembrava qualcosa messo insieme senza troppo pensiero. Ha corretto il codice da solo per impedirgli di fare ulteriori danni. Non era l'unico a sollevare dubbi su questo strumento.

L'agente IA, che in precedenza si chiamava Clawdbot e successivamente Moltbot, ha iniziato a guadagnare fan a novembre. Poteva svolgere compiti semplici come svuotare le caselle di posta, prenotare cene e fare il check-in per i voli. Non aveva bisogno di molto input umano. Funzionava e basta. È questo che lo rendeva interessante. È anche questo che lo rendeva pericoloso.

Kasimir Schulz lavora in un'azienda chiamata HiddenLayer che si concentra sulla sicurezza dell'IA. Kasimir ha detto che OpenClaw è un esempio perfetto di quello che chiama la "triade letale".

Ha accesso a dati privati, può comunicare con il mondo esterno e può leggere contenuti sconosciuti. Questa è la ricetta completa per un disastro, e OpenClaw ha tutto questo.

Yue Xiao, professore di informatica al William & Mary, ha detto che è possibile rubare i dati di qualcuno attraverso OpenClaw ingannadolo con quella che viene chiamata prompt injection. È quando un hacker nasconde comandi all'interno di quello che sembra un messaggio normale. Yue ha detto che questo tipo di tecnologia apre la porta a nuovi tipi di attacchi per cui la maggior parte delle persone non è pronta.

Il creatore ammette che OpenClaw non è pronto per l'uso mainstream

Peter Steinberger, che ha creato OpenClaw, ha detto che il progetto non è finito. Ha detto a Bloomberg in un'email: "Semplicemente non è ancora pronto, ma ci stiamo arrivando."

Peter ha detto che poiché è open source, chiunque può vedere il codice e lavorarci. Ha detto che si stanno facendo progressi, ma non è ancora pronto per gli utenti quotidiani.

Peter non pensava che il rilascio fosse arrivato troppo presto. Ha detto che costruisce tutto apertamente e non crede nel trattenere fino a quando non è perfetto. Ha anche detto che molti dei problemi derivano dal fatto che gli utenti non leggono le istruzioni di configurazione.

Peter ha chiarito che non esiste una sicurezza al 100 percento quando si utilizzano modelli linguistici di grandi dimensioni. Ha detto che OpenClaw è pensato per persone che sanno cosa stanno facendo e comprendono i rischi.

Ha anche detto che la prompt injection non è solo un problema del suo strumento. L'ha definito un problema che esiste ovunque nel mondo dell'IA. Peter ha detto di aver coinvolto un esperto di sicurezza per aiutare a risolvere le cose e rendere OpenClaw più sicuro.

Gli esperti dicono che gli agenti IA stanno crescendo più velocemente di quanto la sicurezza possa tenere il passo

Mentre Peter difende il modo in cui ha costruito OpenClaw, altri esperti dicono che l'intera tendenza degli agenti IA sta sfuggendo di mano. Justin Cappos, esperto di cybersecurity e professore alla NYU, ha detto che è difficile controllare questi strumenti una volta che sono in esecuzione.

Justin ha detto: "Non capiamo perché fanno quello che fanno." Ha paragonato il dare a un agente IA l'accesso al tuo sistema al dare un coltello da macellaio a un bambino.

Il mondo tecnologico si sta affrettando a lanciare nuovi strumenti. Claude Code di Anthropic ha raggiunto un ritmo di entrate da 1 miliardo di dollari in soli sei mesi.

Nel frattempo, le persone che cercano di mantenere sicuri questi strumenti stanno ancora cercando di capire le basi. Justin ha detto che le aziende stanno rilasciando aggiornamenti senza sosta e i team di sicurezza non riescono a tenere il passo.

Michael Freeman di Armis, un'azienda di cybersecurity, ha detto che OpenClaw è stato messo insieme senza alcun vero piano di sicurezza. Ha detto che alcuni clienti di Armis sono già stati colpiti da violazioni di OpenClaw, ma non ha condiviso i dettagli. Michael ha detto che le aziende dovranno rinunciare a un po' di controllo se vogliono continuare a utilizzare strumenti di IA come OpenClaw.

Per ora, la domanda è se le persone utilizzeranno ancora OpenClaw dopo questo disastro. Lo strumento ha fan, ma anche quelle persone si stanno rendendo conto che la libertà senza sicurezza è un problema. E a meno che non vengano apportate modifiche rapidamente, OpenClaw potrebbe diventare l'ultimo esempio di tecnologia che è andata troppo avanti rispetto a se stessa.

Vuoi che il tuo progetto sia davanti alle menti più brillanti del crypto? Mettilo in evidenza nel nostro prossimo rapporto di settore, dove i dati incontrano l'impatto.