El Fiscal General de California, Rob Bonta, envió una carta de cese y desistimiento a xAI de Elon Musk, exigiendo que la empresa deje de producir y difundir inmediatamente imágenes deepfake ofensivas producidas por su chatbot Grok.
El Fiscal General de California publicó la carta de cese y desistimiento el viernes en respuesta a las acusaciones de que Grok estaba siendo utilizado para crear contenido ilegal que involucraba a niños y fotografías de adultos sin consentimiento, lo que provocó una investigación del estado de California. Bonta argumentó que es ilegal crear, distribuir, publicar y mostrar CSAM.
El Fiscal General de California apunta a xAI por presunto uso indebido de Grok
A principios de esta semana, la oficina del fiscal general de California declaró que estaba investigando a xAI debido a acusaciones de que el chatbot de la startup, Grok, estaba siendo utilizado para producir imágenes inapropiadas y sin consentimiento de mujeres y niños. En respuesta, el gobierno envió a la corporación una carta de cese y desistimiento.
La oficina del Fiscal General afirmó además que xAI parece estar "facilitando la producción a gran escala" de fotos inapropiadas y sin consentimiento, que luego son "utilizadas para acosar a mujeres y niñas en todo Internet". Según la oficina del Fiscal General, una investigación encontró que más de la mitad de las 20,000 fotos producidas por xAI entre Navidad y Año Nuevo mostraban personas con muy poca ropa, algunas de las cuales parecían niños.
Rob Bonta afirmó en el anuncio que las prácticas corporativas violaron las leyes civiles de California, incluido el Código Civil de California sección 1708.86, las secciones 311 y siguientes y 647(j)(4) del Código Penal de California, y la sección 17200 del Código de Negocios y Profesiones de California.
El Departamento de Justicia de California anticipa que xAI confirmará sus esfuerzos para abordar estos problemas y tomará medidas inmediatas para resolverlos en los próximos cinco días.
Sin embargo, la cuenta de seguridad de X había condenado previamente este tipo de comportamiento del usuario. Aclaró el 4 de enero que toma medidas contra el contenido ilícito en X, como CSAM, eliminándolo, suspendiendo cuentas indefinidamente y colaborando con las autoridades legales y los gobiernos municipales según sea necesario.
Notablemente, el 4 de enero, Elon Musk advirtió que cualquier persona que use o solicite a Grok para crear contenido ilegal enfrentará las mismas consecuencias que si lo hubiera subido.
Los fiscales generales intensifican la presión sobre las empresas de IA por la seguridad infantil
Un inquietante aumento en el contenido para adultos sin consentimiento ha resultado del desarrollo de herramientas de IA generativa gratuitas. Este problema ha estado afectando a varias plataformas, no solo a X.
Por ejemplo, el Fiscal General Bonta y el Fiscal General Jennings de Delaware se reunieron con OpenAI en septiembre del año pasado para expresar sus serias preocupaciones sobre el creciente número de informes sobre cómo los productos de OpenAI interactuaban con los jóvenes.
En agosto del mismo año, el Fiscal General Bonta, junto con otros 44 Fiscales Generales, enviaron una carta a 12 empresas líderes de IA tras los informes de interacciones inapropiadas entre chatbots de IA y niños. Las cartas fueron enviadas a Anthropic, Apple, Chai AI, Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika y xAI.
El Fiscal General Bonta y los 44 Fiscales Generales informaron a las empresas en la carta que los estados de todo el país estaban monitoreando de cerca cómo las empresas desarrollan sus políticas de seguridad de IA. También enfatizaron que estas empresas tienen un deber legal hacia los niños como consumidores, ya que se benefician de que los niños usen sus productos.
En 2023, el Fiscal General Bonta se unió a una coalición bipartidista de 54 estados y territorios para enviar una carta a los líderes del Congreso abogando por el establecimiento de un comité de expertos para investigar el uso potencial de la IA para explotar a los niños a través de CSAM.
La coalición solicitó que la comisión de expertos sugiera leyes para proteger a los niños de tal maltrato. "La producción de CSAM crea un registro permanente de la victimización del niño", según el Departamento de Justicia de los Estados Unidos.
Si estás leyendo esto, ya estás adelante. Mantente ahí con nuestro boletín.
Fuente: https://www.cryptopolitan.com/california-ag-cease-and-desist-to-xai/
