Una estructura inflable de gran escala que representa al empresario Elon Musk fue instalada este jueves en el centro de Times Square, Nueva York. La acción forma parte de una protesta civil que denuncia la presunta generación de contenido sexual explícito y pornografía infantil a través de Grok, la herramienta de inteligencia artificial desarrollada por las empresas del magnate.
La movilización ciudadana utilizó la figura para visibilizar mensajes críticos sobre el funcionamiento de la tecnología generativa. En la estructura se leían consignas que vinculan directamente a la empresa SpaceX con la producción de material digital ilícito. Según los organizadores, la falta de filtros de seguridad en el chatbot integrado en la red social X ha permitido la creación de imágenes no consentidas.
De acuerdo con datos difundidos durante la manifestación, basados en reportes periodísticos internacionales, una revisión de 4.4 millones de imágenes distribuidas por la herramienta en un periodo reciente reveló que aproximadamente el 65 por ciento presentaba contenido sexualizado o explícito. Los activistas distribuyeron material informativo instando a la comunidad financiera a retirar el apoyo a la firma tecnológica, bajo el argumento de que la inversión actual no garantiza la protección contra la explotación digital.
La protesta coincide con un momento clave para el sector aeroespacial y tecnológico, ya que SpaceX —compañía que recientemente absorbió a la firma desarrolladora de Grok— tiene programada su salida al índice Nasdaq. Se estima que la oferta pública inicial busca captar cerca de 75 mil millones de dólares, lo que situaría su valor de mercado en torno a los 1.77 billones de dólares.
Esta operación financiera es observada de cerca por especialistas, ya que representa el primer movimiento masivo hacia el mercado público de un grupo de empresas de inteligencia artificial que incluye a firmas como Anthropic y OpenAI. Sin embargo, la controversia por la moderación de contenidos ha generado cuestionamientos sobre la ética corporativa en el desarrollo de estos modelos de lenguaje y generación de imagen.
En el ámbito local, esta discusión resuena en Querétaro, entidad que se ha consolidado como un centro relevante para la industria de centros de datos y desarrollo de software en México. Durante el último año, diversas instituciones académicas y organismos empresariales en el estado han impulsado foros sobre ciberseguridad y el uso ético de la inteligencia artificial, ante el incremento de reportes de violencia digital y el uso de herramientas de IA para la suplantación de identidad.
Expertos en legislación digital en la región han señalado anteriormente la necesidad de marcos normativos que obliguen a las plataformas tecnológicas a implementar salvaguardas robustas, especialmente para prevenir la pornovenganza y la creación de material que afecte la integridad de menores de edad, temas que hoy centran la atención internacional tras los eventos en Nueva York.
Tras la adquisición de la red social X por parte de Musk, las directrices de la plataforma fueron modificadas para permitir desnudos y comportamiento sexual producido con consentimiento, incluyendo animaciones generadas por inteligencia artificial. No obstante, colectivos de la sociedad civil sostienen que estas políticas han sido rebasadas por la práctica, detectando las siguientes fallas principales:
- Insuficiencia en la infraestructura de moderación automática para detectar material prohibido.
- Generación de imágenes de personas reales sin su consentimiento en contextos íntimos.
- Distribución de contenidos que vulneran los derechos de protección a la infancia.
A pesar de que las normas oficiales de la empresa prohíben estrictamente la explotación sexual, la tendencia de los suscriptores hacia el uso de estas herramientas para fines no consensuados mantiene en alerta a organismos internacionales de derechos humanos.
