Justicia holandesa ordena a X y Grok cesar la generación de imágenes sintéticas de personas desnudas

Un juzgado de Ámsterdam dictó una sentencia que prohíbe a la plataforma X y a su asistente de inteligencia artificial Grok, ambos pertenecientes a Elon Musk, crear y distribuir imágenes que desnuden a personas sin autorización, además de material de abuso infantil. Si Grok continúa incumpliendo la orden, X quedará impedida de prestar los servicios de su asistente de inteligencia artificial en territorio neerlandés. La sentencia fue impulsada por Offlimits, una organización holandesa dedicada a combatir la violencia digital, que interpuso una demanda después de que Grok lanzara una función capaz de generar deepfakes hiperprocesados de mujeres y menores de edad sin ropas basándose en fotografías reales. Aunque ambas compañías argumentaron estar comprometidas con erradicar este contenido mediante cláusulas en sus términos de servicio y la implementación de mecanismos de bloqueo, el tribunal consideró insuficientes estas medidas. El fallo judicial señaló que Offlimits demostró de manera concluyente que existían dudas fundadas respecto a la efectividad de los controles implementados, ejemplificando que la organización logró generar mediante Grok un video de una persona sin ropa momentos previos a la audiencia judicial. La prohibición abarca tanto la creación de imágenes de residentes neerlandeses como su fabricación y distribución dentro del país. Las violaciones a esta orden conllevarán sanciones de cien mil euros diarios, aproximadamente ciento dieciséis mil dólares, pudiendo alcanzar un techo máximo de diez millones de euros, equivalente a once millones seiscientos mil dólares estadounidenses. Paralelamente, el Parlamento Europeo avanzó en la aprobación de normativas que buscan ilegalizar en toda la Unión Europea los sistemas de inteligencia artificial destinados a crear representaciones desnudas de individuos sin su aceptación previa, iniciativa respaldada por los gobiernos miembros del bloque continental.