Reino Unido anunció que ilegalizará la generación de imágenes no consentidas y deepfakes íntimos creados por la inteligencia artificial Grok e impondrá multas elevadas en caso de incumplimiento de la normativa.
Con esta medida, Reino Unido sigue los pasos de Malasia e Indonesia. Estos últimos dos gobiernos bloquearon el acceso a la herramienta de IA creada por xAI, debido a la falta de filtros de seguridad.
Cabe recordar que en las semanas recientes, usuarios en la plataforma X (antiguo Twitter) denunciaron que Grok estaba generando deepfakes de personas, sobre todo mujeres y niñas, con poca ropa o desnudas, sin su consentimiento.
Multas en Reino Unido por deepfakes creados por Grok
La ministra de Tecnología del Reino Unido, Liz Kendall, mostró su rechazo a la creación de fotos sexualizadas por parte de la IA de xAI. «No son imágenes inofensivas. Son armas de abuso, dirigidas desproporcionadamente hacia mujeres y niñas, y son ilegales«, dijo.
En una comparecencia ante la Cámara de los Comunes (baja) del Parlamento británico, la ministra Kendall aseveró que existían reportes de imágenes «criminales» de niños de unos 11 años y de niñas y adolescentes sexualizadas.
Asimismo, tienen registros de «mujeres en biquini, atadas y amordazadas, con moratones, cubiertas en sangre y mucho más». «Hay vidas que pueden y han sido devastadas por este contenido, que está diseñado para acosar, atormentar y violar la dignidad de la gente«, continuó.
Por otra parte, el regulador de comunicaciones británico (Ofcom) había expresado “serias preocupaciones” ante una de las funciones de Grok. Específicamente, la que permitía a los usuarios generar “imágenes de personas con poca ropa e imágenes sexualizadas de niños”.
Ante esto, esta semana Ofcom decidió abrir una investigación formal contra la red social X. El objetivo es verificar si la plataforma de Elon Musk violó las leyes británicas tras la difusión masiva de imágenes sexuales explícitas, incluyendo contenido que involucra a menores.
En caso de que se confirme el incumplimiento de la ley, el regulador puede exigir cambios inmediatos o aplicar sanciones económicas severas. Al respecto, las multas podrían alcanzar los 18 millones de libras (unos 21 millones de euros) o, si la cifra es mayor, el 10 % de los ingresos globales de la compañía.
En los escenarios más críticos, las autoridades británicas podrían acudir a los tribunales para bloquear el acceso a la red social en el país o restringir sus operaciones con anunciantes y proveedores de pago.
¿Qué hizo xAI?
Ante la reciente polémica y la oleada de críticas a escala mundial, xAI limitó la función de generación de imágenes en Grok a sus suscriptores de pago. De modo que cualquier foto editada se registrará bajo el nombre y la cuenta de pago de quien la solicitó.
“Cualquier persona que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal”, señaló el ejecutivo Musk en X.
Sin embargo, usuarios denunciaron que esta medida no elimina el problema, sino que lo convierte en una transacción. Por esta razón, países como el Reino Unido están tomando medidas más drásticas para Grok como la imposición de multas si vulnera la ley.
Información de Business Insider y EFE / redacción Minuto Financiero
No dejes de leer: Meta recorta empleos en Reality Labs para dar prioridad a dispositivos de IA
Síguenos en nuestras redes sociales
