El fiscal general de Washington, Nick Brown, se sumó a un esfuerzo nacional para frenar la proliferación de la pornografía deepfake, un tipo de contenido generado por inteligencia artificial que se difunde ampliamente en internet. Brown, junto a decenas de fiscales generales de diferentes estados, envió cartas a plataformas tecnológicas y compañías de pago para exigir acciones más estrictas contra este fenómeno.
Pornografía deepfake: un problema creciente
De acuerdo con datos citados en las misivas, el 98 % de los videos falsos publicados en línea corresponden a pornografía deepfake. La mayoría de estos materiales están dirigidos a mujeres y niñas, acumulando cientos de millones de visualizaciones.
Este año, la Legislatura de Washington aprobó una ley pionera que tipifica como delito menor la distribución intencional de imágenes digitales falsificadas. Se trata de la primera normativa en Estados Unidos que impone responsabilidad penal por cualquier deepfake malicioso, no limitado a lo sexual o político. La ley entró en vigor a finales de agosto.
De acuerdo al Washington State Standard, el estado ya había establecido sanciones civiles para candidatos políticos representados en contenido manipulado que no se revela como fabricado, y han prohibido fotografías y videos sexuales de niños que han sido alterados digitalmente, además de compartir cualquier imagen íntima falsa.
Iniciativas estatales y federales
Las regulaciones locales enfrentaron un desafío este verano, cuando el Congreso evaluó prohibir leyes estatales sobre inteligencia artificial dentro de un paquete fiscal. Sin embargo, la senadora Maria Cantwell (D-WA) encabezó los esfuerzos para eliminar esa cláusula.
A nivel federal, el presidente Donald Trump firmó en mayo la Take It Down Act, legislación bipartidista que obliga a las plataformas a eliminar en un máximo de 48 horas imágenes íntimas no consensuadas, incluyendo deepfakes sexuales.
Exigencias a procesadores de pago y motores de búsqueda
En una de las cartas, los fiscales generales pidieron a Visa, Mastercard, American Express, PayPal, Google Pay y Apple Pay que prohíban el uso de sus servicios en transacciones relacionadas con deepfakes pornográficos. Recordaron que en 2020 Visa y Mastercard suspendieron su relación con Pornhub por alojar videos de agresión sexual.
“Las plataformas de pago no solo deberían negar servicios a quienes lucran con este contenido, sino también trabajar activamente para identificar y eliminar a esos vendedores de su red”, señala el documento.
En una segunda carta, dirigida a Google, Microsoft y Yahoo, los fiscales pidieron limitar el acceso a estas herramientas y modificar los resultados de búsqueda. Compararon el problema con otros temas sensibles: cuando un usuario busca cómo fabricar una bomba o cómo suicidarse, los motores de búsqueda ofrecen recursos de seguridad o prevención; en cambio, al buscar cómo crear pornografía deepfake aparecen tutoriales sin advertencias.
La presión sobre la industria tecnológica
Empresas como Civitai, dedicada a la inteligencia artificial generativa, ya han enfrentado restricciones. Este año, uno de sus procesadores de pago se retiró por preocupaciones sobre contenido no consensuado, obligándola a operar con criptomonedas.
Los fiscales generales sostienen que la tecnología debe ser parte activa en la prevención: no solo eliminar material cuando se denuncia, sino también implementar filtros, advertencias y bloqueos preventivos.
¿Qué es la pornografía deepfake?
La pornografía deepfake es contenido digital de IA que manipula rostros en videos. Las personas son añadidas a contenido pornográfico sin su consentimiento.
¿Qué exigió el fiscal general a las empresas tecnológicas?
Nick Brown y otros fiscales exigieron a las compañías de pago que prohíban las transacciones que financian la pornografía deepfake y a los motores de búsqueda que tomen medidas contra la pornografía deepfake limitando el acceso a herramientas para su creación y ofreciendo recursos de prevención.
¿Se han aprobado leyes contra el deepfake?
Sí. El estado de Washington aprobó una ley pionera que penaliza la distribución de cualquier deepfake malicioso. A nivel federal, la Take It Down Act obliga a las plataformas a eliminar en 48 horas el contenido íntimo no consensuado.
Si ves algún error de cualquier tipo en esta información puedes escribirnos al email: info@latinoherald.com
