Las autoridades de Brasil han tomado una postura firme contra el uso indebido de la tecnología de vanguardia. Recientemente, la Agencia Nacional de Protección de Datos, junto con otras entidades, recomendó a la plataforma X que asegure que su herramienta de inteligencia artificial, Grok, no genere contenido sexualizado en Grok.
De acuerdo con un reporte de Luciano Nascimento para Agência Brasil, la empresa cuenta con un plazo máximo de 30 días para establecer procedimientos técnicos que identifiquen y retiren este material. Asimismo, las instituciones solicitaron la suspensión inmediata de aquellas cuentas que utilicen la IA para producir imágenes eróticas de menores o adultos sin su autorización previa.
Responsabilidad técnica y coautoría legal
El documento oficial subraya que los deepfakes no son solo responsabilidad de los usuarios malintencionados. En este sentido, la interacción directa entre el usuario y la herramienta desarrollada por X convierte a la plataforma en «coautora» de los contenidos y no en una simple intermediaria de información. Por esta razón, la justicia brasileña enfatiza que ofrecer una herramienta sin filtros estrictos resulta insostenible bajo las políticas de seguridad actuales.
Además, el Supremo Tribunal Federal de Brasil ha señalado que los proveedores de internet tienen un deber especial de cuidado. Este deber implica tomar todas las medidas necesarias para evitar la difusión de delitos graves, especialmente aquellos que atentan contra la dignidad de las mujeres y los derechos de los niños y adolescentes. El incumplimiento de estas normas podría derivar en sanciones severas para la red social.
Un mecanismo de denuncia eficaz y transparente
Las instituciones también exigen la creación de un sistema transparente para que las víctimas puedan ejercer sus derechos de forma rápida. Por consiguiente, el mecanismo debe permitir denuncias por uso abusivo de datos personales en contenidos sintéticos creados sin consentimiento, garantizando una respuesta en un plazo razonable. La medida responde a quejas sobre la generación de imágenes pornográficas falsas a partir de fotos de personas reales.
En última instancia, si la red social no cumple con estas directrices, las autoridades podrían aplicar medidas administrativas o judiciales adicionales. La prioridad absoluta de esta intervención es salvaguardar los derechos individuales y la dignidad humana ante el avance de la inteligencia artificial sin control. Los ciudadanos esperan que la tecnología sirva para el progreso y no para la vulneración de la intimidad.
