¿Quiere recibir notificaciones de alertas?

Logo Am2022
PUBLICIDAD

Desnudos falsos de compañeras con IA: “No estamos frente a monstruos, estamos frente a chicos que no miden el daño”

Ante la reiteración de casos de estudiantes que utilizan herramientas de inteligencia artificial para crear imágenes sexuales falsas de compañeras menores de edad, la psicopedagoga Mariana Savid Saravia advirtió sobre las consecuencias de esta forma de violencia digital. 

Agregar Mejorinformado en
Agrega Mejorinformado a tus medios preferidos en Google
PUBLICIDAD
Deepfakes sexuales en las escuelas: la advertencia de una psicopedagoga sobre el uso de la IA para desnudar alumnas.

La utilización de herramientas de inteligencia artificial para crear imágenes falsas de contenido sexual con los rostros de alumnas menores de edad encendió una señal de alarma en distintas comunidades educativas de Argentina. La creación de desnudos falsos, su circulación en redes sociales y, en algunos casos, su comercialización exponen una nueva modalidad de violencia digital que tiene consecuencias reales sobre las víctimas.

Para reflexionar sobre esta problemática, la psicopedagoga Mariana Savid Saravia dialogó con el programa Entretiempo, por AM 550, donde planteó la necesidad de abordar estos hechos desde una perspectiva de género, educación y responsabilidad colectiva.

"Estamos hablando de violencia de género digital, con consecuencias profundas en la vida de la víctima", sostuvo la especialista. Y advirtió que estas situaciones también ponen en evidencia la vulnerabilidad de niños, niñas y adolescentes frente a un entorno tecnológico cada vez más complejo.

Consideró que cuando un adolescente utiliza inteligencia artificial para desnudar digitalmente a una compañera no solo demuestra desconocimiento de las responsabilidades legales, sino también una preocupante desconexión respecto del respeto por el otro y su dignidad.

Sin embargo, aclaró que no se trata de etiquetar a los adolescentes como monstruos, sino de comprender que muchas veces utilizan herramientas muy poderosas sin dimensionar el daño que pueden provocar. "No estamos frente a monstruos, estamos frente a chicos que quizás no miden el daño", reflexionó. En ese sentido, señaló que los adultos muchas veces permanecen ajenos a lo que sucede en los entornos digitales que frecuentan los jóvenes.

Mariana Savid Saravia: "Detrás de cada clic hay una dignidad que no se negocia".

Inteligencia artificial y violencia sexual digital: el consentimiento como eje

Savid Saravia explicó que la creación de imágenes falsas mediante inteligencia artificial, conocidas como deepfakes, puede convertirse en una herramienta de humillación y disciplinamiento hacia las mujeres. "Es una manera de disciplinar a las mujeres por el hecho de serlo, atacando de lleno su integridad", afirmó.

Para la psicopedagoga, uno de los aspectos centrales que deben trabajarse en las instituciones educativas es el consentimiento. Que una fotografía haya sido compartida originalmente en una red social o enviada a otra persona no significa que exista autorización para modificarla, desnudar digitalmente a quien aparece en ella o difundir una imagen sexual falsa.

La especialista remarcó que estas prácticas no pueden considerarse una simple broma o una picardía adolescente. Detrás de cada publicación existe una persona cuya intimidad, dignidad e integridad pueden resultar profundamente afectadas.

 

"Les entregamos un avión supersónico cuando todavía no aprendieron a caminar"

Durante la entrevista, la psicopedagoga compartió una experiencia que vivió en uno de los talleres de prevención que realiza en escuelas primarias y secundarias. En una charla, un estudiante de primer año le contó con total naturalidad que un amigo tenía una inteligencia artificial capaz de desnudar personas y que había utilizado una fotografía suya para probarla.

Cuando Savid Saravia le preguntó qué había ocurrido con esa imagen, el chico respondió que la habían borrado. Entonces, la especialista le explicó que una fotografía compartida en internet puede permanecer almacenada en la nube y que incluso podría quedar expuesta si alguien accede al dispositivo. "Ahí empezó a mirar para arriba y tomó conciencia", recordó.

La situación le permitió dimensionar el alcance que pueden tener estas herramientas cuando llegan a manos de adolescentes que todavía están aprendiendo a reconocer los riesgos y las consecuencias de sus acciones. "Les entregamos un avión supersónico cuando todavía no aprendieron a caminar y esto es muy peligroso", graficó.

Por eso, insistió en que no alcanza con controlar los teléfonos celulares o establecer una cantidad de horas de pantalla. Es necesario generar espacios de conversación, prevención y reflexión sobre el consentimiento, la violencia sexual digital y las relaciones de género.

"Tenemos que unirnos, padres, educadores, instituciones y plataformas, creando estrategias conjuntas sostenidas en el tiempo para proteger y cuidar a nuestros niños, niñas y adolescentes", expresó. Dejó una definición que sintetiza el sentido de su planteo: "Detrás de cada clic hay una dignidad que no se negocia".

Ley Ema: educación y prevención frente a la violencia digital

Otro de los puntos centrales de la entrevista fue la necesidad de avanzar con herramientas educativas y protocolos específicos para prevenir estas situaciones. En ese contexto, Savid Saravia mencionó la Ley Ema, una iniciativa impulsada por Laura, mamá de Ema, que busca fortalecer la prevención y el acompañamiento de niños, niñas y adolescentes en los entornos digitales.

Hace unas semanas atrás, la provincia de Buenos Aires ya cuenta con la Ley Ema, una normativa que modifica la ley de Educación e incorpora lineamientos, además de un programa específico, para prevenir y erradicar la violencia digital en los entornos escolares. Se trata de una normativa que nació a partir del dolor de Laura, la mamá de Ema Bondaruk, luego de que la joven de 16 años se quitara la vida a partir de la difusión virtual de imágenes íntimas sin su consentimiento.

La psicopedagoga explicó que la propuesta no apunta principalmente a establecer castigos, sino a generar instancias de aprendizaje y prevención para evitar que estos hechos vuelvan a repetirse. Entre sus ejes mencionó la necesidad de contar con protocolos claros en las escuelas, formación para docentes, presupuesto y acompañamiento para las víctimas.

También consideró fundamental que el tema deje de ser una preocupación exclusiva de las instituciones educativas y comience a abordarse en las familias y en los distintos espacios donde se desarrollan los adolescentes. "La violencia digital no es exclusiva de conductas individuales. Hay una corresponsabilidad de las familias, las escuelas, el Estado, las plataformas y las empresas que desarrollan inteligencia artificial", señaló.

"La violencia digital no es exclusiva de conductas individuales. Hay una corresponsabilidad de las familias, las escuelas, el Estado, las plataformas y las empresas que desarrollan inteligencia artificial", señaló la especialista.

La responsabilidad de los adultos frente a los riesgos de la inteligencia artificial

Hacia el final de la entrevista, Saravia insistió en que la prevención requiere un compromiso sostenido de toda la sociedad. La educación digital, el pensamiento crítico y la responsabilidad social deben formar parte de la formación de los chicos y chicas desde edades tempranas.

Además, reclamó que las autoridades y los legisladores de Neuquén avancen en iniciativas que permitan fortalecer la protección de las infancias y adolescencias frente a estas nuevas formas de violencia.

"No lo puede hacer la escuela sola, ni la familia sola, ni el Estado solo. Tenemos que unirnos, padres, educadores, instituciones y plataformas, creando estrategias conjuntas sostenidas en el tiempo para proteger y cuidar a nuestros niños, niñas y adolescentes", expresó. Dejó una definición que sintetiza el sentido de su planteo: "Detrás de cada clic hay una dignidad que no se negocia".

PUBLICIDAD
PUBLICIDAD
PUBLICIDAD
PUBLICIDAD
PUBLICIDAD
PUBLICIDAD
PUBLICIDAD