Violencia digital en la era de la IA: ¿Qué tan seguros estamos?

La IA desafía al mundo de la educación, metiéndose en una enorme cantidad de ámbitos que, al no estar regulados, afectan la vida de nuestros niños, niñas y adolescentes.

La llegada de Chat GPT y otras aplicaciones de inteligencia artificial a la realidad escolar ha sido demasiado rápida y vertiginosa, provocando que muchos colegios vean hoy cómo sus reglamentos están obsoletos. No dan abasto para abordar las situaciones de mal uso y sus familias no cuentan con la formación digital y socioemocional necesaria para enfrentar esta situación. Los perjuicios a los que se exponen los estudiantes al usar mal la tecnología pueden ser muy profundos e irreparables.

Una de las consecuencias más evidentes de la tecnología y la IA es la capacidad de promover la violencia digital. Un tipo de maltrato muy extendido entre los jóvenes es la violencia de género, donde los actos violentos se ven agravados por la condición de la víctima, ya sea porque es mujer o por su orientación sexual. Desde la perspectiva de la protección legal, debemos reconocer que nuestro país está en deuda con este tema. Hoy contamos con una ley de protección de datos personales del año 1999, claramente insuficiente y con vacíos legales sobre protección de la privacidad e integridad de las
personas en su vida digital, que se deben abordar de manera urgente.

¿Cuál es la realidad que estamos viendo en los colegios?

Junto con las iniciativas de varios establecimientos por prohibir o restringir el uso de dispositivos móviles durante la jornada, hemos visto un gran interés por desarrollar instancias de formación para educar en el uso ético, seguro y responsable de las tecnologías. Ya está bastante instalada la idea de que más que centrarse en prohibir, hay que educar en el buen uso.

Los establecimientos, impulsados por las exigencias de la autoridad ministerial y a fin de establecer una cultura preventiva del conflicto y la violencia, cuentan en su mayoría con los protocolos de violencia digital necesarios para abordar las situaciones de ciberacoso o mal uso de redes, con el consiguiente daño a las personas de la comunidad escolar. No pocas veces con un sesgo muy punitivo y castigador, olvidando su función formativa y la incorporación de programas formativos para los apoderados.

Además, quisiera destacar el creciente interés de los equipos de convivencia escolar por informarse adecuadamente sobre el modo de abordar las situaciones de violencia digital. Sin embargo, los esfuerzos quedan cortos frente a la realidad y a la necesidad sistemática de formar a profesores, alumnos y familias en estos temas.

Esta situación nos preocupa, pues se ve con frecuencia que, a pesar de contar con estas iniciativas, el resguardo y la protección de los alumnos no siempre es efectiva. Vemos cómo los alumnos manipulan fotos de compañeros o profesores, comparten contenido íntimo sin conciencia alguna del impacto que esto provoca, se envían mensajes ofensivos y amenazas. Solemos llegar tarde. Cuando sale a la luz uno de estos problemas, queremos ver rodar cabezas, pedimos sanciones y las penas del infierno para los responsables. Finalmente, estos actos son las consecuencias de estudiantes que no han sido educados en la responsabilidad de sus actos. Es más, los dejamos solos detrás de una pantalla desde muy temprana edad.

Desde las actividades impulsadas por la Fundación para la Convivencia Digital vemos con preocupación esta situación, pues nos demuestra una realidad evidente: es clave formar las conciencias de los estudiantes en el buen uso de la tecnología, en la responsabilidad de las acciones propias y ajenas consentidas o presenciadas, y en la escasa capacidad de reparación que tienen los atentados digitales.

Todo esto nos lleva a señalar que, sin duda, el abordaje de la formación en ciudadanía digital y en la conciencia de responsabilidad por el daño digital es una tarea compartida entre el colegio y la familia. La dimensión de la convivencia digital es un mar sin orillas. El retraso de las leyes para abordar lo que se vive en el mundo virtual es evidente. ¿Qué hacer entonces?

Nuestro llamado es a conversar sobre el tema, en familia, en la sala de clases, formando en nuestros hijos/alumnos conciencias ciudadanas digitales responsables, juiciosas y constructivas.