El diputado provincial, Carlos del Frade presentó un proyecto en la Cámara Baja de la Legislatura Provincial para proponer criterios de uso en lo que se conoce como Inteligencia Artificial (IA)
En ese orden, los criterios generales de uso de dispositivos digitales personales y herramientas de inteligencia artificial por parte de estudiantes sólo podrán admitirse cuando tenga finalidad pedagógica, de accesibilidad, de salud o de emergencia.
Por lo pronto, el diputado del Frente Amplio por la Soberanía realiza algunas aclaraciones importantes en su proyecto.
Se entiende por:
a) Dispositivos digitales personales: teléfonos celulares, relojes inteligentes, tabletas, computadoras portátiles y demás dispositivos de uso individual no provistos por la institución.
b) Inteligencia artificial: sistemas capaces de generar, clasificar, recomendar, predecir, asistir, automatizar o producir contenidos, decisiones o respuestas a partir de datos, algoritmos o modelos entrenados.
c) Tecnologías emergentes: desarrollos tecnológicos digitales de rápida incorporación educativa, incluidos asistentes automatizados, plataformas adaptativas, sistemas generativos y otros equivalentes actuales o futuros.
d) Uso pedagógico: aquel que responde a finalidades de enseñanza, aprendizaje, evaluación, accesibilidad, inclusión o acompañamiento de trayectorias, debidamente encuadrado por la institución y el personal docente.
Ahora bien, en el nivel inicial no se permitirá el uso de dispositivos digitales personales por parte de niñas y niños durante la jornada escolar, salvo situaciones excepcionales de accesibilidad, salud o emergencia debidamente justificadas y autorizadas por el equipo directivo. La incorporación de tecnologías en este nivel deberá responder a criterios pedagógicos restrictivos, de alta mediación docente y de baja exposición individual.
En el nivel primario, los dispositivos digitales personales de las y los estudiantes no podrán utilizarse durante la jornada escolar.
En el secundario, los dispositivos digitales personales sólo podrán utilizarse en instancias de clase cuando el o la docente lo disponga con fines pedagógicos, en el marco de la planificación correspondiente o de proyectos institucionales.
Según propone del Frade en su iniciativa, la utilización de herramientas de inteligencia artificial y de tecnologías emergentes en el sistema educativo provincial deberá orientarse a fortalecer la enseñanza, la comprensión, la producción, la retroalimentación, la accesibilidad y el acompañamiento de trayectorias, sin sustituir indebidamente procesos pedagógicos centrales ni debilitar la formación intelectual, crítica, ética y autónoma de las y los estudiantes.
Asimismo queda prohibida la utilización de herramientas de inteligencia artificial y tecnologías emergentes cuando:
a) Reemplacen de modo generalizado e indiscriminado la producción intelectual estudiantil.
b) Impidan verificar los procesos reales de comprensión, elaboración y aprendizaje.
c) Vulneren la privacidad, la intimidad o la protección de datos personales.
d) Introduzcan sesgos discriminatorios o decisiones automatizadas sin supervisión humana.
e) Afecten la integridad académica, la validez de la evaluación o la autoría de las producciones.
f) Sean utilizadas para hostigar, humillar, manipular o vulnerar derechos de integrantes de la comunidad educativa.
Ahora, cuando en actividades escolares o académicas se autorice el uso de herramientas de inteligencia artificial, la institución y el personal docente deberán establecer criterios claros sobre:
a) Qué usos están permitidos.
b) En qué actividades o instancias pueden emplearse.
c) Cuándo corresponde declarar su utilización.
d) Qué aspectos deben ser necesariamente de elaboración propia.
e) Qué criterios de evaluación se aplicarán.
En todos los niveles y modalidades queda prohibido:
a) Captar, grabar, fotografiar, filmar, reproducir o difundir imágenes, audios o videos dentro del establecimiento sin autorización institucional y sin consentimiento, conforme a la normativa vigente.
b) Utilizar dispositivos o tecnologías digitales para hostigamiento, acoso, intimidación, discriminación o afectación de derechos.
c) Emplear herramientas tecnológicas para simular autoría, falsear producciones o vulnerar la integridad de las evaluaciones.
d) Utilizar tecnologías emergentes sin la mediación institucional exigida cuando así lo disponga la reglamentación.
Por otra parte, la presente ley no podrá aplicarse en perjuicio de estudiantes que requieran tecnologías digitales como apoyos de accesibilidad, comunicación, seguimiento de salud, monitoreo médico, traducción, adaptación o cualquier otro recurso necesario para el ejercicio pleno del derecho a la educación.
La reglamentación “establecerá procedimientos ágiles, razonables y no estigmatizantes para estos supuestos”, indicó el diputado.
Se propone que la autoridad de aplicación sea el Ministerio de Educación.
En su proyecto del Frade narra que la filósofa Carmody Grey fue noticia al rechazar la oferta de una empresa que vende servicios de Inteligencia Artificial a escala planetaria. La invitaron a participar en una “colaboración de investigación con las tradiciones de sabiduría” para la reconocida Anthropic.
Sus dichos resultan fundamentales para pensar la relación con la IA y especialmente pensar sus efectos en niñas, niños y adolescentes:
La versión favorable es que son gente lista. Se han dado cuenta de que la IA es existencial y que plantea preguntas del nivel más básico sobre qué es un ser humano, qué es una máquina, dónde está la frontera, qué es la conciencia – sostuvo en una entrevista publicada en el diario español “El País” y en “La Nación”.
Para ella, es fundamental tomar conciencia que la IA “concentra el poder, difumina la responsabilidad, esquilma la naturaleza, expropia culturas y lenguas con el ánimo de lucro y probablemente nos haga más solos y tonos”, escribió el diputado en su proyecto.
“Este proyecto de ley busca salir del atronador canto de sirenas y cuidar la cabeza de las alumnas y los alumnos del sistema educativo provincial. Tiene como antecedente lo recientemente sancionado en la Legislatura de Río Negro”, señaló del Frade.
