ClaudiaTom Siegel, exvicepresidente de confianza y seguridad de Google, advirtió que el impacto de la inteligencia artificial en los niños puede ser aún más grave que el de las redes sociales. El especialista pidió controles externos sobre el sector tecnológico y cuestionó que las propias empresas puedan resolver por sí solas los riesgos que plantea el uso de IA entre menores.
«Nos encontramos en una situación realmente terrible en lo que respecta al impacto que la IA está teniendo en los niños», dijo Siegel a Reuters. Para el exejecutivo de Google, la idea de que la industria pueda solucionar el problema sin ayuda externa «es poco realista».
La advertencia se suma a las preocupaciones de expertos tecnológicos, investigadores y académicos sobre el uso irrestricto de los chatbots. El temor es que la expansión de la IA entre los jóvenes repita los problemas que surgieron con las redes sociales, mientras las compañías aceleran el lanzamiento de nuevas funciones.
Siegel fue uno de los fundadores del equipo de confianza y seguridad de Google, compañía en la que trabajó entre 2004 y 2019. Esta semana pidió frenar el desarrollo de la IA y sostuvo que la industria tecnológica está repitiendo errores de la etapa de expansión de las redes sociales.
Las plataformas sociales enfrentan actualmente miles de demandas y elevados costos legales por cuestiones vinculadas con el impacto sobre usuarios jóvenes. Al mismo tiempo, distintos gobiernos trabajan en restricciones para limitar el acceso de los menores a esas plataformas.
Para Siegel, la IA puede plantear riesgos similares, aunque con nuevas características. Entre los escenarios que mencionó aparecen el suicidio, la psicosis y la llamada «descarga cognitiva», un concepto que utiliza para describir una posible disminución del pensamiento crítico cuando las personas recurren a la inteligencia artificial para obtener respuestas.
Siegel anunció su incorporación a Common Sense Media, una organización dedicada a la protección de los niños en Internet que también investiga y evalúa contenidos para menores.
En mayo, la organización creó el Instituto para la Seguridad de los Jóvenes en la IA, destinado a estudiar cómo utilizan los niños las herramientas de inteligencia artificial. Siegel será su primer director ejecutivo.
Entre los patrocinadores del instituto se encuentran Anthropic y la Fundación OpenAI, la organización sin fines de lucro que controla OpenAI. Siegel señaló que buscará desarrollar normas que permitan exigir responsabilidades a las empresas de IA y que espera trabajar junto con compañías tecnológicas y grupos independientes.
El exjefe de seguridad de Google también señaló algunas medidas que, según planteó, las empresas podrían implementar de manera inmediata.
En el caso de Anthropic y OpenAI, mencionó la posibilidad de aplicar sistemas de verificación de edad más estrictos para impedir que los menores accedan a sus chatbots.
Respecto de Google, sostuvo que la compañía podría incorporar fácilmente una opción para desactivar los «Resúmenes de IA» y el «Modo IA» en su buscador. Según Siegel, esa alternativa podría funcionar de manera similar al mecanismo que Google ya ofrece para filtrar contenido sexualmente explícito.
Siegel dejó Google después de concluir que la industria tecnológica se había «estancado» en su capacidad para crear espacios online seguros. Ahora, desde Common Sense Media, busca impulsar controles específicos para una tecnología que, según advirtió, ya está generando nuevos riesgos para los menores.
