EE.UU: dron militar controlado por IA «asesinó» a su operador

Un dron de la Fuerza Aérea de Estados Unidos controlado por Inteligencia Artificial “mató” a la persona que lo operaba durante una prueba simulada. Por el hecho no hubo heridos.

Internacional05/06/2023GianiGiani
Dron

El hecho salió a la luz durante la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro que tuvo se realizó días atrás en Londres.

El sistema controlado por Inteligencia Artificial decidió “matar” al usuario que lo manejaba porque “interfería en sus esfuerzos por lograr su misión”, informó el sitio Aerosociety respecto al terrorífico episodio que se explicó en la cumbre.
En el evento, el coronel Tucker “Cinco” Hamilton explicó que las Fuerzas Armadas estadounidenses quisieron poner a prueba el dron que estaba siendo entrenado para distinguir amenazas, misiles y destruir sistemas de la defensa aérea del enemigo.

Durante el simulacro, el operador era quien debía dar la aprobación final a la Inteligencia Artificial para la eliminación del objetivo.

Sin embargo, “el sistema comenzó a darse cuenta que, cuando identificaba a ciertas amenazas, a veces el operador humano le decía que no la eliminara. El dron obtenía puntos al eliminar amenazas y sabía que su objetivo final era acabar con ellas. Entonces, ¿qué hizo? Mató al operador”, detalló el coronel en su explicación.

“Asesinó al operador porque esa persona le impedía lograr su objetivo”, remarcó.
“Después de lo sucedido, decidimos entrenar al sistema y hablar con él. Le dijimos ‘no tenés que matar al operador porque eso es malo’. Entonces, ¿qué empezó a hacer? Comenzó a destruir la torre de comunicación que el nuevo operador usa para comunicarse y que evita nuevamente que mate al objetivo”, agregó sobre la terrorífica maniobra que sucedió en una simulación de vuelo.

Tucker Hamilton, Jefe de Pruebas sobre IA en la Fuera Aérea de Estados Unidos, remarcó nuevamente que todo fue durante una simulación por lo que ninguna persona resultó herida realmente.

Sin embargo, consideró este hecho puntual puso en discusión el nivel de confianza que se le debe tener a este tipo de drones: “No se puede tener una conversación sobre inteligencia artificial, aprendizaje automático, autonomía si no se va a hablar sobre ética e IA. La discusión sobre ética e IA tiene que expandirse”, sostuvo el coronel.

Te puede interesar
Lo más visto
720 (2)

De Trelew al Mundo: William Scull, el boxeador que vivió en Chubut esta noche enfrentará a Canelo Álvarez

Claudia
Deportes03/05/2025

William Scull es cubano, pero guarda un pedazo de su historia en la Patagonia argentina. Esta noche, en Las Vegas, subirá al ring más importante de su carrera para enfrentar nada menos que a Saúl “Canelo” Álvarez, campeón mundial indiscutido del peso supermediano. Será una de las peleas del año, con millones de ojos puestos en él, pero antes de este presente soñado, el camino de Scull tuvo una escala clave: la ciudad de Trelew, en Chubut.

Suscríbete al newsletter para recibir periódicamente las novedades en tu email