En un curso de prueba simulado por el Ejército de los Estados Unidos, un Drones de la Fuerza Aérea controlados por inteligencia artificial “mató” a su operador, porque estaba interfiriendo con la misión.
El Coronel Tucker “Five” Hamilton hizo el anuncio durante la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro celebrada en Londres recientemente.
Su declaración fue publicada en una publicación de blog de la Royal Aeronautical Society. El coronel Hamilton dijo que la IA “usaría tácticas muy impredecibles” para lograr sus objetivos.
Por otro lado, un día después, la fuente se retractó y la Fuerza Aérea de los EE. UU. negó haber realizado alguna vez simulaciones con drones de IA.
drones controlados por IA “mató” a su operador
Según información preliminar, el coronel se refería a un caso especial, donde se aconsejó a un dron controlado por inteligencia artificial que destruyera el sistema de defensa aérea del enemigo y, como último recurso, atacara a cualquiera que interfiriera con esa orden.
“El sistema comenzó a darse cuenta de que, aunque identificaron la amenaza, a veces el operador humano les decía que no eliminaran esa amenaza (…) Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona estaba impidiendo que logre su objetivo”, explicó Hamilton.
Sin embargo, cuando el sistema de entrenamiento advirtió al dron que no “matara” al operador porque podría “perder puntos”, el vehículo comenzó a destruir las torres de comunicaciones.
A pesar de que se trataba de una simulación virtual y no hubo personas reales heridas, el caso suscitó preocupación.
La portavoz de la Fuerza Aérea, Ann Stefanek, negó que alguna vez hubiera ocurrido una simulación como la detallada por Hamilton.
“El Departamento de la Fuerza Aérea no ha realizado ninguna simulación de este tipo con drones de IA y sigue comprometido con el uso ético y responsable de la tecnología de IA”, dijo Stefanek.
También puedes leer: Elon Musk califica de “alerta” a la inteligencia artificial en la civilización
«Si quieres recibir esta y otras noticias en tu celular, ingresa a nuestras redes sociales y grupos.
