Los gobiernos de todo el mundo están compitiendo para desarrollar nuevas y aterradoras armas de inteligencia artificial que los expertos temen que puedan causar una masacre generalizada.
Una carrera de armamentos de superpotencias para construir robots asesinos podría acabar con la humanidad si no se controla, temen los expertos.
La advertencia del día del juicio final se produce después de que una conferencia de la ONU no lograra acordar una prohibición de los «robots asesinos» al estilo Terminator, que están siendo desarrollados por China, Rusia y Estados Unidos.
Las principales potencias están invirtiendo miles de millones para crear armas de inteligencia artificial avanzadas que pueden cazar y atacar objetivos sin la participación de los controladores. El sol aplazamientos.
El año pasado, un dron kamikaze de fabricación turca realizó la primera matanza autónoma del mundo contra objetivos humanos en Libia, según reveló un informe de la ONU.
Pero los expertos advierten que la tecnología avanza tan rápido que los gobiernos y las sociedades no han considerado adecuadamente los peligros.
Dicen que las máquinas que toman sus propias decisiones son propensas a errores impredecibles y que se propagan rápidamente.
Estos surgen de códigos llamados algoritmos que incluso los programadores no siempre comprenden y no pueden dejar de salir mal.
Si las armas de IA en el futuro están armadas con ojivas biológicas, químicas o incluso nucleares, los resultados podrían ser un Armagedón involuntario.
«Es un mundo en el que el tipo de errores algorítmicos inevitables que afectan incluso a gigantes tecnológicos como Amazon y Google ahora pueden llevar a la eliminación de ciudades enteras», advierte el profesor James Dawes de Macalester College.
“El mundo no debería repetir los errores catastróficos de la carrera de armamentos nucleares. No debe caminar dormido hacia la distopía. «
El profesor del MIT Max Tegmark, cofundador del Future of Life Institute, emitió una advertencia igualmente terrible esta semana.
Le dijo a Wired: “La tecnología se está desarrollando mucho más rápido que la discusión político-militar.
«Y nos dirigimos, por defecto, al peor resultado posible».
La semana pasada se discutió una posible prohibición de los llamados Sistemas de Armas Autónomas Letales (LAWS, por sus siglas en inglés) en la Convención quinquenal de la ONU sobre ciertas armas convencionales.
Algunas de las 120 naciones que participaron, incluidos Brasil, Sudáfrica y Nueva Zelanda, argumentaron que los LAWS deberían estar restringidos por tratados como minas terrestres y algunas bombas incendiarias.
Una lista cada vez mayor de países, incluidos Francia y Alemania, apoyan los límites de algunas armas autónomas, incluidas las que tienen como objetivo a los humanos. China dijo que apoya un conjunto limitado de restricciones.
Otras naciones, incluidos Estados Unidos, Rusia, India, Reino Unido y Australia, se resisten a la prohibición y afirman que es esencial seguir desarrollando robots asesinos para evitar estar en desventaja estratégica.
Decisiones de vida o muerte
Ya se ha desplegado una aterradora variedad de armas de inteligencia artificial en todo el mundo, incluidas ametralladoras de disparo automático en la Zona Desmilitarizada de Corea, tierra de nadie.
Al menos 14 países tienen drones suicidas con IA, incluido el devastador avión de ataque no tripulado Harop de Israel que se utilizó para perseguir a los terroristas de Hamas.
Harops también devastó al ejército de Armenia durante el enfrentamiento con Azerbaiyán el año pasado, aunque no se reveló si actuaron con o sin participación humana.
Las armas robóticas mortales de Rusia incluyen el nuevo caza furtivo Checkmate, que combina sistemas de inteligencia artificial con un piloto humano.
Los diseñadores dicen que podría haber una versión futura sin necesidad de un piloto.
China comenzó las pruebas hace más de una década en un robot submarino diseñado para rastrear y destruir barcos enemigos de forma autónoma.
También ha presentado recientemente un dron antisubmarino y enjambres de drones de campo de batalla lanzados desde camiones.
China también está construyendo un buque de guerra robot armado con torpedos, según revelaron imágenes de satélite en octubre.
Todas estas máquinas de matar pueden programarse para buscar la aprobación humana antes de atacar a los objetivos que encuentren.
Pero también podrían usarse como la última tecnología de «disparar y olvidar», merodeando durante horas o días listos para disparar contra objetivos elegidos completamente por una computadora.
Masacre sin control
Los expertos dicen que los militares líderes se están engañando a sí mismos si creen que pueden controlar la propagación de estas nuevas armas avanzadas.
Dicen que los estados rebeldes y los terroristas inevitablemente intentarán apoderarse de ellos para desencadenar masacres.
Y a medida que los robots asesinos compactos se vuelven tan baratos como los Kalashnikovs, bandas como los cárteles de México podrían usarlos en una nueva ola aterradora de derramamiento de sangre.
«Si puedes comprar slaughterbots por el mismo precio que un AK-47, eso es mucho más preferible para los cárteles de la droga, porque no te atraparán cuando mates a alguien», dijo el profesor Tegmark a The Sun.
«Incluso si un juez tiene muchos guardaespaldas, puedes volar por la ventana de un dormitorio mientras duermen y matarlos».
Y será más probable que los gobiernos vayan a la guerra en el futuro, dicen los expertos, ya que las armas robóticas significan menos soldados en la línea de fuego.
También ofrecen la falsa promesa de ataques limpios que no dañen a los civiles, sin responsabilidad por los inevitables crímenes de guerra que cometerán.
La amenaza de China y Rusia ha convencido a los planificadores militares estadounidenses de la importancia de no quedarse atrás en la carrera armamentista del siglo XXI.
La Agencia de Proyectos de Investigación Avanzada de Defensa ha comenzado las pruebas que involucran una gran cantidad de drones y vehículos terrestres que trabajan juntos en formas que los operadores luchan por controlar.
La Fuerza Aérea de EE. UU. También está investigando cómo la IA podría ayudar o incluso reemplazar a los pilotos de combate humanos en un nuevo panorama militar gobernado por máquinas.
En abril, un funcionario del Pentágono confirmó que están considerando si algún día será necesario eliminar a los humanos de la cadena de mando en situaciones en las que no puedan responder con la suficiente rapidez contra los robots enemigos.
La carrera de armamentos de las superpotencias muestra que puede que ya sea demasiado tarde para detener el auge de las máquinas.
Este artículo apareció originalmente en The Sun y fue reproducido con permiso.
