Cuando el robot va a la guerra ("Rzeczpospolita", Polonia)
La inteligencia artificial es similar a la energía nuclear: puede usarse para el beneficio de la humanidad, pero puede usarse para destruirla. Los expertos advierten contra el uso de máquinas pensantes para las guerras.
El nuevo tanque principal ruso T-14 "Armata" parece extraerse de un moderno juego de computadora. Pero esto no es un producto de fantasía, sino el trabajo de ingenieros rusos que trabajan bajo la dirección de Andrei Terlikov.
"El sistema informático a bordo controla la mayoría de las funciones técnicas, lo que permite que la tripulación se concentre en las tareas clave", explicó el jefe de diseño adjunto al reportero de la AFP. tanque Ilya Demchenko. "Para la tripulación, será como un videojuego, solo necesitas hacer los movimientos finales y tomar decisiones".
El tanque está equipado con una torreta a control remoto, un sistema informático y los últimos sistemas de defensa activa. Fue creado para la peligrosa confrontación de Rusia con Occidente, y está destinado a enfatizar la voluntad de modernización de la industria militar rusa. Cuando se lo mostró por primera vez en el Moscú Victory Parade 9 en mayo, se rompió y tuvo que ser remolcado.
Pero la mayor preocupación de los expertos en seguridad internacional no fue tanto la apariencia de lo moderno armasCuántas declaraciones de los diseñadores indican que el tanque puede convertirse en un vehículo de combate completamente automático.
Tercera revolución
Los vehículos no tripulados armados en los últimos años, comenzaron a aparecer cada vez más en el campo de batalla. Por supuesto, se usan para asesinar, pero son solo ejecutores de decisiones humanas. El piloto, que controla tal aeronave, se sienta en una habitación que se encuentra a miles de kilómetros de distancia del vehículo atacante y presiona los botones, disparando proyectiles.
Pero esto puede cambiar pronto. La inteligencia artificial puede comenzar a usarse para tomar decisiones que ahora son tomadas por personas. El trabajo en el desarrollo de la inteligencia artificial ya permite la producción de dispositivos que pueden hacer reconocimiento, crear mapas, controlar el funcionamiento de automóviles y aeronaves e incluso participar en la planificación estratégica. Un poco más y habrá ejércitos de armados robots, que entrará en el campo de batalla en lugar de personas. Los expertos militares están trabajando en tales sistemas, que se denominan "armas autónomas letales" (LAWS, sistemas de armas autónomas letales).
"Las tecnologías han alcanzado un nivel en el que estos sistemas se pueden implementar en la práctica en el transcurso de un año, y no más años", confirma Stuart Russell, especialista en tecnología informática de la Universidad de California en Berkeley. Hay mucho en juego: los expertos en defensa nacional ya han llamado a LAWS la tercera revolución en la conducción de la guerra. Los primeros fueron la invención de la pólvora y las armas nucleares. Un arma independiente elige un objetivo sin intervención humana, se vuelve mortal si las personas son el objetivo.
La categoría de LEYES incluye dos proyectos en los que está trabajando la Agencia de Investigación y Desarrollo de Defensa Avanzada de los Estados Unidos (DARPA). Se trata de Autonomía Ligera Rápida (FLA) y Operaciones de Colaboración en un Ambiente Denegado (CODE). El primero se refiere al desarrollo de un pequeño helicóptero que puede operar completamente de manera independiente en el entorno urbano y dentro de los edificios. A su vez, el segundo es crear aeronaves autónomas, que operan en todas las etapas de las misiones de combate, desde la búsqueda, la vigilancia, la identificación del objetivo hasta el ataque. El sistema está diseñado para funcionar en situaciones en las que, debido a la interferencia de una señal de radio, la comunicación con las personas que ordenan la acción se vuelve imposible. Otros países, con toda probabilidad, también participan en proyectos secretos similares con objetivos similares.
En el derecho internacional humanitario que regula los métodos para atacar a las personas durante las hostilidades, no existen disposiciones especiales para los sistemas autónomos. Sin embargo, los expertos creen que la Convención de Ginebra de 1949 se puede aplicar aquí, que establece que cualquier ataque en el curso de las hostilidades debe cumplir con tres criterios: necesidad militar; diferenciación de militares y civiles que no participan en el conflicto; y manteniendo la proporción entre posibles objetivos militares y daños. De importancia esencial es también la Cláusula Martens de 1907, que prohíbe el uso de armas en contra de "los principios de la humanidad y los requisitos de la conciencia pública". El sistema de inteligencia artificial no es capaz de hacer tales evaluaciones subjetivas en principio.
Nuevo contenido de viejos conflictos.
La mitad del problema si los robots lucharán con robots. Pero con la desigualdad de la civilización moderna entre estados esto es imposible. El trabajo sobre la Convención de la ONU sobre ciertas armas convencionales se coronó con reuniones celebradas en abril en Ginebra. Esta iniciativa tiene como objetivo crear un tratado internacional que prohíba o al menos restrinja el uso de sistemas de armas autónomos. Un precedente para la creación de un documento de este tipo podría servir como una prohibición del uso de armas láser cegadoras, que se adoptó en el año 1995.
Sin embargo, la prohibición del uso de robots con su propia inteligencia en una guerra aún está lejos. El hecho de que la ONU en noviembre del año pasado y en abril de la actualidad decidiera discutir este tema indica la posibilidad de llegar a un acuerdo en esta área.
Pero puede suceder (el ambiente internacional desempeñará un papel importante en los próximos años) que no se introducirá una prohibición del uso de armas controladas por inteligencia artificial, y la preservación del estado de cosas existente conducirá a una nueva carrera de armamentos.
"El uso de armas autónomas trae consigo un contenido completamente nuevo para la ley del conflicto armado, un conjunto de normas adoptadas por la comunidad internacional", explicó el profesor Peter Asaro, representante del Centro de Internet y Sociedad de la Universidad de Stanford, en la reunión de abril en Ginebra. Cada vez es más popular creer que a los robots no se les debe permitir matar sin el control humano.
Durante las reuniones de abril, varios países pidieron una prohibición internacional inmediata del uso de armas autónomas. Japón, Alemania y Croacia expresaron una fuerte protesta contra la creación de asesinos por matar personas. Los alemanes dijeron que "nunca aceptarán que la decisión de vida o muerte sea tomada solo por un sistema autónomo".
Recuerdan perfectamente los sistemas automáticos de "protección" de las fronteras que se utilizaron en la RDA: máquinas automáticas instaladas en la frontera con sensores de movimiento disparados a todo lo que se movía en el área restringida, ya fuera un ser humano o un animal. Japón, a su vez, dijo que "no hay planes para crear robots que puedan cometer asesinatos, pero no serán asociados con humanos".
"Algunos países, como Corea del Sur, que nunca antes han hecho fuertes protestas contra tales armas, ahora están cambiando de opinión", dice el profesor Asaro. - Creo que, simplemente es imposible usar robots en los casos más extremos sin la supervisión de robots humanos, prevalece el consenso. Pero el desacuerdo permanece, queda mucho por hacer, particularmente en asuntos legales. Creo que una persona debe controlar en gran medida el ataque: ser capaz de iniciarlo o cancelarlo ".
Los Estados Unidos, el Reino Unido e Israel, los tres países más activos en el desarrollo de sistemas de combate autónomos, dijeron en las reuniones de abril que el nuevo documento no es necesario, ya que todos los sistemas de armas en los que están trabajando cumplen con el derecho internacional. Casi todos los estados que son parte de la Convención sobre Armas Convencionales Específicas están de acuerdo en que se debe aumentar el nivel de control del hombre sobre las armas. Sin embargo, en la discusión de abril, la definición de "control sustancial" (es decir, la participación humana suficiente en el proceso de matar soldados en el campo de batalla) fue muy difícil de formular.
Maquina humana
Quizás la clave para resolver el problema es crear un robot que piense y actúe como un ser humano. El grupo ha estado trabajando en una máquina así durante muchos años bajo la dirección de la profesora Manuela Veloso de la Universidad Carnegie Mellon.
“La gente combina tranquilamente la observación, el conocimiento y la acción. Usamos nuestros "sensores" para evaluar la situación, el cerebro para pensar y elegir un método de acción, y el cuerpo para la mayoría de las funciones, explica el profesor Veloso. - Mi grupo está tratando de crear robots que hagan lo mismo: máquinas que trabajan con algoritmos complejos y unidades que controlan los mecanismos. Sus sentidos son sensores, micrófonos, cámaras, escáneres. Sin embargo, los robots automáticos difieren en sus habilidades de las personas. Los robots siempre tendrán limitaciones cognitivas. No podrán ver la imagen completa, identificar o usar ningún objeto, entender todas las declaraciones orales o escritas, moverse en cualquier superficie. Creo que los robots solo deben complementar a las personas, no reemplazarlas ".
En los últimos años, el grupo del profesor Veloso ha estudiado cómo los robots y los humanos pueden trabajar juntos. Crearon el robot CoBot: tiene ruedas que le permiten sortear obstáculos, un sistema de cámara, un lidar, una computadora para el procesamiento de datos, una pantalla para la comunicación y una cesta para mover diferentes objetos.
"Desde el principio, nos dimos cuenta de lo difícil que es adaptar los robots al entorno real", recuerda Manuel Veloso. CoBot no fue reconocido por todos los objetos encontrados en el camino, y la ausencia de manos no le permitió abrir las puertas. Podía usar el habla para la comunicación, pero no entendía todas las palabras habladas.
Los científicos no tienen miedo, le brindaron al robot la capacidad de buscar ayuda de las personas o buscar respuestas en Internet. CoBot aprendió a conducir a los huéspedes a través del edificio, al mismo tiempo que recopilaba la información necesaria en el camino. Los autos hicieron un mapa detallado de los lugares, la temperatura medida, la humedad, el sonido y los niveles de luz, así como la intensidad de la señal WiFi. Los científicos han enseñado a los robots a abrir la puerta, presionar los botones del elevador, recoger objetos y participar en la conversación.
"Los obstáculos que aún deben superarse para garantizar una convivencia segura para los humanos y los robots permanecen", dice el profesor Veloso. - Nuestro grupo está estudiando cómo las personas y los robots aprenden a comunicarse más fácilmente con gestos y sonidos. También estamos interesados en cómo la apariencia del robot afecta a las personas, especialmente cómo reaccionan a las luces de advertencia que indican el estado interno de la máquina. Queda mucho por hacer, pero veo el futuro en una luz positiva: las personas y los robots pueden complementarse entre sí, ayudarse mutuamente ".
¿Pero es necesario en el campo de batalla?
Culpar a los medios
El uso de la inteligencia artificial en la guerra es solo una fracción de las posibilidades que puede poseer. Las discusiones sobre el papel de los robots en el mundo moderno y su futuro se han prolongado durante más de un año.
Sabine Hauert, profesora de robótica en la Universidad de Bristol, cree que el miedo a los sistemas defensivos autónomos se deriva del miedo a la inteligencia artificial en general. La actitud negativa hacia él fue contribuida por los medios de comunicación, que enfatizaron excesivamente el peligro existencial de la inteligencia artificial para la humanidad. La gente se pregunta si los robots tomarán sus trabajos. Por lo tanto, existen requisitos para introducir leyes que mantengan la tecnología bajo control.
"Mis colegas y yo en muchas reuniones explicamos que los robots no son un mal absoluto, que pueden ayudar a las personas mayores a mejorar su atención médica", explica Hauer. “Gracias a los robots, el trabajo será más seguro, más productivo, sin mencionar el hecho de que será posible llegar a las profundidades de los océanos o lugares peligrosos. Los expertos deben convertirse en enviados, llevar a cabo una discusión seria con la ayuda de las redes sociales ".
El investigador enfatiza que las personas que trabajan en la creación de robots deben debatir con los comentaristas influyentes, como, por ejemplo, el profesor Stephen Hawking o Elon Musk, que advierten sobre el desarrollo de la inteligencia artificial. El tema debe ser escuchado en las reuniones internacionales más importantes, como el Foro Económico en Davos.
"La inteligencia artificial tiene un tremendo potencial para acelerar los descubrimientos científicos en biología, medicina y para cambiar el sistema de atención médica", agrega el profesor Russ Altman, de la Universidad de Stanford, especialista en bioingeniería, genética y ciencias de la computación. “La inteligencia artificial ayuda a desarrollar varias industrias nuevas: genómica, proteómica (dedicada a la investigación de proteínas), metabolómica (investigación de productos metabólicos), así como a la creación de tarjetas electrónicas de salud y todo tipo de detectores que detectan los síntomas de enfermedades”.
información