Military Review

Cuando el robot va a la guerra ("Rzeczpospolita", Polonia)

29


La inteligencia artificial es similar a la energía nuclear: puede usarse para el beneficio de la humanidad, pero puede usarse para destruirla. Los expertos advierten contra el uso de máquinas pensantes para las guerras.

El nuevo tanque principal ruso T-14 "Armata" parece extraerse de un moderno juego de computadora. Pero esto no es un producto de fantasía, sino el trabajo de ingenieros rusos que trabajan bajo la dirección de Andrei Terlikov.

"El sistema informático a bordo controla la mayoría de las funciones técnicas, lo que permite que la tripulación se concentre en las tareas clave", explicó el jefe de diseño adjunto al reportero de la AFP. tanque Ilya Demchenko. "Para la tripulación, será como un videojuego, solo necesitas hacer los movimientos finales y tomar decisiones".

El tanque está equipado con una torreta a control remoto, un sistema informático y los últimos sistemas de defensa activa. Fue creado para la peligrosa confrontación de Rusia con Occidente, y está destinado a enfatizar la voluntad de modernización de la industria militar rusa. Cuando se lo mostró por primera vez en el Moscú Victory Parade 9 en mayo, se rompió y tuvo que ser remolcado.

Pero la mayor preocupación de los expertos en seguridad internacional no fue tanto la apariencia de lo moderno armasCuántas declaraciones de los diseñadores indican que el tanque puede convertirse en un vehículo de combate completamente automático.

Tercera revolución

Los vehículos no tripulados armados en los últimos años, comenzaron a aparecer cada vez más en el campo de batalla. Por supuesto, se usan para asesinar, pero son solo ejecutores de decisiones humanas. El piloto, que controla tal aeronave, se sienta en una habitación que se encuentra a miles de kilómetros de distancia del vehículo atacante y presiona los botones, disparando proyectiles.

Pero eso puede cambiar pronto. La inteligencia artificial puede usarse para tomar decisiones que están siendo tomadas por las personas. El trabajo sobre el desarrollo de inteligencia artificial ya le permite producir dispositivos que pueden participar en la exploración del terreno, crear mapas, controlar el trabajo de máquinas y aviones, e incluso participar en la planificación estratégica. Aparecerán un poco más ejércitos de robots armados que entrarán en el campo de batalla en lugar de los humanos. Sobre tales sistemas, que se llaman "armas autónomas mortales" (LEYES - sistemas de armas autónomas letales), los expertos militares están trabajando.

"Las tecnologías han alcanzado un nivel en el que estos sistemas se pueden implementar en la práctica en el transcurso de un año, y no más años", confirma Stuart Russell, especialista en tecnología informática de la Universidad de California en Berkeley. Hay mucho en juego: los expertos en defensa nacional ya han llamado a LAWS la tercera revolución en la conducción de la guerra. Los primeros fueron la invención de la pólvora y las armas nucleares. Un arma independiente elige un objetivo sin intervención humana, se vuelve mortal si las personas son el objetivo.

La categoría de LEYES incluye dos proyectos en los que está trabajando la Agencia de Investigación y Desarrollo de Defensa Avanzada de los Estados Unidos (DARPA). Se trata de Autonomía Ligera Rápida (FLA) y Operaciones de Colaboración en un Ambiente Denegado (CODE). El primero se refiere al desarrollo de un pequeño helicóptero que puede operar completamente de manera independiente en el entorno urbano y dentro de los edificios. A su vez, el segundo es crear aeronaves autónomas, que operan en todas las etapas de las misiones de combate, desde la búsqueda, la vigilancia, la identificación del objetivo hasta el ataque. El sistema está diseñado para funcionar en situaciones en las que, debido a la interferencia de una señal de radio, la comunicación con las personas que ordenan la acción se vuelve imposible. Otros países, con toda probabilidad, también participan en proyectos secretos similares con objetivos similares.

En el derecho internacional humanitario que regula los métodos para atacar a las personas durante las hostilidades, no existen disposiciones especiales para los sistemas autónomos. Sin embargo, los expertos creen que la Convención de Ginebra de 1949 se puede aplicar aquí, que establece que cualquier ataque en el curso de las hostilidades debe cumplir con tres criterios: necesidad militar; diferenciación de militares y civiles que no participan en el conflicto; y manteniendo la proporción entre posibles objetivos militares y daños. De importancia esencial es también la Cláusula Martens de 1907, que prohíbe el uso de armas en contra de "los principios de la humanidad y los requisitos de la conciencia pública". El sistema de inteligencia artificial no es capaz de hacer tales evaluaciones subjetivas en principio.

Nuevo contenido de viejos conflictos.

La mitad del problema si los robots lucharán con robots. Pero con la desigualdad de la civilización moderna entre estados esto es imposible. El trabajo sobre la Convención de la ONU sobre ciertas armas convencionales se coronó con reuniones celebradas en abril en Ginebra. Esta iniciativa tiene como objetivo crear un tratado internacional que prohíba o al menos restrinja el uso de sistemas de armas autónomos. Un precedente para la creación de un documento de este tipo podría servir como una prohibición del uso de armas láser cegadoras, que se adoptó en el año 1995.

Sin embargo, la prohibición del uso de robots con su propia inteligencia en una guerra aún está lejos. El hecho de que la ONU en noviembre del año pasado y en abril de la actualidad decidiera discutir este tema indica la posibilidad de llegar a un acuerdo en esta área.

Pero puede suceder (el ambiente internacional desempeñará un papel importante en los próximos años) que no se introducirá una prohibición del uso de armas controladas por inteligencia artificial, y la preservación del estado de cosas existente conducirá a una nueva carrera de armamentos.

"El uso de armas autónomas trae consigo un contenido completamente nuevo para la ley del conflicto armado, un conjunto de normas adoptadas por la comunidad internacional", explicó el profesor Peter Asaro, representante del Centro de Internet y Sociedad de la Universidad de Stanford, en la reunión de abril en Ginebra. Cada vez es más popular creer que a los robots no se les debe permitir matar sin el control humano.

Durante las reuniones de abril, varios países pidieron una prohibición internacional inmediata del uso de armas autónomas. Japón, Alemania y Croacia expresaron una fuerte protesta contra la creación de asesinos por matar personas. Los alemanes dijeron que "nunca aceptarán que la decisión de vida o muerte sea tomada solo por un sistema autónomo".

Recuerdan perfectamente los sistemas automáticos de "protección" de las fronteras que se utilizaron en la RDA: máquinas automáticas instaladas en la frontera con sensores de movimiento disparados a todo lo que se movía en el área restringida, ya fuera un ser humano o un animal. Japón, a su vez, dijo que "no hay planes para crear robots que puedan cometer asesinatos, pero no serán asociados con humanos".

"Algunos países, como Corea del Sur, que nunca antes han hecho fuertes protestas contra tales armas, ahora están cambiando de opinión", dice el profesor Asaro. - Creo que, simplemente es imposible usar robots en los casos más extremos sin la supervisión de robots humanos, prevalece el consenso. Pero el desacuerdo permanece, queda mucho por hacer, particularmente en asuntos legales. Creo que una persona debe controlar en gran medida el ataque: ser capaz de iniciarlo o cancelarlo ".

Los Estados Unidos, el Reino Unido e Israel, los tres países más activos en el desarrollo de sistemas de combate autónomos, dijeron en las reuniones de abril que el nuevo documento no es necesario, ya que todos los sistemas de armas en los que están trabajando cumplen con el derecho internacional. Casi todos los estados que son parte de la Convención sobre Armas Convencionales Específicas están de acuerdo en que se debe aumentar el nivel de control del hombre sobre las armas. Sin embargo, en la discusión de abril, la definición de "control sustancial" (es decir, la participación humana suficiente en el proceso de matar soldados en el campo de batalla) fue muy difícil de formular.

Maquina humana

Quizás la clave para resolver el problema es crear un robot que piense y actúe como un ser humano. El grupo ha estado trabajando en una máquina así durante muchos años bajo la dirección de la profesora Manuela Veloso de la Universidad Carnegie Mellon.

“La gente combina tranquilamente la observación, el conocimiento y la acción. Usamos nuestros "sensores" para evaluar la situación, el cerebro para pensar y elegir un método de acción, y el cuerpo para la mayoría de las funciones, explica el profesor Veloso. - Mi grupo está tratando de crear robots que hagan lo mismo: máquinas que trabajan con algoritmos complejos y unidades que controlan los mecanismos. Sus sentidos son sensores, micrófonos, cámaras, escáneres. Sin embargo, los robots automáticos difieren en sus habilidades de las personas. Los robots siempre tendrán limitaciones cognitivas. No podrán ver la imagen completa, identificar o usar ningún objeto, entender todas las declaraciones orales o escritas, moverse en cualquier superficie. Creo que los robots solo deben complementar a las personas, no reemplazarlas ".

En los últimos años, el grupo del profesor Veloso ha estudiado cómo los robots y los humanos pueden trabajar juntos. Crearon el robot CoBot: tiene ruedas que le permiten sortear obstáculos, un sistema de cámara, un lidar, una computadora para el procesamiento de datos, una pantalla para la comunicación y una cesta para mover diferentes objetos.

"Desde el principio, nos dimos cuenta de lo difícil que es adaptar los robots al entorno real", recuerda Manuel Veloso. CoBot no fue reconocido por todos los objetos encontrados en el camino, y la ausencia de manos no le permitió abrir las puertas. Podía usar el habla para la comunicación, pero no entendía todas las palabras habladas.

Los científicos no tienen miedo, le brindaron al robot la capacidad de buscar ayuda de las personas o buscar respuestas en Internet. CoBot aprendió a conducir a los huéspedes a través del edificio, al mismo tiempo que recopilaba la información necesaria en el camino. Los autos hicieron un mapa detallado de los lugares, la temperatura medida, la humedad, el sonido y los niveles de luz, así como la intensidad de la señal WiFi. Los científicos han enseñado a los robots a abrir la puerta, presionar los botones del elevador, recoger objetos y participar en la conversación.

"Los obstáculos que aún deben superarse para garantizar una convivencia segura para los humanos y los robots permanecen", dice el profesor Veloso. - Nuestro grupo está estudiando cómo las personas y los robots aprenden a comunicarse más fácilmente con gestos y sonidos. También estamos interesados ​​en cómo la apariencia del robot afecta a las personas, especialmente cómo reaccionan a las luces de advertencia que indican el estado interno de la máquina. Queda mucho por hacer, pero veo el futuro en una luz positiva: las personas y los robots pueden complementarse entre sí, ayudarse mutuamente ".

¿Pero es necesario en el campo de batalla?

Culpar a los medios

El uso de la inteligencia artificial en la guerra es solo una fracción de las posibilidades que puede poseer. Las discusiones sobre el papel de los robots en el mundo moderno y su futuro se han prolongado durante más de un año.

Sabine Hauert, profesora de robótica en la Universidad de Bristol, cree que el miedo a los sistemas defensivos autónomos se deriva del miedo a la inteligencia artificial en general. La actitud negativa hacia él fue contribuida por los medios de comunicación, que enfatizaron excesivamente el peligro existencial de la inteligencia artificial para la humanidad. La gente se pregunta si los robots tomarán sus trabajos. Por lo tanto, existen requisitos para introducir leyes que mantengan la tecnología bajo control.

"Mis colegas y yo en muchas reuniones explicamos que los robots no son un mal absoluto, que pueden ayudar a las personas mayores a mejorar su atención médica", explica Hauer. “Gracias a los robots, el trabajo será más seguro, más productivo, sin mencionar el hecho de que será posible llegar a las profundidades de los océanos o lugares peligrosos. Los expertos deben convertirse en enviados, llevar a cabo una discusión seria con la ayuda de las redes sociales ".

El investigador enfatiza que las personas que trabajan en la creación de robots deben debatir con los comentaristas influyentes, como, por ejemplo, el profesor Stephen Hawking o Elon Musk, que advierten sobre el desarrollo de la inteligencia artificial. El tema debe ser escuchado en las reuniones internacionales más importantes, como el Foro Económico en Davos.

"La inteligencia artificial tiene un tremendo potencial para acelerar los descubrimientos científicos en biología, medicina y para cambiar el sistema de atención médica", agrega el profesor Russ Altman, de la Universidad de Stanford, especialista en bioingeniería, genética y ciencias de la computación. “La inteligencia artificial ayuda a desarrollar varias industrias nuevas: genómica, proteómica (dedicada a la investigación de proteínas), metabolómica (investigación de productos metabólicos), así como a la creación de tarjetas electrónicas de salud y todo tipo de detectores que detectan los síntomas de enfermedades”.
autor:
Originador:
http://www.rp.pl/artykul/61991,1209422-Kiedy-robot-idzie-do-wojska.html
29 comentarios
Anuncio

Suscríbase a nuestro canal de Telegram, regularmente información adicional sobre la operación especial en Ucrania, una gran cantidad de información, videos, algo que no cae en el sitio: https://t.me/topwar_official

información
Estimado lector, para dejar comentarios sobre la publicación, usted debe login.
  1. svp67
    svp67 Junio ​​22 2015 18: 05
    + 24
    "Terminator" de la ficción se convierte en realidad. Incluso un poco espeluznante.
    Pero gracias a Dios todavía tenemos gente que detendrá a Terminator
    1. Oso abuelo
      Oso abuelo Junio ​​22 2015 18: 09
      +9
      "Terminator" "Terminator" -llamado en ruso-HANA!
      O "p-c" wassat
      Y luego "rapaces" y "terminadores" son todo tipo de escoria.
      1. El villano
        El villano Junio ​​22 2015 18: 44
        +9
        Cita: abuelo oso
        "Terminator" "Terminator" -llamado en ruso-

        BOGATYR! ! ! hi
    2. lelikas
      lelikas Junio ​​22 2015 18: 09
      +2
      Danny sobre Armata no se escuchó !!! :))))))
      1. Sakmagon
        Sakmagon Junio ​​22 2015 19: 08
        +8
        ..Cuando fue mostrado por primera vez en Moscú desfile de la victoria 9 mayoél se rompió y tuvo que ser remolcado...

        Oh, esos psheks ... Están furiosos, pero todavía ladran con fuerza ...
        1. Manul
          Manul Junio ​​22 2015 21: 22
          +1
          Cita: Sacmagon
          Oh, esos psheks ... Están furiosos, pero todavía ladran con fuerza ...

          Las manos serían todas de Rusia (Ucrania, Georgia, Azerbaiyán, etc.) serían removidas. Las bases militares serían convertidas. Se eliminarían las políticas agresivas hacia nosotros. Se levantarían las sanciones, de modo que seríamos los primeros en firmar un acuerdo para congelar los desarrollos en esta dirección. Solo el volante está desenrollado, y esta no es la opinión de la gente. Es solo una herramienta para presionar a nuestro país. Un medio para mostrar lo malos que somos.
    3. Vitaly Anisimov
      Vitaly Anisimov Junio ​​22 2015 18: 16
      +3
      A juzgar por lo que Rusia ha soportado durante su existencia y cómo luchó ... Se nos puede llamar "terminadores, inteligencia artificial, etc.) ¿Y por qué? Somos capaces de sobrevivir, actualizarnos y pasar a un nuevo nivel ..))) Y lo más importante ponemos nuestra alma en cualquier técnica .. (esto no es patetismo, pero lo es) hi
    4. Andrey yuryevich
      Andrey yuryevich Junio ​​22 2015 19: 23
      +1
      Cuando se le mostró por primera vez en el desfile del Día de la Victoria de Moscú el 9 de mayo, se quebró y tuvo que ser remolcado.
      que mierda quien lo jaló? él mismo fue más lejos !!! engañar ¡No te encuentres con el nuestro! detener
      El investigador enfatiza que las personas que trabajan en la creación de robots deben llevar la discusión con comentaristas influyentes, como, por ejemplo, el profesor Stephen Hawking (Stephen Hawking) o Elon Musk (Elon Musk), precaución contra el desarrollo de la inteligencia artificial.
      Es poco probable que llegue a ser "absolutamente inteligente", el ácido desoxirribonucleico no está sujeto a falsificaciones. solicita Madame Hauer, recocido, los tanques simplemente serán controlados de forma remota, y no como los "Schwarzeneggers" del "terminator" de Cameron ... wassat
    5. Vladislav
      Vladislav Junio ​​22 2015 19: 50
      +2
      ¡Un artículo muy actual! Solo ayer, en previsión del nuevo Terminator (el niño ordenó un viaje al estreno), comenzó a revisar las viejas películas de la serie. Como de costumbre, la historia de una película se convierte en la vida real. ¡Lo principal es no llegar al "Rise of the Machines"!
      1. Manul
        Manul Junio ​​22 2015 21: 23
        0
        Cita: Vladislav
        ¡Un artículo muy actual! Solo ayer, en previsión del nuevo Terminator (el niño ordenó un viaje al estreno), comenzó a revisar las viejas películas de la serie. Como de costumbre, la historia de una película se convierte en la vida real. ¡Lo principal es no llegar al "Rise of the Machines"!

        riendo Entonces, ¿por qué se filma la película de Hollywood? guiño
        Ojo de Sauron, Nido de autos ... ¿Atrapa? si
        1. Tatar 174
          Tatar 174 Junio ​​23 2015 05: 52
          0
          El sistema de guerra electrónica los detendrá ...
    6. Dmitry Toderese
      Dmitry Toderese Junio ​​29 2015 19: 40
      0
      También tenemos tal "Terminator".
  2. Oso abuelo
    Oso abuelo Junio ​​22 2015 18: 06
    +4
    Aunque un regimiento completo lo vería con personal moderno y avanzado, bueno, o una empresa.
    ¡Qué estaría en "YAT" y con un pincel! Para que brille y asuste a un kilómetro de distancia, desde kutas hasta ribete.
  3. Ai yai
    Ai yai Junio ​​22 2015 18: 06
    +1
    ¡El tanque fue claramente un éxito! Tantos artículos sobre el tema de Almaty ... ¡Déjelo que se rompa mientras todavía hay fallas, pero obviamente las enganchó, y tal vez las asustó! Entonces el tanque ya está cumpliendo con su deber)))
  4. Dezinto
    Dezinto Junio ​​22 2015 18: 07
    + 18
    Entonces será - Armata - 800

    Asustadizo, pero cortés por dentro.
    1. reservista
      reservista Junio ​​22 2015 18: 30
      +5
      no, todo será completamente diferente ... riendo
      http://topwar.ru/uploads/images/2015/739/pota746.jpg
    2. El villano
      El villano Junio ​​22 2015 18: 57
      + 10
      Mejor asi
  5. Basarev
    Basarev Junio ​​22 2015 18: 13
    0
    En cuanto a los robots de combate, creo que simplemente debería haber vehículos controlados a distancia. Las personas en el frente son demasiado peligrosas. Es mejor sentarse en los bunkers fuertemente fortificados en la parte trasera, controlando los vehículos de combate de forma remota.
    1. dauria
      dauria Junio ​​22 2015 19: 22
      +2
      remotamente autos conducidos


      Aquí está el talón de Aquiles. Incluso un núcleo de acero en la pantalla o fibra es vulnerable, sin mencionar las formas etéreas o exóticas (hasta el neutrino) de comunicación. Lo principal es que se plantean minas; la moralidad no molesta a nadie. El mundo bajo la mira de las armas nucleares es una tontería. Y aquí estás, moral con una cola corta. Hay una oportunidad para hacer cerebros, es necesario hacerlo, pero no masticar mocos.
      ¡Ahora, cuando corren hacia nosotros con los ojos muy abiertos, dicen que has confiado la existencia de América a la MÁQUINA AUTOMÁTICA! entonces limitaremos
    2. aksakal
      aksakal Junio ​​22 2015 22: 29
      0
      Cita: Basarev
      entonces creo que solo debería haber coches controlados a distancia.
      - aburrido. Es más interesante crear sistemas de autoorganización adaptativos pseudoópticos con una capacidad pronunciada de auto formarse su propia escala de valores y sistemas de creencias. Sí, y la capacidad de autorreplicarse (la capacidad de crear su propia especie). Y no hace falta decirlo, con la capacidad de pelear. Es mucho más interesante crear y luego pensar riendo Y lo que ofreces es aburrido riendo

      Otros diez años de mejora, y estos quadrocopters pueden equiparse con armas pequeñas y movilización. Y en la guerra contra las ratas se pueden usar incluso ahora
  6. afire2015
    afire2015 Junio ​​22 2015 18: 14
    +1
    ¿Y qué hay de Armata aquí, si el artículo contiene solo análisis generales?
    Los países que no quieren darse por vencidos de esa manera encontrarán nuevas armas ...
  7. Raketnik
    Raketnik Junio ​​22 2015 18: 15
    -7
    organización Cuando se le mostró por primera vez en el Desfile de la Victoria de Moscú 9 en mayo, se derrumbó y tuvo que ser remolcado .-------------- CÓMO GRACIAS Y ALTAMENTE CALIFICÓ LA ARMADURA
    1. svp67
      svp67 Junio ​​22 2015 18: 20
      +6
      Cita: raketnik
      Cuando se le mostró por primera vez en el Desfile de la Victoria de Moscú 9 en mayo, se derrumbó y tuvo que ser remolcado .-------------- CÓMO GRACIAS Y ALTAMENTE CALIFICÓ LA ARMADURA

      Estás confundiendo algo querido. "Armata" en el desfile el 9 de mayo de 2015 pasó "sin problemas", "superposiciones" estaban en entrenamiento, ya que la técnica es nueva, todavía fue poco estudiada por las tripulaciones
      1. Masya masya
        Masya masya Junio ​​22 2015 18: 54
        +5
        Hasta donde yo sé, resolvieron la evacuación, por así decirlo, solo en caso de incendio. ¿Puede ser que esté equivocado?
    2. Raketnik
      Raketnik Junio ​​22 2015 21: 54
      +1
      ACERCA DE LAS PERSONAS FUERON EN EL SITIO E? Citan desde arriba y son menos ..... OU-OU
  8. sir_obs
    sir_obs Junio ​​22 2015 18: 16
    +1
    No será solo inteligencia artificial, sino con un espíritu ruso y, por decirlo suavemente, sin amar las transmisiones liberales.
  9. RusDV
    RusDV Junio ​​22 2015 18: 20
    +1
    Otra mierda de otro ruso. Sobre el Armata "roto", que "tuvo que ser remolcado", e incluso el "9 de mayo", generalmente la tontería de un perro borracho ... Ni siquiera quiero arreglar a un idiota ...
  10. Mikhail m
    Mikhail m Junio ​​22 2015 18: 22
    +1
    La caja de Pandora ya está abierta. Y nadie puede cerrarlo. Los robots de batalla evolucionarán, pase lo que pase. Los tratados nunca detuvieron el desarrollo de equipos militares, a menos que se ralentizaran un poco. Entonces la guerra de robots está a la vuelta de la esquina. Siento pena por la humanidad.
  11. Alex_Rarog
    Alex_Rarog Junio ​​22 2015 18: 23
    +1
    Lo principal es que nosotros tampoco nos retrasaríamos en el campo de la IA si perdemos la oportunidad de alcanzarlo.
  12. Arktidianets
    Arktidianets Junio ​​22 2015 18: 56
    +1
    El futuro se forja en el presente.
  13. TOR2
    TOR2 Junio ​​22 2015 20: 42
    +1
    Nuestro país dio los primeros pasos en esta dirección en los años 30 del siglo pasado, cuando se crearon los primeros tanques y aviones de televisión. La técnica de ese tiempo era demasiado lenta para una batalla rápida. Aunque en la compañía finlandesa, los tanques de televisión asaltaron los pastilleros más fortificados.
    La idea fue revivida en 2009.
    http://www.youtube.com/watch?x-yt-cl=84359240&v=3PXt9TiYwVE&feature=player_embed
    ded & x-yt-ts = 1421782837
    Quizás este desarrollo se continuó en el "Armata" y se modernizó el T-72.
  14. akudr48
    akudr48 Junio ​​22 2015 22: 58
    0
    Las soluciones más fantásticas en el nuevo mundo tecnológico surgirán precisamente en el campo de las aplicaciones militares, donde la IA aumentará gradualmente de peso comparable al peso de la mano de obra, y m. y tipos de aeronaves.

    Es decir, luchar sin coches autónomos inteligentes será una opción perdedora.

    Los polacos se ocuparon de este tema, no se sabe por qué razón, ya que crear e integrar la IA en el equipo militar como parte de los sistemas de armas modernos es una tarea imposible para los presupuestos militares pequeños.

    Este es un asunto agradecido, ya que la IA en vehículos militares puede ser transportada en gran medida a la esfera civil.

    Rusia necesita IA, porque sus cerebros claramente no son suficientes.
  15. ILIA
    ILIA Junio ​​23 2015 03: 26
    0
    El fin de las personas)))
  16. Banson
    Banson Junio ​​23 2015 11: 23
    +1
    Y es genial que haya volado la estación de policía allí.