Mañana y al día siguiente luchando contra los robots.

Una de las ramas más prometedoras de la tecnología militar es actualmente la robótica. Hasta la fecha, se han creado dispositivos automatizados que pueden realizar varias tareas. Es cierto que las aeronaves y helicópteros no tripulados actuales, así como los vehículos terrestres, con todas sus capacidades, aún no pueden operar de forma completamente autónoma. En la mayoría de los casos, la autonomía se limita a ciertas acciones que no requieren, como dicen, una mente grande: moverse a un punto determinado, rastrear el espacio, buscar objetos que se destacan en el contexto general, etc. En cuanto a las decisiones sobre los puntos de ruta o un ataque de un objetivo detectado, el operador del sistema aún las toma, es decir, por el hombre El trabajo totalmente automático de los robots militares sigue siendo la "propiedad" de la ciencia ficción, y los científicos e ingenieros ahora están dando los primeros pasos en esta área. El desarrollo de tecnologías robóticas puede afectar no solo las capacidades de los sistemas automatizados, sino también otros aspectos de la sociedad humana.




En ciencia ficción, a menudo se considera la cuestión seria de la interacción de un hombre y un robot que posee inteligencia artificial de uno u otro nivel. La situación actual sugiere una transición gradual de este problema a la vida real. Por esta razón, ya algunas personas y organizaciones públicas están tratando de predecir nuevos desarrollos y, si es posible, tomar las medidas apropiadas. No hace mucho, la organización de derechos humanos Human Rights Watch (HRW) publicó un informe sobre este tema. El trabajo de Perder Humanity: The Case Against Killer Robots (“Perder Humanity: Arguments Against Killer Robots”) analiza las posibilidades de utilizar robots de combate totalmente autónomos, así como los problemas que, según los autores del informe, surgirán necesariamente cuando se operen en situaciones de conflicto real. . Además, el informe analiza algunos de los aspectos legales de dicho "progreso".

En primer lugar, los autores del informe "La humanidad perdida" notaron el hecho de que todos los robots existentes son, hasta cierto punto, autónomos, solo que el nivel de esta independencia es diferente. Por lo tanto, todos los robots con posibilidades de trabajo independiente, incluido el combate, se dividen convencionalmente en tres grupos: humano en el bucle (la persona en el sistema de control), humano en el bucle (la persona sobre el sistema) y humano fuera del bucle (la persona fuera del sistema gestión). En el contexto de los robots de combate, esta división implica los siguientes algoritmos de trabajo y niveles de autonomía: si el operador humano "está" en el sistema de control, el robot encuentra los objetivos de forma independiente y la persona da la orden de destruirlos. Otros dos tipos de robots de combate pueden tomar sus propias decisiones y atacar, pero el concepto de humano en el bucle implica la posibilidad de control de la persona y permite a este último en cualquier momento ajustar las acciones del robot a su discreción. Los robots humanos fuera del circuito son completamente independientes y no requieren ningún control humano.

Según los empleados de HRW, la tercera categoría de robots, completamente autónomos y no controlados por humanos, será el mayor peligro en el futuro. Además de los problemas técnicos y morales, se mencionan los problemas legales relacionados. Entre otras cosas, en el caso de un cierto desarrollo de eventos, tales vehículos de combate pueden afectar en gran medida la apariencia de las hostilidades, incluida la violación de acuerdos internacionales básicos. En primer lugar, los empleados de Human Rights Watch apelan a los Convenios de Ginebra, y más específicamente a la parte que obliga a los desarrolladores armas Compruébelo para la seguridad de los civiles. HRW cree que los fabricantes de equipos robóticos de combate no están interesados ​​en este problema y no llevan a cabo ningún control, lo que supondría pérdidas para la población civil.

Como requisito principal para los riesgos asociados con el uso de sistemas de combate robóticos, los empleados de HRW consideran el nivel insuficiente de desarrollo de robots prometedores. En su opinión, un robot de combate, a diferencia de un ser humano, no podrá distinguir de manera segura un combatiente enemigo de un civil o un enemigo que se resiste activamente de un herido o prisionero. Por lo tanto, los riesgos de que los robots simplemente no tomen prisioneros y comiencen a terminar con los heridos son demasiado grandes. Los autores del informe, aparentemente, no se adhieren a la mejor opinión acerca de las capacidades de los futuros robots y creen que los sistemas de combate prometedores no podrán distinguir a un adversario armado y activamente de un civil inocente o agresivo en su apariencia y comportamiento. Además, los expertos en derechos humanos niegan al futuro de los robots la capacidad de predecir el comportamiento del enemigo. En otras palabras, una situación es posible cuando un soldado enemigo que quiere rendirse, levanta o suelta su arma, va a encontrarse con el robot, lo malinterpretará y lo atacará.

Human Rights Watch, consecuencia directa de la falta de rasgos humanos y peligrosa, considera la posibilidad de utilizar robots en las operaciones para reprimir las libertades y los derechos humanos de las personas. Los activistas de derechos humanos consideran a las "máquinas sin alma" una herramienta ideal para reprimir disturbios, represiones, etc., porque, a diferencia de un ser humano, un robot no discutirá una orden y ejecutará todo lo que se le indique.

HRW teme que un rasgo característico de los robots de combate sin control humano sea la ausencia de responsabilidad por sus acciones. Si el operador de un avión teledirigido controlado a distancia asestó un golpe a los civiles, entonces lo solicitarán. Si un robot comete un crimen similar, no habrá nadie a quien castigar. El robot en sí no es un ser racional, capaz de comprender la esencia del castigo y corregirlo, y de aplicar sanciones contra los militares que lo enviaron a la misión, según los empleados de HRW, no tiene sentido, así como castigar a los desarrolladores del hardware y software del robot. Como resultado, los robots pueden ser una excelente herramienta para resolver tareas de combate de la manera más vil, con la ayuda de crímenes de guerra. En este caso, todos los hechos revelados pueden atribuirse a un diseño defectuoso o falla del software, y la prueba de la culpa de personas específicas será casi imposible. Por lo tanto, a lo que temen los activistas de derechos humanos, nadie incurrirá en un castigo merecido por delitos.

Debido a los altos riesgos, Human Rights Watch insta a los países a abandonar el desarrollo de robots de combate totalmente autónomos y a prohibir este tipo de equipo a nivel legislativo. En cuanto a los conceptos de humano en el bucle y humano en el bucle, el desarrollo de tales sistemas debe ser monitoreado y verificado para cumplir con los estándares internacionales. Es decir todas las decisiones responsables siempre deben ser tomadas por una persona que tenga los conocimientos y tolerancias adecuados, pero no de forma automática.

A juzgar por las tendencias actuales, no todos los países líderes están totalmente de acuerdo con el informe de HRW. Por ahora, los requisitos previos se han formado no solo para la creación, sino también para el uso activo de los sistemas más automatizados. Además, en varios casos, su aplicación no solo no contradice el derecho internacional humanitario, sino que incluso en cierto sentido ayuda a cumplir con sus normas. Un ejemplo de este tipo de trabajo es el Iron Dome, un sistema de defensa de misiles israelí. Dado que este complejo está diseñado para interceptar misiles de corto alcance no guiados, los algoritmos de su operación están diseñados de tal manera que la mayoría de las operaciones se realizan automáticamente. Además, con el comando apropiado de los operadores, es posible llevar a cabo automáticamente todo el ciclo de intercepción, desde la detección de un cohete enemigo hasta el lanzamiento de antimisiles. Gracias a esto, es posible destruir a los enemigos Qassams antes de que alcancen los asentamientos. Como resultado del uso de un robot virtualmente autónomo, Israel logra preservar las vidas y la salud de sus ciudadanos y también ahorrar en la restauración de edificios destruidos.

El segundo argumento a favor de continuar el desarrollo de "soldados" automatizados también tiene requisitos humanitarios. El uso de una gran cantidad de robots de combate terrestre permitirá abandonar a los luchadores vivos y salvar sus vidas. Si el robot se daña en una batalla, entonces puede repararse o cancelarse rápidamente por chatarra y reemplazarlo por uno nuevo completamente similar al anterior. Sí, y para producir tal técnica por órdenes de magnitud más fácil y más barata que criar y entrenar soldados. Obviamente, el robot puede recuperarse en la batalla poco después del ensamblaje, y un hombre después del nacimiento necesita crecer, aprender habilidades básicas, aprender mucha información y habilidades diversas, y solo así puede aprender asuntos militares. Por lo tanto, el uso generalizado de robots de combate ayudará a reducir la pérdida de mano de obra. Además, para mantener una flota suficientemente grande de "soldados" robóticos se necesitará un número relativamente pequeño de operadores, mecánicos, etc. Entonces, con respecto a la sustitución de soldados vivos por mecánicos mecánicos, la ganancia es doble: se salvan vidas y se ahorra dinero.

En cuanto a los temores de los defensores de los derechos humanos con respecto a la excesiva independencia de los robots de combate de los países líderes, hace tiempo que se ha preparado una respuesta. Por ejemplo, hace un par de años, los Estados Unidos publicaron su estrategia para desarrollar sistemas militares automatizados hasta 2036. Los estadounidenses desarrollarán la primera llamada. Sistemas independientes controlados. Es decir Vehículos de combate con la capacidad de trabajar de forma autónoma, pero sin el derecho de tomar decisiones serias. En el futuro, está previsto poner en funcionamiento las fuerzas armadas y las máquinas totalmente autónomas; sin embargo, los primeros prototipos de dicha tecnología, capaces de asumir verdaderamente los deberes de una persona, aparecerán no antes del 2020 del año. Por lo tanto, durante los próximos años o incluso décadas en el campo de batalla, no aparecerá una gran cantidad de robots totalmente automáticos que no conocen la compasión ni la misericordia y solo pueden realizar órdenes. Todas las decisiones importantes siguen siendo responsabilidad de una persona.

Con respecto a dar a los robots una mayor autonomía, debemos recordar una opinión bastante interesante. Sus partidarios creen que es el hombre el que debería ser excluido de los sistemas de combate, y no el hardware automatizado. Como prueba de esta tesis, se citan los "defectos de diseño" de las personas vivas. El operador que controla el robot de combate, incluido el control total de todas sus acciones, puede enfermarse, cometer un error o incluso dar un paso criminal de forma consciente. Según este punto de vista, el "eslabón débil" del complejo de combate robótico es precisamente un operador humano vivo, totalmente compatible con el proverbio latino sobre los errores humanos.

Por supuesto, en la actualidad, por razones obvias, ambos puntos de vista tienen derecho a la vida: ofrecen no dar a los robots la libertad de acción y hablan de la necesidad de eliminar a una persona del sistema. Ambas opiniones tienen sus ventajas y desventajas. Es poco probable que el debate pronto deje de identificar el concepto más prometedor y viable de usar robots de combate. Es posible descubrir quién tiene la razón, solo de una manera: esperar más eventos en el desarrollo de la robótica de combate. Es poco probable que los militares de los países líderes del mundo comiencen a elegir una manera difícil y no rentable de desarrollar una dirección prometedora. Sin embargo, ahora es bastante difícil sacar conclusiones. Lo más probable es que la tendencia actual continúe en los próximos años. El equipo autónomo controlado de forma remota y limitada continuará su desarrollo y se utilizará activamente en la práctica. Mientras tanto, se crearán complejos hardware-software radicalmente nuevos en los laboratorios que pueden actuar de forma completamente independiente. El estado actual de estos proyectos sugiere que en los próximos años las personas continuarán asumiendo la plena responsabilidad de las acciones de los robots, mientras que los problemas descritos en el informe de Human Rights Watch seguirán siendo un tema de interés para los defensores de los derechos humanos, los escritores de ciencia ficción y los científicos.


En los materiales de los sitios:
http://hrw.org/
http://lenta.ru/
http://mport.bigmir.net/
http://ria.ru/
http://bbc.co.uk/
autor:
Ctrl enter

Notó un error Resalta texto y presiona. Ctrl + Enter

26 comentarios
información
Estimado lector, para dejar comentarios sobre la publicación, usted debe para registrarse.

Уже зарегистрированы? iniciar la sesión

  1. operador de radio 27 diciembre 2012 09: 02 nuevo
    • 2
    • 0
    +2
    Con la excepción del dron aéreo, los robots terrestres no pronto ocuparán su lugar en el campo de batalla.
    De todos modos, es inevitable.
    1. ksandr45
      ksandr45 27 diciembre 2012 13: 05 nuevo
      • 1
      • 0
      +1
      Si la humanidad no se destruye incluso antes. Por supuesto, no creo que nuestro país sea el iniciador.
      1. Dinver 27 diciembre 2012 14: 46 nuevo
        • 1
        • 0
        +1
        A expensas de los robots, le aconsejo que vea el canal de la compañía Boston Dynamics, que está desarrollando robots solo para el Ejército de los EE. UU.

        http://www.youtube.com/user/BostonDynamics?feature=watch
      2. loca 28 diciembre 2012 05: 06 nuevo
        • 1
        • 0
        +1
        Cita: ksandr45
        Si la humanidad no se destruye a sí misma aún antes.

        no tendra tiempo Los robots y las computadoras están a pasos agigantados. Muy pronto, Estados Unidos comenzará a probar robots en conflictos militares (aunque su pirámide en dólares GKO completa no se deshaga en el próximo 2-3 del año).
  2. borisst64
    borisst64 27 diciembre 2012 09: 53 nuevo
    • 1
    • 0
    +1
    Y, sin embargo, la pregunta principal es ¿cómo distinguirá un robot a los suyos de los extraños?
    1. marismas 27 diciembre 2012 10: 46 nuevo
      • 1
      • 0
      +1
      Cita: borisst64

      Y, sin embargo, la pregunta principal es ¿cómo distinguirá un robot a los suyos de los extraños?

      Según el microchip implantado en el cuerpo de un soldado.
      1. Skavron
        Skavron 27 diciembre 2012 11: 52 nuevo
        • 0
        • 0
        0
        Según el microchip implantado en el cuerpo de un soldado


        como una opción
      2. Farn
        Farn 27 diciembre 2012 17: 08 nuevo
        • 0
        • 0
        0
        A menos que los soldados humanos sean cosa del pasado. De todos modos, llegará el momento en que la mano de obra en el campo de batalla se debilitará demasiado y no se ajustará al concepto de guerra.
    2. estilete 27 diciembre 2012 11: 16 nuevo
      • 6
      • 0
      +6
      Es muy simple: tendrán el suyo a través del océano, donde no se puede llegar a ellos, y todo lo que se mueva en territorio enemigo es extraño ...
    3. Ura-1
      Ura-1 27 diciembre 2012 11: 40 nuevo
      • 0
      • 0
      0
      Derribará todo lo que se arrastra y vuela riendo
      1. estilete 27 diciembre 2012 11: 43 nuevo
        • 2
        • 0
        +2
        Que los malditos mosquitos en el pantano se sorprenderán :-)
  3. mamba
    mamba 27 diciembre 2012 13: 09 nuevo
    • 3
    • 0
    +3
    Uno de los cuentos de Ray Bradbury describe un avión no tripulado totalmente autónomo con un programa de autoaprendizaje diseñado para realizar funciones policiales en la ciudad. El algoritmo principal de sus acciones fue la protección de aquellos que estaban en peligro mortal. Inicialmente, realmente destruyó a los asesinos, y sus hermanos que intercambiaron información llenaron el cielo de la ciudad. Pero en el proceso de superación personal, se dieron cuenta de que apagar el encendido del automóvil era un atentado contra su vida y comenzaron a matar a los conductores del estacionamiento. Además. Apagar las luces de la habitación es un atentado contra la vida de una bombilla y comenzó a matar personas en las casas. Luego comenzaron a matar cazadores, pescadores, granjeros. Cuando intentaron deshacerse de ellos, comenzaron a buscar a quienes los cazaban.
    1. Rumata 27 diciembre 2012 15: 16 nuevo
      • 2
      • 0
      +2
      Cita: mamba
      Uno de los cuentos de Ray Bradbury describe un dron totalmente autónomo.

      Probablemente te refieres a la historia Robert Sheckley "Birdwatch" =)
      1. mamba
        mamba 27 diciembre 2012 16: 05 nuevo
        • 1
        • 0
        +1
        Probablemente tengas razón. Con los años lo olvidé. En los años escolares y estudiantiles leía mucha ciencia ficción, incluida Sheckley.
      2. Kir
        Kir 27 diciembre 2012 18: 05 nuevo
        • 1
        • 0
        +1
        Rumata, en "Guardian Bird", todo terminó en que los no-muertos inteligentes crearon un cazador para la guardia, y ya está comenzando a repensar la situación, es como un tratamiento para las consecuencias de envenenamiento con otro veneno, ¡solo el veneno también está con los cerebros!
  4. Slevinst 27 diciembre 2012 15: 02 nuevo
    • 2
    • 0
    +2
    A ese ritmo, el terminador de la película no está lejos, por supuesto, también hay pros y contras, no quiero luchar por mi vida en la confrontación con la máquina, aunque EMI puede ayudar, pero no creo que para el momento de una protección de robot tan independiente de EMI no se invente. en general, el progreso no se detiene y tendrá que adaptarse a todo
  5. WW3
    WW3 27 diciembre 2012 16: 26 nuevo
    • 2
    • 0
    +2
    Robots guerreros
  6. plebe 27 diciembre 2012 17: 32 nuevo
    • 2
    • 0
    +2
    Ya existen robots humanos fuera del circuito, disparan a los niños en las escuelas. Son creados por los medios de comunicación modernos. ¡Dios nos prohíba también del tonto pedazo de hierro!
    1. WW3
      WW3 27 diciembre 2012 18: 29 nuevo
      • 3
      • 0
      +3
      Cita: plebeyos
      ¡Dios nos prohíba también del tonto pedazo de hierro!

      Esto es inevitable ... El robot no necesita dormir, no se cansa y no pierde la vigilancia, simplemente dispara y no tiene lástima y no tiene miedo ... puede funcionar donde una persona no puede hacerlo ... en el vacío, a grandes profundidades bajo el agua, en condiciones de fuerte radioactividad e infección, no necesita equipo de protección ...
      Gran problema por supuesto inteligencia artificialConderrapar no es un juego de ajedrez.... pero el progreso científico no se detiene ... y los escenarios de las películas de ciencia ficción ya en este siglo pueden convertirse en realidad ... (no me refiero a "Star Wars") ...
  7. Kir
    Kir 27 diciembre 2012 18: 28 nuevo
    • 0
    • 0
    0
    De hecho, nadie ha cancelado las leyes fundamentales de la naturaleza, y pueden ser transferidas legítimamente a la robótica.
    En la naturaleza: cuanto más psíquica altamente organizada posee un individuo, menos predecible
    Según se aplica a la robótica, esto se puede expresar de manera aproximada, cuanto más complicada es la técnica, incluido el "cerebro", mayor es la probabilidad de consecuencias no contabilizadas, agregue aquí posibles errores no intencionales y maliciosos en la base inherente del "conocimiento" y ...
    Al no ser un completo pesimista, todavía tiendo a pensar que la inteligencia artificial es la cosa del futuro cuando las personas puedan controlar más claramente todo tipo de procesos, aunque los rastreadores y los "aventureros" difícilmente dejarán de existir, o los robots permanecerán en la apariencia de un "largo" manos".
  8. Setrac 27 diciembre 2012 18: 46 nuevo
    • 0
    • 0
    0
    Al tocar los enlaces a la ficción, ¿realmente crees que el esquema inventado por el escritor con una taza de café funcionará?
    Un robot requiere combustible (un análogo de comida, solo un robot es mucho más voraz), un robot requiere mantenimiento (un análogo de descanso).
    El problema de identificación no es tan grave como parece, nuestras posiciones están aquí, hay posiciones enemigas, no hay ninguna en posiciones enemigas.
    1. Skavron
      Skavron 27 diciembre 2012 22: 41 nuevo
      • 1
      • 0
      +1
      Setrac, más recientemente, un teléfono móvil era algo fuera de lo común, ahora los modelos más sofisticados ni siquiera se parecen remotamente a los que eran hace 10 años. Solo 10 años !!!
      El progreso no se detiene, y en el campo de la electrónica y la informática está dando pasos agigantados. Lo que era ficción hace 20 años ahora está en todo el mundo. Para el año 2050 ya habrá los robots "pensantes" más perfectos ... a menos que, por supuesto, nosotros (los terrícolas) sobrevivamos))
      1. Setrac 1 января 2013 23: 24 nuevo
        • 0
        • 0
        0
        ¿Recordarme qué tipo de ciencia ficción predijo celular? Hay mucho más que los escritores de ciencia ficción no han predicho, así que no confíes en los escritores de ciencia ficción.
  9. WW3
    WW3 27 diciembre 2012 19: 25 nuevo
    • 4
    • 0
    +4
    Cita: Setrac
    Un robot requiere combustible (un análogo de comida, solo un robot es mucho más voraz), un robot requiere mantenimiento (un análogo de descanso).

    Wow ... pero el robot es pieza de hierro aunque querido ... ella puede ser sacrificada, reparada, etc. ...el hombre no tiene vidas libres...Venta de Casas y Condominios en Calgary. Fernando Aramburu agente inmobiliario
    además, no sabemos cuáles serán las fuentes de energía de los robots en el futuro distante ... los reparadores pueden reparar los mismos robots ...
    Ya ahora los robots se utilizan efectivamente en la limpieza de minas salvando vidassus zapadores ...
    se están desarrollando drones, ahora se está probando el dron sigiloso ...
  10. Psyjoker
    Psyjoker 27 diciembre 2012 19: 31 nuevo
    • 2
    • 0
    +2
    El robot seguirá siendo controlado por el operador, ya que II, quien es capaz de navegar hábilmente la situación y determinar exactamente a quién culpar y quién no, es demasiado complicado de desarrollar y no protege contra errores. Un hombre con un joystick es de alguna manera más confiable.
  11. Aria 28 diciembre 2012 12: 41 nuevo
    • 1
    • 0
    +1
    al final del artículo! debiera ser
    "... y los problemas descritos en el informe de Human Rights Watch seguirán siendo objeto de interés de defensores de derechos humanos, escritores de ciencia ficción, científicos y espías".
    Para la tarea principal de este mismo vivero de espías HRW está claro:
    Prohibir que todo el mundo haga lo que Estados Unidos puede hacer. Entonces lea el informe entre líneas: los robots autónomos están en el Pentágono y se están desarrollando. matón

    ¿Y aún más si la mina de infantería ya no es un robot autónomo, solo un poco más simple que el terminador dispuesto? detener
  12. zonder
    zonder 28 diciembre 2012 22: 06 nuevo
    • 0
    • 0
    0
    Pronto recogerán el hierro, pero lleva tiempo para los cerebros sintéticos, y luego las personas se subirán a estos cerebros y se despedirán del envejecimiento del cuerpo.
  13. jenia
    jenia 2 января 2013 11: 02 nuevo
    • 0
    • 0
    0
    Los soldados robot son ciertamente geniales, pero ni siquiera me importa mucho el levantamiento de los automóviles, pero el hecho de que, habiendo reducido las pérdidas durante la guerra a cero, la humanidad comenzará a librar guerras con más frecuencia porque la única barrera fuerte para las guerras a gran escala son las pérdidas. Como alguien dijo (no recuerdo el nombre ) Es bueno que la guerra sea tan terrible, de lo contrario nos encantaría demasiado, pero con los robots esto
    pasará
  14. pamero 12 января 2013 19: 49 nuevo
    • 0
    • 0
    0
    terminadores reales
  15. Gonoriy 10 января 2016 12: 53 nuevo
    • 0
    • 0
    0
    La robotización ya no se puede detener; este es un hecho a tener en cuenta.