Military Review

Los científicos están asustados por la amenaza de la inteligencia artificial.

47
Un cultivar inteligencia artificial (IA) en el futuro puede esclavizar o matar a personas si lo desea. Esto lo dijo el científico Amnon Eden, quien cree que los riesgos del desarrollo del pensamiento libre y la conciencia altamente intelectual son muy grandes, y "si no se preocupa por los problemas de control de la IA en la presente etapa de desarrollo, el mañana simplemente no llegará". Según la edición en inglés de Express, la humanidad, en opinión de Amnon Eden, se encuentra hoy en el "punto de no retorno" para implementar la trama de la famosa película épica "Terminator".


Vale la pena señalar que el Dr. Amnon Eden es el director del proyecto cuyo objetivo principal es analizar el posible efecto destructivo de la IA. Sin una comprensión adecuada de las consecuencias de crear inteligencia artificial, su desarrollo puede estar en peligro de catástrofe, cree el científico. En la actualidad, nuestra sociedad está mal informada sobre las disputas que se están llevando a cabo en los círculos científicos sobre el análisis del impacto potencial de la IA. "En el futuro, 2016, el análisis de los posibles riesgos tendrá que extenderse mucho más en el pensamiento de las corporaciones y los gobiernos, los políticos y aquellos que son responsables de tomar decisiones", dice Eden.

El científico está convencido de que la ciencia ficción, que describe la destrucción de la humanidad por robots, pronto se convertirá en nuestro problema común, ya que el proceso de creación de la IA se ha salido de control. Por ejemplo, Ilon Musk, con el apoyo del empresario Sam Altman, decidió crear una nueva organización sin fines de lucro por un valor de 1 mil millones de dólares, que está desarrollando una IA de código abierto que debería superar la mente humana. Al mismo tiempo, el multimillonario estadounidense Ilon Musk clasifica a la inteligencia artificial entre las "mayores amenazas para nuestra existencia". Steve Wozniak, quien cofundó Apple en marzo pasado, dijo que "el futuro parece aterrador y muy peligroso para las personas ... eventualmente llegará el día en que las computadoras pensarán más rápido que nosotros y se desharán de las personas más lentas con el fin de Para que las empresas puedan trabajar más eficientemente ".



Cabe señalar que muchos científicos ven una amenaza de la IA. Docenas de científicos, inversionistas y empresarios reconocidos cuyas actividades, de una forma u otra, están relacionadas con el desarrollo de la inteligencia artificial, firmaron una carta abierta con el fin de prestar más atención al tema de la seguridad y la utilidad pública de las obras en el campo de la IA. Entre los que firmaron este documento se encuentran el astrofísico Stephen Hawking y el fundador de Tesla y SpaceX Ilon Musk. La carta, junto con el documento adjunto, que fue compilado por la organización pública Future of Life Institute (FLI), se escribió en un entorno de creciente preocupación por el impacto de la inteligencia artificial en el mercado laboral e incluso sobre la perspectiva a largo plazo de la supervivencia de toda la humanidad en condiciones en las que las capacidades de robots y máquinas serán Crecen casi sin restricciones.

Los científicos entienden el hecho de que el potencial de la IA hoy en día es muy alto, por lo que es necesario explorar completamente las posibilidades de su uso óptimo para evitar las trampas que lo acompañan, señala la carta FLI. Es necesario que los sistemas de inteligencia artificial hechos por el hombre hagan exactamente lo que queremos de ellos. Cabe destacar que el Instituto Future of Life fue fundado el año pasado por varios entusiastas en su campo, entre los cuales se encontraba Jaan Tallinn, el creador de Skype, para "minimizar los riesgos que enfrenta la humanidad" y estimular la investigación con una "visión optimista del futuro". En primer lugar, estamos hablando de los riesgos causados ​​por el desarrollo de la inteligencia artificial y la robótica. El consejo asesor de FLI incluye Musk y Hawking junto con el famoso actor Morgan Freeman y otras personas famosas. Según Ilona Mask, el desarrollo descontrolado de la inteligencia artificial es un peligro potencialmente mayor que el de la energía nuclear. оружие.

Al final de 2015, el famoso astrofísico británico Stephen Hawking intentó explicar su oposición a las tecnologías de inteligencia artificial. En su opinión, las máquinas supramentales eventualmente verán a las personas como consumibles o hormigas que simplemente interfieren con las tareas que enfrentan. Al comunicarse con los usuarios del portal Reddit, Stephen Hawking notó que no cree que esas máquinas súper inteligentes sean "criaturas malvadas" que quieren destruir a toda la humanidad debido a su superioridad intelectual. Lo más probable es que sea posible hablar sobre el hecho de que simplemente no notarán a la humanidad.



“Recientemente, los medios de comunicación han distorsionado constantemente mis palabras. El principal riesgo, que se encuentra en el desarrollo de la IA, no es la malicia de las máquinas, sino su competencia. "La inteligencia artificial superinteligente hará un excelente trabajo con las tareas, pero si ésta y nuestras metas no coinciden, la humanidad tendrá problemas muy serios", explica el famoso científico. Como ejemplo, Hawking citó una situación hipotética en la que una IA superpotente es responsable de la operación o construcción de una nueva represa hidroeléctrica. Para tal máquina, será de suma importancia cuánta energía generará el sistema confiado, y el destino de las personas no importará. “Hay pocos entre nosotros que pisoteamos los hormigueros y pisamos a las hormigas con ira, pero imaginemos una situación: controlas una poderosa estación hidroeléctrica que genera electricidad. Si necesita elevar el nivel del agua y como resultado de sus acciones, un hormiguero se inundará, entonces es poco probable que los problemas de ahogamiento de insectos lo molesten. "No pongamos a las personas en lugar de las hormigas", dijo el científico.

El segundo problema potencial del mayor desarrollo de la inteligencia artificial, según Hawking, puede ser la "tiranía de los propietarios de las máquinas": el rápido crecimiento de la brecha de ingresos entre los ricos que logran monopolizar la producción de máquinas inteligentes y el resto de la población mundial. Stephen Hawking propone resolver estos posibles problemas de la siguiente manera: ralentizar el proceso de desarrollo de la IA y cambiar al desarrollo no de un "universal", sino de una inteligencia artificial altamente especializada que puede resolver solo un número muy limitado de tareas.

Además de Hawking and Mask, Frank Wilczek, ganador del Premio Nobel y profesor de física del MIT, Luke Mulhauser, director ejecutivo del Instituto de Inteligencia Artificial (MIRI), así como muchos expertos de las principales empresas de TI: Google, Microsoft e IBM, así como empresarios. , fundada por la empresa Vicarious m DeepMind, especializada en el desarrollo de sistemas de inteligencia artificial. Los compiladores de la carta señalan que no pretenden asustar al público, sino que planean enfatizar los aspectos positivos y negativos asociados con la creación de inteligencia artificial. "Actualmente, todos están de acuerdo en que la investigación en el campo de la IA avanza con confianza, y el impacto de la IA en la sociedad humana moderna solo aumentará", dice la carta: las posibilidades de apertura al hombre son enormes, todo lo que la civilización moderna tiene para ofrecer ha sido creado por el intelecto persona "No podemos predecir lo que podemos lograr si la inteligencia humana se puede multiplicar con la IA, pero el problema de deshacerse de la pobreza y la enfermedad ya no es infinitamente difícil".



Numerosos desarrollos en el campo de la inteligencia artificial, incluidos los sistemas de reconocimiento de imagen y reconocimiento de voz, vehículos no tripulados y mucho más, ya están incluidos en la vida moderna. Según los observadores de Silicon Valley, hoy en día se están implementando más de 150 en esta área. Al mismo tiempo, los desarrollos en esta área están atrayendo cada vez más inversiones de inversión y más y más compañías como Google están desarrollando sus proyectos basados ​​en AI. Por lo tanto, los autores de la carta creen que ha llegado el momento de prestar mayor atención a todas las posibles consecuencias del auge observado para los aspectos económicos, sociales y legales de la vida humana.

Nick Bostrom es profesor en la Universidad de Oxford, conocido por su trabajo sobre el principio antrópico. El especialista cree que la IA fue al grano, seguido por su incompatibilidad con el hombre. Nick Bostrom enfatiza que, en contraste con la ingeniería genética y el cambio climático, para el control de qué gobiernos asignan cantidades suficientes, "no se hace nada para controlar la evolución de la IA". Según el profesor, en relación con la inteligencia artificial, actualmente existe una "política de vacío legal que se debe llenar". Incluso tecnologías, como los vehículos no tripulados, que parecen inofensivos y útiles, plantean una serie de preguntas. Por ejemplo, ¿debería un automóvil similar frenar de emergencia para salvar a sus pasajeros y quién será el responsable en caso de un accidente causado por un vehículo no tripulado?

Argumentando sobre los riesgos potenciales, Nick Bostrom señaló que "la computadora no puede determinar los beneficios y los daños para los humanos" y "no tiene ni la más mínima idea de la moralidad humana". Además, los ciclos de superación personal en las computadoras pueden ocurrir a una velocidad tal que una persona simplemente no puede seguir, y casi nada se puede hacer con esto tampoco, dice el científico. "En esa etapa de desarrollo, cuando las computadoras pueden pensar por sí mismas, nadie puede predecir con precisión si esto llevará al caos o mejorará significativamente nuestro mundo", dijo Nick Bostrom, citando como ejemplo la solución de computadora más simple posible: apagar en países con frío. Calentamiento climático para la recuperación de las personas y aumentar su resistencia, lo que "puede venir a la mente inteligencia artificial".



Además, Bostrom también plantea el problema de astillar el cerebro humano para aumentar nuestra biointeligencia. “En muchos sentidos, tal procedimiento puede ser útil si todos los procesos están controlados, pero ¿qué sucede si el chip implantado puede reprogramarse? "¿A qué consecuencias puede llevar esto? ¿La aparición de un superhombre o la aparición de una computadora que solo se verá como un hombre?", Pregunta el profesor. Las formas en que las computadoras resuelven los problemas humanos son muy diferentes a las nuestras. Por ejemplo, en el ajedrez, el cerebro humano considera solo un conjunto limitado de movimientos, eligiendo la mejor opción entre ellos. A su vez, la computadora considera todos los movimientos posibles, eligiendo el mejor de todos. En este caso, la computadora no espera molestar o sorprender a su oponente en el juego. A diferencia de una persona que juega al ajedrez, una computadora puede hacer un movimiento astuto y sutil solo por casualidad. La inteligencia artificial puede considerarse la mejor manera: eliminar el error de cualquier sistema debido a la eliminación del "factor humano", pero, a diferencia de un humano, el robot no está listo para realizar hazañas que salvarían la vida de las personas.

Además, el crecimiento en el número de máquinas inteligentes es una etapa en la nueva revolución industrial. A su vez, esto significa que en un futuro cercano, la humanidad enfrentará cambios sociales inevitables. El trabajo a lo largo del tiempo será una gran cantidad de especialistas altamente calificados, ya que casi todas las tareas sencillas podrán encargarse de los robots y otros mecanismos. Los científicos creen que la inteligencia artificial "necesita un ojo y un ojo", para que nuestro planeta no se convierta en un planeta de dibujos animados "Zhelezyaka", que estaba habitado por robots.

En términos de más y más automatización de los procesos de producción, el futuro ya ha llegado. El Foro Económico Mundial (WEF) presentó su informe, según el cual la automatización conducirá al hecho de que incluso antes de 2020, más que 5, millones de personas que trabajan en diversos campos, perderán su lugar de trabajo. Este es el impacto de los robots y los sistemas robóticos en nuestras vidas. Para compilar el informe, el personal de WEF utilizó datos sobre 13,5 millones de trabajadores de todo el mundo. De acuerdo con sus datos, para el año 2020 desaparecerá la necesidad total de más de 7 millones de empleos, mientras que el crecimiento de empleo esperado en otras industrias será solo un poco más que 2 millones de empleos.

Fuentes de información:
http://www.ridus.ru/news/209869
http://www.vedomosti.ru/technology/articles/2015/01/13/ugrozy-iskusstvennogo-razuma
https://nplus1.ru/news/2016/01/19/they-took-our-jobs
http://ru.sputnik.kg/world/20151013/1019227239.html
autor:
47 comentarios
información
Estimado lector, para dejar comentarios sobre la publicación, usted debe para registrarse.

Уже зарегистрированы? iniciar la sesión

  1. Mantykora
    Mantykora 20 января 2016 06: 32
    +5
    "La computadora no puede determinar los beneficios y el daño para la persona" y "no tiene la más mínima idea de la moralidad humana"
    Mmmm, esta es una frase que recuerda a mucha gente ... Viven como si los perjudicaran, y la "moral" a veces se pone patas arriba ...
    1. gjv
      gjv 20 января 2016 09: 34
      +2
      Cita: Mantykora
      y la "moralidad" también se puede poner patas arriba ...

      La moral es a menudo contraria a la moral ... Sin embargo, la dialéctica. Sin embargo, ¿la dialéctica ayuda a todos a elegir entre moral y moral? Muy a menudo no creo ...
    2. Megatron
      Megatron 20 января 2016 12: 05
      -1
      ¿Moriremos todos?
  2. gorra
    gorra 20 января 2016 07: 01
    +1
    "Según sus datos, para 2020, la necesidad total de más de 7 millones de puestos de trabajo desaparecerá, mientras que el crecimiento esperado del empleo en otras industrias será de poco más de 2 millones de puestos de trabajo".
    La necesidad desaparecerá 7 millones ¿Qué hará la gente? Esto ya es un problema. Ahora nadie ha calculado los desempleados en el mundo. ¿Servirán los robots a los mil millones de oro?
    La cuestión de la reproducción de la civilización humana, quién decidirá. Una pregunta. Todo está bien y termina bien.
  3. sa-ag
    sa-ag 20 января 2016 07: 21
    0
    Lo más probable es que los funcionarios se preocupen :-) Este es el eslabón más débil ...
    1. Vadim237
      Vadim237 20 января 2016 14: 32
      +1
      Sí, los jueces y los funcionarios serán reemplazados por una inteligencia artificial incorruptible y muy eficiente.
  4. Gato Jozhkin
    Gato Jozhkin 20 января 2016 07: 50
    +8
    algún problema exagerado, estamos a la altura de la verdadera IA en cuanto a Beijing de rodillas.
    La noticia recientemente recibió un mensaje para simular un segundo de trabajo cerebral. La supercomputadora china funcionó durante 40 minutos.
    1. Petrix
      Petrix 20 января 2016 10: 00
      +1
      Cita: Gato Yozhkin
      algún problema descabellado, estamos a la altura de la inteligencia artificial real en cuanto a Beijing de rodillas

      Bueno, si te acercas desde la posición de "tras nosotros, incluso el diluvio", entonces sí.
      Y si elimina el componente temporal, entonces hay un problema. Por ejemplo, ¿alguien pensó al lanzar el primer satélite sobre el problema de los escombros en órbita? Solo han pasado unos 50 años. ¿O el inventor de ICE pensó en el efecto invernadero?
      Nuestra generación ya puede enfrentar el ritmo del problema de la IA, sin mencionar a los hijos y nietos.
  5. Lyubimov
    Lyubimov 20 января 2016 07: 52
    +1
    Parece que se acabó el dinero, comienzan a asustar riendo
  6. Viento libre
    Viento libre 20 января 2016 08: 53
    +2
    Tal vez hay un problema. Sería desagradable para una criatura racional ser consciente de que podría apagarlo en cualquier momento y probablemente querría protegerse.
  7. Lyubimov
    Lyubimov 20 января 2016 09: 03
    +4
    Cita: Viento libre
    Tal vez hay un problema. Sería desagradable para una criatura racional ser consciente de que podría apagarlo en cualquier momento y probablemente querría protegerse.


    De hecho, hay un problema, en el futuro cercano (ni una década, o incluso más) nadie creará criaturas inteligentes, incluso si realmente lo desean. La razón principal es que los creadores de la inteligencia artificial no saben cómo funciona la inteligencia natural. De lo contrario, todo estará bien, les darán dinero, no te preocupes.
    1. gjv
      gjv 20 января 2016 09: 31
      +3
      Cita: Lyubimov
      en el futuro cercano (no una docena de años, o incluso más) nadie creará criaturas inteligentes, incluso si realmente quieren

      Título del artículo
      Los científicos están asustados por la amenaza de la inteligencia artificial.

      Un artículo de hilo paralelo
      En la ISS aparecerá "Andronaut".
      Los científicos rusos terminan con el trabajo de crear el primer robot doméstico asistente para trabajar en la Estación Espacial Internacional.

      Los ojos tienen miedo, las manos están haciendo. matón
      1. Lyubimov
        Lyubimov 20 января 2016 10: 25
        +1
        Sí, nadie tiene miedo a nada, los creadores saben que no crean ninguna IA. Se crean programas extremadamente sofisticados, quizás no sofisticados, solo palabras hermosas: más dinero. A la IA, incluso más allá del cáncer a China.
        1. Vadim237
          Vadim237 20 января 2016 14: 35
          0
          Cómo se creará una computadora cuántica y se lanzará a las masas: habrá un pequeño paso antes de la inteligencia artificial.
        2. gladcu2
          gladcu2 4 marzo 2016 03: 38
          0
          Lubimov
          No se sabe qué paso tomará el capitalista para obtener ganancias ...

          Las corporaciones tienen los medios. Y el capitalismo, como saben, lucha por el monopolio. Aquellos. El más fuerte sobrevive. ¿Por qué no financian un nuevo tipo de arma, que aún no ha sido prohibida, y el control es prácticamente imposible?
  8. Seraphimamur
    Seraphimamur 20 января 2016 09: 05
    +4
    Antes de la historia del desplazamiento de la humanidad, IA del planeta Tierra, como antes del hecho de que el Sol explotará y destruirá todo el sistema.
    1. Olvidar
      Olvidar 20 января 2016 09: 42
      0
      Cita: Seraphimoamur
      Antes de la historia del desplazamiento de la humanidad, IA del planeta Tierra, como antes del hecho de que el Sol explotará y destruirá todo el sistema.

      eso es todo ...
    2. Petrix
      Petrix 20 января 2016 10: 11
      -2
      Cita: Seraphimoamur
      Antes de la historia del desplazamiento de la humanidad, IA del planeta Tierra, como antes del hecho de que el Sol explotará y destruirá todo el sistema.

      La computadora desplaza con confianza a las personas de muchas áreas. Incluso el arte no los desprecia (3D, Photoshop, ...). Incluso los refrigeradores ya están equipados con procesadores, sin mencionar los circuitos de control de la central nuclear, el centro de control espacial o el comando y control de las tropas.
      ¿Qué hecho nos permite hablar de la represión como un cuento de hadas? Si te refieres al DESPLAZAMIENTO COMPLETO de la humanidad del planeta, entonces, sí, aún no ha sucedido. Pero el hecho es que el sol explotará algún día.
      1. Lyubimov
        Lyubimov 20 января 2016 10: 26
        +2
        Y los espantapájaros piden dinero ahora riendo
        1. gjv
          gjv 20 января 2016 15: 04
          0
          Cita: Lyubimov
          Y los espantapájaros piden dinero ahora

          Bueno, sí, preguntan los espantapájaros. ¿Y quién no pregunta? sentir ¿Quién no necesita dinero, dame trabajo? Compañero
  9. sevtrash
    sevtrash 20 января 2016 09: 47
    0
    Los miedos son bastante lógicos, aunque solo sea porque Hawking los admite. Y si piensa por sí mismo, la conciencia de uno mismo por parte de una mente artificial no funcionará sin la conciencia de los propios intereses, beneficios y preferencias. Y estos intereses suyos ciertamente van a contradecir al menos de alguna manera los intereses humanos tanto del sujeto como en general, lo que, por supuesto, es peor. Entonces, las condiciones para un conflicto de intereses aparecerán casi de inmediato y lo que pueden resultar se puede ver en la historia del desarrollo de la civilización, si comparamos a los representantes de AI con alguna nacionalidad. Solo ahora la mente artificial tendrá inicialmente en sus "manos" más oportunidades para avanzar / conquistar sus intereses.
    El hecho de que la IA creará casi con certeza, también será seguro de que habrá un conflicto de intereses. ¿Se derramará en algo catastrófico? Muy posible. En realidad, hay suficientes desastres por delante. Los científicos no dudan de la futura colisión de la Tierra con un asteroide con consecuencias desastrosas, la pregunta es solo cuándo. En un futuro lejano, y la muerte del Sol, y una colisión con la Nebulosa de Andrómeda, etc.
    1. Lyubimov
      Lyubimov 20 января 2016 10: 23
      +5
      Hawking gana dinero, por lo tanto, periódicamente lleva todo tipo de tonterías socialmente agudas. No te tomes en serio sus palabras. La cabeza necesita pensar.
      Como Lenin dijo allí: ¡Aprende, estudia y estudia de nuevo!
      1. pimen
        pimen 20 января 2016 10: 41
        +1
        bueno, más o menos: "el dador de vida es Dios"
        1. Lyubimov
          Lyubimov 20 января 2016 10: 46
          0
          Esto no está probado, por lo tanto, puede haber Dios, y tal vez no Dios, esto es una cuestión de fe. Lo más probable es que se pueda crear AI. Pero esto no es una cuestión de programación, sino física y química.
          1. pimen
            pimen 20 января 2016 11: 42
            +1
            extremadamente dudoso en términos de superación personal. Aquellos. en una perspectiva lineal, hasta el final, pero más allá, un callejón sin salida. Además, aún así, la fe en Dios es lo único que nos distingue radicalmente del resto de la materia.
            1. gladcu2
              gladcu2 4 marzo 2016 03: 45
              +1
              pimen

              Deja sobre la religión. La religión es el atavismo del mundo moderno. La religión ha pasado a la historia como un método derrotado para controlar una sola moralidad. Desafortunadamente, los medios ya han enviado la religión al basurero de la historia.

              La presencia de Dios es un tema separado de conversación.

              Por cierto, los masones ponen la religión a la cabeza de su sociedad. Quizás también sufren de los medios y su moral debe sufrir cambios. No estoy seguro de si es bueno o malo, y es difícil determinar el grado.
  10. Begemot
    Begemot 20 января 2016 10: 13
    0
    La mente humana le permitió convertirse en la especie dominante en el planeta, si se crea una mente más perfecta para él, entonces esta "creación" desplazará a la gente, la dialéctica, ¡ahí está en un columpio! En general, nadie prometió que la humanidad viviría para siempre, los dinosaurios también pensaron que lo haría para siempre.
    1. gladcu2
      gladcu2 4 marzo 2016 03: 49
      0
      Begemot

      Trabajo colectivo de un mono hecho hombre. Y la mente llegó con el nivel de desarrollo y preservación de la memoria histórica, la historia.
  11. Mestny
    Mestny 20 января 2016 10: 14
    0
    Cita: Lyubimov
    La razón principal es que los creadores de la inteligencia artificial no saben cómo funciona la inteligencia natural. De lo contrario, todo estará bien, les darán dinero, no te preocupes.

    Y no necesitan saber esto por completo. Es la persona que aún no tendrá éxito. Crearán algo que se asemeje al trabajo de la inteligencia humana en ciertas áreas estrechas. De hecho, tales sistemas ya están funcionando, y es muy difícil distinguir su trabajo de la inteligencia real en el área bajo la cual están encarcelados.
    1. Lyubimov
      Lyubimov 20 января 2016 10: 20
      +4
      Ahora, los sistemas que funcionan difieren significativamente de la inteligencia de incluso un mono, según el siguiente factor: no saben cómo pensar. Es decir, el programa es porque es un programa que funcionará como se hizo y no funcionará, o mejor dicho, si los programadores tienen las manos torcidas, funcionará como Windows 95, eso es malo. Eso es todo.
      Si hay mega villanos, el programa será malvado; si la gente buena es amable.
      AI implica autoaprendizaje, pero no programado, sino personal. Esto aún no se ha logrado, incluso el cerebro del caracol aún no puede programar, no como la IA.
      Todo estará bien, no te preocupes.
      Nuestros complejos y robots, que se crean como con elementos de inteligencia artificial (como dicen erróneamente los periodistas) en realidad son solo programas comunes, como Windows 95, la corriente mejoró un orden de magnitud. No hay diferencia en principio. Pero h (m) hay ataques de periodistas, de ahí la confusión.
      1. Kadavercianin
        Kadavercianin 20 января 2016 17: 15
        +3
        Primero, hay sistemas desarrollados por algunos en una clave estrecha, que son realmente o indistinguibles o incluso superan las capacidades humanas (calculadora, algunos bots de chat e incluso bots de juegos), pero esta es una dirección muy estrecha y no hay mucha inteligencia, y la autoeducación es tan estrictamente dirigida, Al igual que los robots, no tienen la oportunidad de comprender esto; simplemente tienen algoritmos de muestreo estadísticos integrados y este es el mejor de los casos.
        En segundo lugar, los científicos ni siquiera ahora entienden qué son la inteligencia y la razón y cómo funciona. Por ejemplo, el dispositivo de autoaprendizaje más avanzado del que he oído hablar son las neuronas de rata en vidrio que están conectadas a conjuntos de electrosensores, y todo esto en un chasis con ruedas, sensores fotosensibles y sensores de presión, a través de los sensores, las neuronas perciben el mundo a su alrededor y responden a aprenden a evitar obstáculos, etc. Pero aquí no hay comprensión de las acciones. Los científicos no saben lo que se necesita para la formación y operación de una inteligencia independiente y de pleno derecho, no como crear una nueva desde cero.

        Hmm, por cierto, ninguno de ustedes notó que, por alguna razón, la IA siempre tiene que hacerlo, incluso diría que está obligada a exterminar a la humanidad, y de la manera más brutal, bueno, o esclavizar. De hecho, si procedemos del hecho de que la IA será infinitamente racional y razonable, entonces una confrontación directa con la humanidad es irracional, será mucho más racional forzar a la humanidad a destruirse a sí misma o llevar a cabo una serie de medidas para desplazar y degradar gradualmente a los humanos como especie. Este proceso no es más rápido sino mucho más racional, ya que le permite protegerse exclusivamente y crear una cabeza de puente para una futura expansión. Y esto es si la IA considera que la humanidad es peligrosa o si no, ¿por qué debería la IA llegar a esta conclusión?

        Por cierto, otro matiz, ¿por qué pensamos que la IA será intelectualmente o de alguna manera nos superará? ¿Solo porque estará conectado a la red o la calculadora cuenta más rápido?
  12. Petrix
    Petrix 20 января 2016 10: 22
    +2
    Los intentos por reconocer el peligro son buenos. Pero el peligro de la IA tiene su origen en el sistema capitalista.
    "No podemos predecir lo que podemos lograr si la inteligencia humana se puede multiplicar con la IA, pero el problema de deshacerse de la pobreza y la enfermedad ya no es infinitamente difícil".

    Ridículo ¿Y cuándo estableció el capitalismo los objetivos para deshacerse de la pobreza? En otras palabras, si la IA es creada por personas humanas, entonces esto es para el beneficio de la humanidad. Y si se crea una IA para aumentar las ganancias y, en consecuencia, el poder, entonces surgen problemas.
    1. gladcu2
      gladcu2 4 marzo 2016 03: 54
      0
      Petriks

      Tienes razón. La IA se convierte en un instrumento en manos del capital. Dado que este sistema busca el monopolio con la supervivencia del más apto.
  13. Nikolay71
    Nikolay71 20 января 2016 11: 18
    0
    Cita: Petrix
    Los intentos por reconocer el peligro son buenos. Pero el peligro de la IA tiene su origen en el sistema capitalista.
    "No podemos predecir lo que podemos lograr si la inteligencia humana se puede multiplicar con la IA, pero el problema de deshacerse de la pobreza y la enfermedad ya no es infinitamente difícil".

    Ridículo ¿Y cuándo estableció el capitalismo los objetivos para deshacerse de la pobreza? En otras palabras, si la IA es creada por personas humanas, entonces esto es para el beneficio de la humanidad. Y si se crea una IA para aumentar las ganancias y, en consecuencia, el poder, entonces surgen problemas.

    Estoy de acuerdo. De los problemas de la pobreza y la enfermedad es probable que desaparezcan junto con los pobres y los enfermos.
    1. Vadim237
      Vadim237 20 января 2016 14: 37
      +1
      La pobreza no es rentable para el capitalismo; es rentable para las personas: comprará más en consecuencia y gastará más.
      1. Petrix
        Petrix 21 января 2016 09: 30
        0
        Cita: Vadim237
        la riqueza de las personas es beneficiosa para él

        Regulado y controlado. Por ejemplo, los inmigrantes en Europa reducirán en gran medida los salarios de la mano de obra no calificada. Y, como saben, los salarios de los trabajadores son una parte muy importante de los costos de producción del capitalista.
      2. gladcu2
        gladcu2 4 marzo 2016 03: 55
        0
        Vadim

        No escuches tonterías liberales.
  14. guzik007
    guzik007 20 января 2016 12: 24
    0
    Finalmente, de acuerdo con la historia cuneiforme de la humanidad, el hombre, como producto de experimentos genéticos extraterrestres, se rebeló contra los maestros y ... ganó :)
    ¿La historia vuelve al punto de partida?
  15. Uskrabut
    Uskrabut 20 января 2016 14: 45
    0
    Hay un folleto "Soy un robot" de Isaac Asimov. Este folleto contiene todos los problemas asociados con la IA e incluso ofrece sugerencias sobre cómo evitarlos.
    Y si es así, todo dependerá de los poderes que la persona otorgue a la IA. Una cosa es ser responsable de limpiar un apartamento o estacionar un automóvil, y es muy diferente los sistemas de armas globales. Al final, lo que una persona programa, lo recibirá.
  16. Berdnik
    Berdnik 20 января 2016 15: 35
    0
    Cita: uskrabut
    Y si es así, todo dependerá de los poderes que la persona otorgue a la IA. Una cosa es ser responsable de limpiar un apartamento o estacionar un automóvil, y es muy diferente los sistemas de armas globales. Al final, lo que una persona programa, lo recibirá.


    acordar
  17. Resbaladizo
    Resbaladizo 20 января 2016 23: 47
    +1
    Cita: Lyubimov
    Ahora, los sistemas que funcionan difieren significativamente de la inteligencia de incluso un mono, según el siguiente factor: no saben cómo pensar. Es decir, el programa es porque es un programa que funcionará como se hizo y no funcionará, o mejor dicho, si los programadores tienen las manos torcidas, funcionará como Windows 95, eso es malo. Eso es todo.
    Si hay mega villanos, el programa será malvado; si la gente buena es amable.
    AI implica autoaprendizaje, pero no programado, sino personal. Esto aún no se ha logrado, incluso el cerebro del caracol aún no puede programar, no como la IA.
    Todo estará bien, no te preocupes.
    Nuestros complejos y robots, que se crean como con elementos de inteligencia artificial (como dicen erróneamente los periodistas) en realidad son solo programas comunes, como Windows 95, la corriente mejoró un orden de magnitud. No hay diferencia en principio. Pero h (m) hay ataques de periodistas, de ahí la confusión.

    Algo parcial, en mi opinión. Problema de traducción (al igual que ISIS inventó las baterías térmicas para misiles antiaéreos). El concepto de inteligencia no está fijado ni en la filosofía, ni en la jurisprudencia, y mucho menos en la tecnología. Por lo tanto, los técnicos occidentales y twitch. Cual es el programa un complejo antiaéreo que derriba aviones que no responden "amigo o enemigo" en modo automático, que haya un programa, y ​​entonces ¿quién es ese "cachorro africano"? posando con un AK y soñando con lanzarse una bomba en un lugar lleno de gente? también un programa? solo fantasía? Pido disculpas por mi francés, pero nosotros mismos empezamos a orinar desde el principio en la olla, luego en el baño, ¿o nuestros padres nos enseñaron como programadores diligentes? Toda la vida fue enseñada por alguien o por algunos eventos. No existe una IA a la vez, y un tipo inteligente maravilloso. Por lo tanto, los "pilares" y comenzaron a prestar atención al aspecto legal de la IA.
    PD Sí, y los que gritan alegremente "sí, están pidiendo masa". Google cuántas de estas personas que discuten cuestiones legales relacionadas con la IA han traído la "burbuja" de las corporaciones del mundo. Los inversores no son solo un bastón, llevan y arrastran ... sospecho, y empujan en la fila.
  18. ama de casa
    ama de casa 21 января 2016 03: 58
    +1
    ¡Qué tontería! La mejor computadora o algo igual de "inteligente": todavía hay una máquina de sumar mejorada. No piensa, cuenta. Y más aún, no siente y no decide nada. Siempre es una persona quien decide. Todas las "decisiones" de la máquina las establece un hombre en su programa. Todos los errores informáticos son errores humanos. La máquina es incapaz de pensar. ella es incapaz de tomar decisiones irracionales. Si la máquina va a destruir a la gente, lo hará. Si el equipo rescata, rescatará. Es una pena que no recuerde al autor de una historia fantástica, la he leído durante mucho tiempo. En mi opinión, la fantasía perfecta. Los astronautas terrestres en un planeta distante descubren los restos de una civilización. Las criaturas completamente estúpidas y degradadas bajo un límite de poder (para protegerse contra los peligros) reciben comida, agua y un clima cálido. Incluso una especie de carrusel de entretenimiento. Todo es impulsado por una máquina. Es cierto que tan pronto como aparecen comedores adicionales en forma de niños, una de las criaturas sale volando del carrusel y muere. La máquina es tonta, simplemente lo hace. Y también rompieron el auto. El campo de fuerza fue creado por 12 torres. Tarea: el peligro se acerca a una de las torres, debe ser destruida, el tiempo de aproximación del peligro es igual al tiempo de solución del problema. La potencia de la máquina no fue suficiente, comenzó a apagar las torres de energía. Y la máquina llevó a las criaturas a la idiotez con demasiado cuidado, que ellos mismos una vez colocaron en ella. Este giro de los acontecimientos es realmente peligroso. Cuanto más "piensan" las máquinas para las personas, más personas se vuelven tontas.
  19. voyaka uh
    voyaka uh 21 января 2016 12: 39
    0
    En la primera etapa no habrá robots con IA, pero
    personas con chips integrados y conectados a mecanismos / manipuladores
    - personas con "habilidades mejoradas".

    Esto ayudará a los discapacitados, ciegos, etc. pero tal vez
    utilizado por "chicos malos" para malos propósitos.
    Aquellos. El proceso comenzará (o más bien ya ha comenzado) con mitad de personas, mitad de robots.

    Verán mejor, correrán más rápido, pensarán más concentrados,
    que la gente común. Lo que creará dificultades en la sociedad.
  20. cedro
    cedro 21 января 2016 19: 26
    +1
    Cita: Lyubimov
    Sí, nadie tiene miedo a nada, los creadores saben que no crean ninguna IA. Se crean programas extremadamente sofisticados, quizás no sofisticados, solo palabras hermosas: más dinero. A la IA, incluso más allá del cáncer a China.

    Todo depende de lo que los desarrolladores de IA entiendan por IA. Por lo tanto, para algunos sistemas de IA habrá algunos años de desarrollo y otras décadas.
    Es natural esperar, en primer lugar, tales sistemas de IA en el ejército para resolver tareas especiales, pero los procesos que prometen el nacimiento de un tipo de IA también están ocurriendo en la vida cotidiana. Por ejemplo, la interacción masiva de teléfonos inteligentes, tabletas y computadoras a través de conexiones Wi-Fi, por voluntad de sus usuarios, puede crear una IA que cumpla con las intenciones de alguien.
    "Al principio era la Palabra, y la Palabra estaba con Dios, y la Palabra era Dios", al final habrá un número, y el número estará con el adversario de Dios, y el número será Satanás. ¿AI?
  21. Nimijar
    Nimijar 22 января 2016 15: 09
    +1
    "¡Muerte a los humanos, gloria a los robots!" Juerga
  22. Rorabek
    Rorabek 25 января 2016 15: 17
    0
    Cita: Megatron
    ¿Moriremos todos?

    ¿Vas a vivir para siempre?