Inteligencia artificial ¿El futuro de la seguridad nacional de Rusia?
Diez años de desarrollo
No es ningún secreto que la inteligencia artificial está penetrando más profundamente en la vida de la gente común de todo el mundo. Esto se ve facilitado por la difusión global de Internet, así como por un gran aumento en la potencia informática. Las redes neuronales, que tienen cierta similitud con el cerebro humano, han permitido mejorar cualitativamente el trabajo del software que se está desarrollando. Sin embargo, hay un par de puntos de aclaración: las redes neuronales todavía están muy lejos del nivel del cerebro humano, especialmente en términos de eficiencia energética, y los algoritmos de operación siguen siendo extremadamente difíciles de entender.
El dinero en la industria de la inteligencia artificial, a pesar de algunas limitaciones e incidentes resonantes con los autos de piloto automático, va por un río ancho. El año pasado, de acuerdo con la Estrategia Nacional aprobada, el mercado de soluciones de TI en esta área superó los 21,5 mil millones. Dios sabe cuánto, pero solo aumentará cada año, y para 2024, la IA total en el mundo tendrá un valor condicional de 140 mil millones, y el potencial crecimiento económico de la introducción de AI en este momento alcanzará un trillón de 1 decente. dolares En realidad, un intento de mantenerse al día con las tendencias mundiales fue la aprobación por parte del presidente Vladimir Putin de la 10 de octubre de 2019 de octubre de la Estrategia nacional antes mencionada. Al mismo tiempo, el programa en sí mismo declara no solo reducir la brecha con los líderes mundiales, sino también ingresar el número de jugadores principales en este mercado. Y se planea hacer esto para el año 2030. Entre los obstáculos obvios a este camino estarán las declaraciones proteccionistas de varios países de que cualquier software ruso conlleva un peligro potencial.
¿Dónde van a darse cuenta de las capacidades "ilimitadas" de la IA en suelo ruso? En primer lugar, es la automatización de las operaciones de rutina junto con el reemplazo de personas en industrias peligrosas (léase: incluso en el ejército). Además, se planifica un trabajo serio con big data que se ha generado recientemente simplemente como una avalancha. Se supone que podrán mejorar los pronósticos para las decisiones de gestión, así como optimizar la selección y capacitación del personal. La atención médica con educación en diez años también serán usuarios activos de IA. En medicina, la profilaxis, el diagnóstico, la dosificación de medicamentos e incluso la intervención quirúrgica se administrarán parcial o completamente a la mente de la máquina. En las escuelas, AI participará en la individualización de los procesos de aprendizaje, analizando la propensión de un niño a la actividad profesional y la identificación temprana de jóvenes con talento. En la estrategia, se puede encontrar una disposición sobre el "desarrollo e implementación de módulos educativos en el marco de programas educativos en todos los niveles de la educación". Es decir, ¿lo básico de la IA se enseñará en la escuela?
Como es habitual, además de los resultados tangibles del desarrollo de la IA, se requerirá que el entorno científico aumente el número y el índice de citas de artículos escritos por científicos rusos en publicaciones especializadas mundiales. Y para el año 2024, es decir, muy pronto, el número de ciudadanos con competencias en el campo de la IA debería aumentar en Rusia. Esto se logrará atrayendo especialistas nacionales del extranjero, así como atrayendo a ciudadanos extranjeros a trabajar en este tema en Rusia.
Sin embargo, la IA tiene una cualidad controvertida, que la estrategia debe resolver "desarrollando reglas éticas para la interacción humana con la inteligencia artificial". Resulta que el cálculo frío de la inteligencia informática la obliga a hacer generalizaciones parciales e injustas.
Sesgo AI
Entre la masa de preguntas sobre el funcionamiento de los sistemas modernos de IA, se destacan los algoritmos actualmente imperfectos para el pilotaje automático de vehículos con ruedas, que aún no permiten el permiso legislativo para su uso generalizado. Lo más probable es que, en un futuro previsible, no veamos coches conducidos por IA en nuestras carreteras. Las condiciones de la carretera no son las adecuadas para ello, y el clima no favorece el uso del piloto automático durante todo el año: el barro y la nieve “deslumbrarán” rápidamente a los sistemas de sensores de los vehículos más avanzados. el robot. Además, la introducción masiva de la IA inevitablemente quitará trabajo a millones de personas en todo el mundo: tendrán que volver a capacitarse o pasar el resto de sus días en la inactividad. Es justo decir que varios "Atlas de las profesiones del futuro" novedosos a veces contienen puras tonterías: en uno de ellos, con fecha de 2015, para el nuevo año 2020, por ejemplo, las profesiones de contador, bibliotecario, corrector de pruebas y probador deberían se han vuelto obsoletos. Pero, sin embargo, el perfil de la mayoría de las profesiones cambiará, y aquí prevalecerá el factor negativo de la IA. En cualquier caso, las perspectivas de una mayor introducción de la IA en la sociedad plantean muchas preguntas a los reguladores gubernamentales. Y cómo resolverlos, al parecer, pocas personas lo saben.
Otro problema que ya se avecina en el horizonte es el sesgo de AI en la toma de decisiones. Los estadounidenses fueron uno de los primeros en encontrar esto cuando introdujeron el sistema COMPAS en los estados 15 para predecir los casos de recaída. Y todo parecía comenzar muy bien: era posible desarrollar un algoritmo que, basado en la masa de datos (Big Data), pudiera formular recomendaciones sobre la severidad del castigo, el régimen de las instituciones correccionales o la liberación anticipada. Los programadores argumentaron acertadamente que, antes de la cena, un juez hambriento podría soportar un castigo excesivamente severo, y que uno bien alimentado, por el contrario, sería demasiado indulgente. La IA debería agregar un cálculo frío a este procedimiento. Pero resultó que COMPAS y todos los programas similares eran racistas: la IA acusó erróneamente dos veces más a menudo a los afroamericanos de una tendencia a la recaída que los blancos (45% vs 23%). AI generalmente considera a los delincuentes de piel clara como personas con un bajo nivel de riesgo, ya que son estadísticamente menos propensos a violar la ley; por lo tanto, sus pronósticos son más optimistas. En este sentido, en los Estados Unidos, se escuchan voces cada vez más frecuentes sobre la abolición de la inteligencia artificial para resolver problemas de fianza, sentencia y libertad anticipada. Al mismo tiempo, la justicia estadounidense no tiene nada que ver con el código del programa de estos sistemas: todo se compra a desarrolladores externos. Los sistemas de software que funcionan en las calles de muchas ciudades del mundo, Predpol, HunchLab y Series Finder, ya han demostrado estadísticamente su eficacia: el crimen está disminuyendo, pero no están exentos de prejuicios raciales. Lo más interesante es que no sabemos qué otras "cucarachas" se cosen en los cerebros artificiales de estos sistemas, ya que muchos parámetros de análisis están clasificados. También hay dudas de que los propios desarrolladores entiendan cómo la IA toma ciertas decisiones, qué parámetros considera clave. Situaciones similares se están desarrollando no solo en la aplicación de la ley y la justicia, sino también en las agencias de reclutamiento. En la mayoría de los casos, AI prefiere contratar hombres jóvenes, dejando de lado a los candidatos de sexo y edad más débiles. Es curioso que los valores de Occidente, que tan ansiosamente propagan allí (igualdad de sexos y razas), sean violados por el último logro occidental: la inteligencia artificial.
La conclusión de una breve digresión en la teoría y la práctica de la IA es la siguiente. Una cosa es cuando nuestros datos de las redes sociales y otras fuentes se procesan masivamente con fines de marketing o manipulación política, y otra cosa cuando la espada de la justicia se pasa a manos de la IA o, lo que es peor, un arsenal de seguridad nacional. El precio de una decisión sesgada aumenta muchas veces, y hay que hacer algo. Quien tenga éxito se convertirá en el verdadero gobernante del siglo XXI.
- Evgeny Fedorov
- medium.com, unbabel.com
información