Deep fake: quién se lleva el dividendo del mentiroso

23

Fuente: youtube.com

Deep fake es un término que apareció por primera vez en 2017 para describir fotos realistas, audio, video y otras falsificaciones creadas utilizando tecnología de aprendizaje de máquina profunda. En realidad, el término se origina en este método.

Transportador estadounidense de falsificaciones honestas


Los expertos estadounidenses dicen que en un futuro cercano la tecnología de falsificación profunda (abreviada como GP) puede representar una seria amenaza para la seguridad nacional. Así se afirma en el informe para el congreso "Falsificaciones profundas y seguridad nacional". El principal peligro de las empresas estatales es que, como resultado de las incertidumbres resultantes, se forma un vacío fáctico que influye en la toma de decisiones políticas a nivel interestatal. Por ejemplo, el líder de un país hará una declaración en un mensaje de video que provocará un conflicto interétnico, racial o religioso, pero la declaración en sí resulta ser falsa. Se pueden encontrar ejemplos de falsificaciones profundas realistas con líderes políticos (V.V. Putin, A.G. Lukoshenko, B. Obama, etc.) en el dominio público en la plataforma de YouTube a pedido: DeepFake.



La mayoría de las veces, GPU se refiere a la falsificación de información sobre eventos utilizando redes generativas de confrontación (GAN). La primera red, o generador, se ocupa de la creación de datos falsos, como fotografías, grabaciones de audio o secuencias de video a partir de un conjunto de datos realista original. La segunda red, o discriminador, se ocupa de la identificación y verificación de los datos recibidos. Según los resultados de cada iteración, la red de generadores se ajusta para crear imitaciones cada vez más realistas. Las redes continúan compitiendo, a menudo durante miles o millones de iteraciones, hasta que el generador mejora su rendimiento de modo que el discriminador ya no puede distinguir datos reales de datos falsos.

La base de la computación automática es la infraestructura y las aplicaciones de computación de alta capacidad (HCIA). Esta infraestructura es el eje del nuevo espacio digital. Su alcance desde la informática de laboratorio, la inteligencia artificial, la Internet de las cosas hasta el campo del entretenimiento mediático.

Una parte importante de estos cálculos se requiere también en el ámbito militar para la organización del cifrado y la comunicación, el control de vehículos no tripulados, la garantía de la ciberseguridad, los ataques, etc. Congreso de Estados Unidos en 1991 (Programa de Investigación y Desarrollo de Redes y Tecnología de la Información - NITRD), este programa tiene como objetivo coordinar actividades de alta tecnología para asegurar el liderazgo tecnológico de Estados Unidos en el mundo. Casi un quinto Solicitud de presupuesto del NITRD para el Congreso para 2021 el año es Arquitectura de máquinas de alto rendimiento (HCIA).

El problema es que una amplia gama de partes interesadas han obtenido acceso a sistemas de máquinas de alto rendimiento a través de la computación en nube y a un ritmo similar. Y estos no son solo estudiantes y profesores de universidades técnicas, sino también personas interesadas en la creación de EPE con fines alejados de los estándares éticos, como la presión política o el chantaje, incluso a nivel interestatal.

Y aquí es importante no caer en las trampas preestablecidas de desinformación y falsificaciones asociadas con la conducción de guerras de información.

Hoy el término GP puede usarse como una herramienta en el transcurso de esta guerra para desacreditar (ocultar, nivelar, desautorizar) hechos (información) que contribuyen a la imagen negativa de Estados Unidos y sus aliados a los ojos de la comunidad mundial.

Correctores de la verdad


Al concebir las falsificaciones profundas como un proceso de aprendizaje automático complejo y que requiere muchos recursos, GP ha pasado de ser una herramienta técnica a una herramienta de manipulación barata (desde el punto de vista de los recursos y los costos) para verificar eventos en el espacio mundial. Más precisamente, información sobre datos y eventos en el espacio mediático comunicativo localizado.

Dado que la mayoría de los habitantes del planeta no tienen la oportunidad de observar directamente ciertos eventos, según el periodista y observador político U. Lippmann, recibimos información sobre ellos de terceros, la mayoría de las veces interesados ​​y comprometidos. No es casualidad que el eslogan de la plataforma Twitter hasta hace poco fuera: "Cuando algo pasa en el mundo, pasa en Twitter". Al abordar esta idea desde el punto de vista del constructivismo, se puede citar la afirmación del sociólogo constructivista alemán N. Luhmann de que si el mundo que nos rodea no puede mostrarse como es, entonces se deben buscar aquellos que se beneficiarían de reflejar las realidades del mundo. mundo en sus propios términos y en sus propios intereses.

Así, utilizando DP como un pretexto apropiado (no importa si la falsificación fue de hecho o no), la parte interesada aplica un grado de interpretación que le es favorable, desde la nivelación parcial de la información hasta la negación total del evento como tal. . Como, por ejemplo, en el caso del trágico incidente con la participación de tropas de la OTAN durante el traslado de fuerzas en los países bálticos. Permítanme recordarles que uno de los vehículos militares del convoy atropelló a un ciclista en Lituania. Y cuando los testigos presenciales comenzaron a subir materiales a la red, la dirección de la OTAN, representada por Estados Unidos, afirmó que estos la foto es falsa y no hubo ningún incidente.

Los expertos estadounidenses (los profesores Daniel Keats Citron y Robert Chesney) introducen el concepto de "dividendo del mentiroso". Incluye la noción de que las personas pueden negar con éxito la autenticidad de la información, especialmente si representa un comportamiento inapropiado o delictivo al afirmar que es un DPO. En pocas palabras, si esta o aquella información no me beneficia, entonces digo que es falsa. Y si es beneficioso para mí, pero no beneficioso para el enemigo, entonces digo que simplemente no quieres admitir la verdad y por ello puedes ser sancionado. No confunda esta técnica con "dobles raseros", como, más bien, la "ley dialéctica de un observador autoritario" que elige formas de tomar una decisión a su favor.

En este contexto, aparece otro campo de actividad. A saber: el uso deliberado de la empresa estatal como pretexto para realizar acciones ilegales, provocadoras e inhumanas. Por ejemplo, en el informe Deep Fakes and National Security presentado al Congreso, los funcionarios de inteligencia de América del Norte argumentan que las falsificaciones profundas también se pueden utilizar para crear contenido incendiario. Por ejemplo, crear videos convincentes de personal militar estadounidense involucrado en crímenes de guerra con el propósito de radicalizar a las poblaciones locales, reclutar terroristas o incitar a la violencia contra ese personal militar (ver nota a pie de página 1). Desde un punto de vista práctico, esta técnica es comprensible y se utiliza como contrapropaganda para desacreditar el espacio de información del enemigo y puede llevarse a cabo incluso antes de que se lleven a cabo operaciones ilegales en el territorio de terceros países.

Dio la casualidad de que tendemos a confiar en las fuentes que hemos elegido por nosotros mismos o creemos que hemos elegido. El GP juega con nuestras debilidades y pasividad. Uno de los principales pensamientos de Descartes, que fue recordado por la humanidad: "Dudo, significa que existo". Parafraseando esta afirmación de una manera moderna: "Dudo, significa que no existo".

Esta transformación proviene del hecho de que si dudo de la información que me brindan, proveniente de una fuente ideológicamente "correcta", entonces no tengo lugar en el sistema de cosmovisiones que domina este sistema social o, más simplemente, el país. Las elecciones estadounidenses de 2020 son un ejemplo notable. Aquellos que dudan de la victoria de J. Biden e insisten en falsificar datos son censurados en Internet, son despedidos ilegalmente de sus trabajos y se les niega el servicio a sus cuentas bancarias. En un país donde se puede comprar gasolina o pagar los servicios públicos solo con una tarjeta bancaria, esta práctica tiene consecuencias desastrosas para las condiciones de vida de una persona.

Una nueva ronda de censura


Al final, se puede decir que la peculiaridad de métodos como la falsificación profunda es que el médico de cabecera puede generar la realidad en ausencia de cualquier conexión con la realidad como tal. Provocando una serie de consecuencias desastrosas para esta realidad.

Primero, como dijimos anteriormente, el médico de cabecera puede ejercer una gran presión sobre la toma de decisiones de los líderes de nuestras comunidades debido a la "nebulosa", la "falsedad" de los acontecimientos que se desarrollan. Toda la pregunta es dónde se desarrollan: ¿en las páginas de "The Guardian", "Twitter" o realmente tienen lugar?

La segunda conclusión se deriva de la anterior. GP es un sistema autorreferencial, es decir, que se dirige a sí mismo, de censura de información y propaganda. Dado que lo que se dice que es "verdad" o conocimiento de la verdad se utilizará además como una plataforma unificada para el punto de vista democrático "correcto". Las acusaciones de injerencia rusa en las elecciones estadounidenses de 2016 se han convertido en un lugar común que no requiere confirmación o explicación para el lego occidental.

Y en tercer lugar, como resultado del desarrollo de métodos de falsificaciones profundas, un adulto o un adolescente, un profano, no podrá distinguir entre la verdad y la mentira. Esta incertidumbre ejercerá una gran presión psicológica sobre el individuo, el grupo y la comunidad, provocando sentimientos de ansiedad, peligro, desesperanza, depresión y anomia (anarquía).

Entonces, ¿quién, después de todo, obtiene los dividendos, el beneficio del impacto consciente en el mundo real circundante con la ayuda de falsificaciones distribuidas en los medios de comunicación?
Nuestros canales de noticias

Suscríbete y mantente al día de las últimas novedades y los eventos más importantes del día.

23 comentarios
información
Estimado lector, para dejar comentarios sobre la publicación, usted debe login.
  1. +4
    12 Mayo 2021 18: 26
    Mdaaaa qué Eugene planteó un tema candente, monitoreando Internet, constantemente me encuentro con lo que describió el autor. A veces es imposible identificar una falsificación sobre la marcha, a veces una foto es un video. Por lo tanto, debe prestar atención al recurso en el que se publica.
    El mundo virtual a veces es difícil de separar del real ... o viceversa. Los estudiantes de Joker a menudo suben su trabajo, maldiciéndolos con las últimas palabras de sus videos compilados.
    1. 0
      13 Mayo 2021 15: 16
      Artículo fuerte. Escrito de forma muy convincente. El mundo de Orwell se acerca.
  2. +3
    12 Mayo 2021 18: 32
    Y después de todo, prácticamente no hay protección. Puede simular no solo la imagen, sino también el sonido.
    "Quien controla los datos controla el futuro" (Mark Zuckerberg, fundador de Facebook).
    PD: No tengo ninguna duda de que esta tecnología estará disponible en un futuro previsible, como "máscaras" en Instagram hoy.
    Y luego ni siquiera quiero pensar ...
  3. nnm
    +3
    12 Mayo 2021 18: 39
    Cómo Trump consiguió un trabajo en RT
  4. +7
    12 Mayo 2021 18: 52
    GP es un problema futuro, sí.

    Pero surge de las mentiras modernas, cuidadosamente cultivadas y con las que nadie pelea.
    Las redes sociales están llenas de falsificaciones, los blogueros a menudo mienten y saben que mienten, incriminando sin cesar a los canales centrales de televisión y a las autoridades oficiales por mentir.

    ¡Pero! Las leyes solo funcionan en una dirección. Protección del poder. Las autoridades pueden prometer y mentir lo que quieran.

    Entonces, ¿qué querías? Y habrá un GP, ​​y habrá un GPP, y también habrá otras patatas y nueces fuertes.
    Si las autoridades pueden, el resto también quiere, puede y debe hacerlo.
    Mentir
    1. +5
      12 Mayo 2021 19: 22
      Cita: Max1995
      Si las autoridades pueden, el resto también quiere, puede y debe hacerlo.
      Mentir

      Las autoridades tienen órdenes de magnitud más oportunidades de manipulación. un buen ejemplo son las estadísticas.
      1. 0
        12 Mayo 2021 23: 55
        Derecha. Un blogger, por ejemplo, tiene un sitio.
        Las autoridades tienen miles.

        EDRO, por ejemplo, ya registra forzosamente a funcionarios públicos para la nominación de diputados y votaciones de EDRA.
        De forma remota, naturalmente.
        Para que el 80% y el 70 y el 60% de los votos ya estén en tu bolsillo de antemano
        1. -1
          13 Mayo 2021 03: 28
          Cita: Max1995
          EDRO, por ejemplo, ya registra forzosamente a funcionarios públicos para la nominación de diputados y votaciones de EDRA.

          A pesar de que muchos EdRosy ya en las últimas elecciones en los materiales de propaganda sobre sí mismos seres queridos, no mencionaron en absoluto que eran EdRosy. Además, algunos incluso preguntaron directamente en folletos, etc. COLORES blanco, rojo y azul no deben usarse, si es posible.
          1. -1
            13 Mayo 2021 09: 04
            Esto es bien conocido. Y quitado también,

            Pero Old Man hizo un anuncio increíble. 40% de forma remota, y todo para papá ... ¡La mitad del país, cuenta, de una vez!

            Aquí PZhV estaba encantado ...
  5. +4
    12 Mayo 2021 18: 55
    la tecnología artesanal está creciendo
    antes, la gente solía creer que cada palabra escrita y "letras anónimas" estaban en uso, luego vino la era de las fotografías falsas, grabaciones de audio falsas, fotocopias falsas, ahora habrá una era de videos falsos.
    Necesita acostumbrarse a vivir con esto y desarrollar el pensamiento crítico en sí mismo.
  6. +3
    12 Mayo 2021 21: 33
    Para ser justos, casi todo lo descrito existía antes de DeepFake. Puede encontrar una persona similar desde cierto ángulo, puede crear un timbre de voz muy similar: puede degradar artificialmente la calidad y luego apelar al hecho de que la calidad es mala, etc. Todo esto de los años 90 ocurre periódicamente cuando "una persona similar al Fiscal General" o algo similar aparece en algún lugar y crea un escándalo, y no importa si fue un tema o no. El rumor se ha ido y aparece gente que, por una razón u otra, quiere subirse a la ola de bombo publicitario - como "testigos" que de buen grado le dirán a la cámara que vieron al sujeto en compañía de chicas de fácil virtud comprando marihuana o que derribó a alguien y luego pagó, etc., etc. En nuestra sociedad, cualquier información lanzada a tiempo puede crear un "castillo de aire" que cobrará vida propia; la calidad de tal "lanzamiento" a menudo es prácticamente insignificante, la preparación potencial del entorno en el que está siendo arrojado es importante. Pero el ambiente se puede preparar, también a través de eventos. Tal preparación puede ser completamente invisible - después de eso, el relleno "va" mucho mejor y se esparce mucho más ágil.
    Por el momento, la tecnología DeepFake sigue siendo bastante primitiva porque el ojo humano puede reconocer incluso los defectos menores de mecanizado con bastante facilidad. Mucho peores en sí mismos son esos "lanzamientos profundos" en suelo fértil; incluso si son técnicamente débiles, pueden hacer que el barco se tambalee mucho. Aquí solo hay un remedio: aumentar la confianza en los medios estatales. Que no huele.
    1. +1
      13 Mayo 2021 06: 30
      Por el momento, la tecnología DeepFake sigue siendo bastante primitiva porque el ojo humano puede reconocer incluso los defectos menores de mecanizado con bastante facilidad.

      no se trata de la fiabilidad del mensaje. No es necesario formar una falsificación perfecta. la pregunta es a quién va dirigida la falsificación. El pensamiento humano en su mayor parte está sujeto a una debilidad: la falta de pensamiento crítico. En tal situación, una persona simplemente no nota la aspereza. Trate de explicar a los ucranianos que ningún ejército ruso planea tomar Kiev, no lo creerán. Y no se aceptarán argumentos lógicos. Dado que la negación se basa en la función protectora del cerebro.
    2. +1
      13 Mayo 2021 12: 18
      Muchas personas buscan en los medios / Internet no la verdad, sino la confirmación de la exactitud de sus propias ideas. Y encuentran canales / sitios donde se complacen sus ideas. No hay nada nuevo aquí: "no necesitas un cuchillo, cantarás un poco y harás con él lo que quieras". Para ellos, la calidad de las falsificaciones no es lo principal, lo creerán. Un buen ejemplo es Meehan. No le interesa lo que es en realidad. Está interesado en lo que él mismo inventó.
      1. +2
        13 Mayo 2021 12: 39
        El propio Estado fomenta la tolerancia al relleno acrítico: la mayor parte de la propaganda se basa en esto (y, por cierto, también en la xenofobia). Entonces, al final, todo se reduce a una competencia entre músicos, que eran más hábiles, el estado formando propaganda o el estado destruyendo (o simplemente teniendo sus propios objetivos específicos). Habiéndose acostumbrado a no recibir regularmente respuestas importantes o simplemente interesantes a sus preguntas, la población deja de hacerlas o de considerarlas IMPORTANTES, ya sea tratando todo con neutralidad e indiferencia, o tomando todo lo expresado con fe en diversos grados de profundidad. La lucha contra las falsificaciones no será eficaz mientras existan dentro de un sistema más grande que opera, reemplaza y procesa información. En tal sistema, el mentiroso más hábil, o el grupo más grande de capaces, siempre ganará.
  7. +2
    13 Mayo 2021 05: 49
    No quiero saber cómo se hace esto. Pero no tengo ninguna duda de que esto se está haciendo al más alto nivel. El video publicitario con Miloslavsky de Sberbank lo confirma. Es cierto, se eliminó después. Aún así, no es apropiado anunciar a un ladrón con la marca del Banco. Hay una protesta interna, y esto no es una especie de autoconciencia. pero probablemente la ley de la autoconservación.
  8. 0
    13 Mayo 2021 13: 19
    Lo que el autor escribe ha existido desde que existe la humanidad: una mentira e intentos de hacerla pasar por verdad.
    Hay otra forma de crear mentiras confiables, pero ¿y qué? ¿Por qué hay tanto pánico? Ciertamente habrá una forma de reconocerlo y la lucha entre la mentira y la verdad (por analogía, espada y armadura) continuará durante siglos))))
    1. 0
      13 Mayo 2021 22: 23
      Existe protección contra la sustitución no autorizada, la edición de documentos electrónicos, audio y video, solo queda adoptar una ley sobre la protección obligatoria de las apelaciones de video de los más altos funcionarios del estado

"Sector Derecho" (prohibido en Rusia), "Ejército Insurgente Ucraniano" (UPA) (prohibido en Rusia), ISIS (prohibido en Rusia), "Jabhat Fatah al-Sham" anteriormente "Jabhat al-Nusra" (prohibido en Rusia) , Talibanes (prohibidos en Rusia), Al-Qaeda (prohibidos en Rusia), Fundación Anticorrupción (prohibidos en Rusia), Sede de Navalny (prohibidos en Rusia), Facebook (prohibidos en Rusia), Instagram (prohibidos en Rusia), Meta (prohibida en Rusia), División Misantrópica (prohibida en Rusia), Azov (prohibida en Rusia), Hermanos Musulmanes (prohibida en Rusia), Aum Shinrikyo (prohibida en Rusia), AUE (prohibida en Rusia), UNA-UNSO (prohibida en Rusia) Rusia), Mejlis del Pueblo Tártaro de Crimea (prohibido en Rusia), Legión “Libertad de Rusia” (formación armada, reconocida como terrorista en la Federación Rusa y prohibida)

“Organizaciones sin fines de lucro, asociaciones públicas no registradas o personas físicas que desempeñen las funciones de un agente extranjero”, así como los medios de comunicación que desempeñen las funciones de un agente extranjero: “Medusa”; "Voz de America"; "Realidades"; "Tiempo presente"; "Radio Libertad"; Ponomarev; Savítskaya; Markélov; Kamalyagin; Apakhonchich; Makarevich; Falso; Gordon; Zhdanov; Medvédev; Fiódorov; "Búho"; "Alianza de Médicos"; "RKK" "Centro Levada"; "Monumento"; "Voz"; "Persona y derecho"; "Lluvia"; "Zona de medios"; "Deutsche Welle"; SGC "Nudo Caucásico"; "Persona enterada"; "Nuevo Periódico"