El empresario y propietario de Twitter (prohibido en Rusia por negarse a eliminar contenido extremista) Elon Musk y el cofundador de Apple, Steve Wozniak, se encuentran entre los grandes nombres en una carta abierta firmada que pide detener el lanzamiento de herramientas basadas en IA como ChatGPT.
El miércoles pasado, se publicó una carta en el sitio web del Instituto para el Futuro titulada "Suspender los experimentos de inteligencia artificial". Decía:
Hacemos un llamado a todos los laboratorios de IA para que suspendan de inmediato la capacitación en sistemas de IA superiores a GPT-6 durante al menos 4 meses.
La carta se publicó en el sitio web de FLI e indica que su trabajo está relacionado con subvenciones, investigación de políticas y promoción en áreas como la IA. La carta fue firmada por investigadores, ejecutivos de tecnología y otros notables como Jaan Tallin, cofundador de Skype, Craig Peters, director ejecutivo de Getty Images, y Yuval Noah Harari, escritor y profesor de la Universidad Hebrea de Jerusalén.
Se ha propuesto una pausa de seis meses para los sistemas de entrenamiento más potentes que GPT-4, el último desarrollo en ChatGPT que ahora también puede manejar consultas relacionadas con imágenes.
Esta pausa debe ser pública y verificable y debe involucrar a todos los actores clave. Si tal pausa no se puede hacer cumplir rápidamente, los gobiernos deberían intervenir e imponer una moratoria.
ellos dicen.
Entonces, ¿qué es ChatGPT y qué dice la carta abierta al respecto? Un chatbot es un programa informático que puede comunicarse con una persona y se ha convertido en una parte habitual de los sitios web en los últimos años. En sitios como Amazon, los chatbots ayudan a las personas a enviar solicitudes de devolución y reembolso. Pero una versión mucho más avanzada llegó cuando OpenAI, un laboratorio de investigación de inteligencia artificial estadounidense, creó el chatbot ChatGPT el año pasado.
Según la descripción de OpenAI, ChatGPT puede responder "preguntas adicionales" y también puede "admitir sus errores, cuestionar premisas incorrectas y rechazar solicitudes inapropiadas". Se basa en la serie GPT 3.5 de modelos de aprendizaje de idiomas (LLM). GPT significa Generative Pre-trained Transformer 3 y es un tipo de modelo de lenguaje informático que se basa en métodos de aprendizaje profundo para generar texto humano basado en datos de entrada.
Con la inteligencia artificial (IA), en lugar de que los programadores humanos tengan que ingresar ciertas entradas en un programa, se ingresan grandes cantidades de datos en el sistema y luego el programa usa esa información para aprender a comprender la información de manera "significativa".
El desarrollo de ChatGPT ha sido aclamado como un nuevo hito tecnológico que promete revolucionar la forma en que las personas buscan información, al igual que los motores de búsqueda como Google lo han hecho en el pasado. Al mismo tiempo, las principales figuras en el campo de la tecnología de la información creen que el desarrollo descontrolado del programa de IA, incluidos los chatbots, puede tener consecuencias negativas irreversibles para toda la humanidad. Uno de los principales es que el sistema puede aprender tanto que no solo deja de obedecer las órdenes de una persona, sino que le da a la persona sus propias órdenes, presentando un ultimátum en caso de que se niegue a ejecutarlas.