EL VERDADERO PELIGRO DE CHATGPT

El primero de los peligros muy reales del creciente uso de la tecnología chatbot: si has considerado como enorme la cantidad de datos que una empresa como Google ha sido capaz de recopilar, espera a ver qué harán OpenAI, Microsoft y Google con las conversaciones con las que la gente está alimentando actualmente las máquinas de recopilación de datos conocidas como chatbots.

¿Se pregunta qué harán con estos datos, que estarán relacionados con su número de teléfono, dirección IP, huella digital del navegador, historial de búsqueda, cookies, publicaciones en redes sociales y un millón de otros datos? Las posibilidades son infinitas, pero crear deepfakes perfectamente convincentes de cualquier individuo sería un buen punto de partida.

Como mis distinguidos lectores ya sabrán, sin duda, no podemos confiar en que los avatares digitales con los que interactuamos en los foros online y en las redes sociales sean personas reales y no avatares ficticios que tienen a sus espaldas unas ciberguerrillas que militarizaron internet hace mucho tiempo. Pero al menos podemos estar razonablemente seguros de que la llamada de Zoom que acabo de tener con la tía Florence en Wyoming fue una conversación real con un ser humano en carne y hueso.

Bueno, en un futuro muy cercano, ningún podcast, ningún vodcast, ningún video de TikTok, ningún mensaje, ninguna llamada de Zoom, ninguna comunicación en línea de ningún tipo estará libre de la sospecha de que realmente no estás interactuando con un ser humano real.

No, no he creado (y ahora probablemente nunca) ninguna versión deepfake de mí mismo usando ChatGPT o cualquier otra tecnología de inteligencia artificial, pero alguien probablemente lo hará en algún momento. Demonios, ya había no una, ni dos, ni tres, sino cuatro personas que me buscaron en ChatGPT o le pidieron al programa que escribiera algo en mi estilo, y en este segundo caso, una instrucción para escribir una opinión sobre la tecnología de la geoingeniería al estilo de James Corbett, el resultado fue decente:

En cuanto a James Corbett, es un periodista e investigador independiente que ha expresado su escepticismo sobre los beneficios potenciales de la geoingeniería y que ha criticado la falta de transparencia y responsabilidad de estas tecnologías. Según sus puntos de vista, es probable que comparta un sentimiento similar al mío y crea que el gobierno debe tomar más medidas para informar y proteger al público con respecto a la geoingeniería.

Todo bien, al menos hasta que la parte con "el gobierno necesita tomar más medidas".

Sí, todo comenzará con deepfakes de celebridades, pero pronto surgirán nuevos grupos de ciberterroristas que harán deepfakes con políticos para desestabilizar países, o deepfakes con ejecutivos corporativos para causar estragos en los mercados económicos, o deepfakes con funcionarios bancarios para obtener acceso a bases de datos bancarias, o deepfakes con la tía Florence para causar estragos en su fraude de $ 100. Y, como algunos de los lectores más perspicaces del Informe Corbett ya han adivinado, esto conducirá a la "solución" prefabricada ideal: ¡una identidad digital para acceder a Internet! ¡Finalmente, podemos demostrar en línea quiénes somos realmente! (De hecho, se verá obligado en cualquier momento a demostrar quién está en línea para mantenerse en línea, pero esa es la información que no debe leer entre líneas).

Pero quizás incluso peor que descubrir que un chatbot y la tecnología deepfake han generado un episodio completamente falso de tu podcast favorito es otro escenario, mucho más preocupante. Estos "chatbots", que pronto se lanzarán como "asistentes digitales" y a partir de ahora se volverán tan omnipresentes como Siri y Alexa, podrán determinar sus gustos, intereses, debilidades y comenzar a generar contenido completamente nuevo (nuevos podcasts con personas que ni siquiera existen) diciendo cosas que encontrará infinitamente divertidas. Pronto vivirás en una burbuja con filtros tan únicos que existirá por completo para cautivarte... Y las personas que piensan que pueden resistirse a tal contenido serán precisamente las personas más fácilmente atrapadas por él.

De hecho, así como Huxley temía al maravilloso nuevo mundo del entretenimiento y las diversiones más de lo que temía la tiranía del tipo de 1984, también nuestro miedo a la guerra apocalíptica contra los robots podría estar fuera de lugar. Tal vez no deberíamos temer tanto a la confrontación al estilo Terminator entre Skynet y Resistance que deberíamos temer al mundo de Spike Jonez en la película Her, un mundo donde los "sistemas operativos" se vuelven más reales para nosotros que para los humanos, y tener un programa de computadora como pareja romántica se convertirá en algo perfectamente común.

Lo sé, lo sé, querido lector. Estas cosas están empezando a sonar tan lejos de nuestras preocupaciones actuales que han perdido interés. Ojalá estuviera igual de convencido de que no estamos a punto de cruzar un umbral, pero me temo que nos estamos deslizando de cabeza y riendo descuidadamente en el metaverso de lo hiperreal.

Hagamos un trato. ¿Por qué no revisar este artículo en 2030? Si no sucede nada parecido al escenario que he presentado aquí, felizmente me comeré el sombrero, admitiré que estaba completa y totalmente equivocado, admitiré que realmente no hay nada de qué preocuparse en este escenario, y les recordaré que miren todo lo demás que diré con escepticismo. ¿Qué dices?

Fuente: Corbet Report