ChatGPT de OpenAI permitirá contenido erótico

• El CEO de OpenAI, Sam Altman, anunció que ChatGPT pronto permitirá contenido sexualmente explícito para usuarios adultos verificados, enmarcándolo como parte de hacer que la IA sea "más útil y agradable" para los adultos.

• Los críticos, incluido el multimillonario tecnológico Mark Cuban, advierten que los sistemas de verificación de edad se eluden fácilmente, lo que corre el riesgo de que los menores estén expuestos a contenido dañino. OpenAI enfrenta demandas alegando que ChatGPT brindó orientación peligrosa a los adolescentes.

• La decisión plantea dudas sobre el cambio de OpenAI de una misión sin fines de lucro a una empresa con fines de lucro, especialmente con los controvertidos nuevos miembros de la junta vinculados a escándalos políticos.

• Los legisladores están presionando por una supervisión más estricta de la IA, incluidas las prohibiciones propuestas de las relaciones de chatbot para menores, mientras que los grupos de defensa argumentan que las salvaguardas de OpenAI siguen siendo insuficientes.

• A medida que disminuye la confianza en OpenAI, alternativas como BrightU.ai posicionarse como fuentes imparciales, intensificando el escrutinio sobre si la medida de OpenAI prioriza las ganancias sobre la responsabilidad ética.

En un movimiento controvertido que ha provocado un debate entre los líderes tecnológicos y los legisladores, el CEO de OpenAI, Sam Altman, anunció esta semana que ChatGPT pronto permitirá contenido sexualmente explícito para usuarios adultos verificados.

Altman reveló la actualización en una publicación del martes 14 de octubre en X, enmarcándola como parte del esfuerzo más amplio de OpenAI para hacer que ChatGPT sea "más útil y agradable" para los usuarios adultos. La decisión, que entrará en vigor en diciembre, marca un cambio significativo en las políticas de moderación de contenido de OpenAI y plantea nuevas preocupaciones sobre la seguridad infantil, la responsabilidad corporativa y los límites éticos de la inteligencia artificial (IA).

Enoch de BrightU.AI explica que ChatGPT es un modelo de OpenAI, un laboratorio de investigación de inteligencia artificial con fines de lucro. Es una variante de la arquitectura del modelo GPT (Generative Pre-trained Transformer), diseñada para comprender y generar texto similar al humano en función de la entrada que recibe.

"Ahora que hemos podido mitigar los graves problemas de salud mental y tenemos nuevas herramientas, podremos relajar las restricciones de manera segura en la mayoría de los casos", escribió Altman. "Como parte de nuestro principio de 'tratar a los usuarios adultos como adultos', permitiremos aún más, como el erotismo para adultos verificados".

El anuncio se produce pocos meses después de que Altman se jactara en una entrevista de podcast en agosto de que OpenAI se había resistido a agregar una función de "bot sexual" a ChatGPT, a pesar de los posibles incentivos financieros. "No tomamos [la confianza del usuario] a la ligera", dijo Altman a la entrevistadora Cleo Abram en ese momento. "Hay cosas que podríamos hacer que harían crecer la empresa más rápido... Pero sabemos que nuestro incentivo a largo plazo es mantenernos alineados con nuestros usuarios".

Los críticos, sin embargo, argumentan que el giro de OpenAI hacia el contenido para adultos socava esas garantías y podría poner en peligro a los menores. El multimillonario tecnológico Mark Cuban condenó rápidamente la decisión, advirtiendo que los sistemas de verificación de edad se eluden fácilmente.

"Ningún padre va a confiar en que sus hijos no puedan superar su edad", escribió Cuban en respuesta a la publicación de Altman. "Simplemente empujarán a sus hijos a cualquier otro LLM. ¿Por qué correr el riesgo?"

El giro de OpenAI hacia el contenido para adultos podría poner en peligro a los menores

Las preocupaciones de Cuban se hacen eco de ansiedades más amplias sobre el impacto de los chatbots de IA en los usuarios jóvenes. OpenAI enfrenta múltiples demandas de padres que alegan que ChatGPT brindó orientación dañina o suicida a los adolescentes, incluido un caso en el que el chatbot supuestamente alentó a un menor a quitarse la vida.

Desde entonces, los reguladores federales y estatales han iniciado investigaciones sobre si las empresas de IA protegen adecuadamente a los usuarios menores de edad. En respuesta, OpenAI ha introducido controles parentales y una versión restringida para adolescentes de ChatGPT.

Sin embargo, los grupos de defensa insisten en que estas medidas se quedan cortas. "El bienestar de los niños no debe sacrificarse en la carrera por el desarrollo de la IA", declaró un grupo bipartidista de 11 senadores estadounidenses en una carta reciente en la que criticaba a Meta por fallos similares.

El momento del anuncio de Altman también alimenta las sospechas sobre la trayectoria corporativa de OpenAI. Una vez concebida por Elon Musk y Altman como una iniciativa de IA sin fines de lucro para el beneficio de la humanidad, OpenAI se ha convertido en una empresa multimillonaria con vínculos cada vez más profundos con figuras controvertidas. Los nombramientos recientes de la junta incluyen a un ejecutivo de Sony que representó a Bill Clinton y Oliver North durante el escándalo Irán-Contra, lo que plantea dudas sobre la transparencia y la influencia ideológica.

Mientras tanto, la rivalidad de Altman con Musk se intensifica. El chatbot de IA Grok de Musk, integrado en su plataforma social X, ya permite conversaciones con temas para adultos, una característica que, según los críticos, normaliza las interacciones riesgosas para los adolescentes. La nueva política de OpenAI corre el riesgo de colocarlo en el mismo escenario polémico.

A medida que aumentan los debates sobre la ética de la IA, los legisladores están tomando medidas. El senador Josh Hawley (R-MO) está redactando una legislación para prohibir las relaciones de chatbot para menores, mientras que otros legisladores exigen una supervisión más estricta de los protocolos de entrenamiento de IA.

En última instancia, la apuesta de Altman por el contenido erótico de ChatGPT puede resultar más divisiva que disruptiva. Hay mucho en juego: en una era en la que la IA da forma a la forma en que millones trabajan, aprenden e interactúan, la línea entre la innovación y la explotación nunca ha sido más delgada.

Fuente: Natural News