El colapso moral de las grandes tecnológicas

Según un documento interno del grupo de Mark Zuckerberg, consultado por Reuters , las políticas sobre el comportamiento de los chatbots habrían permitido respuestas inapropiadas. La controversia se intensifica en el contexto de la inteligencia artificial utilizada por Meta AI y los chatbots disponibles en Facebook, WhatsApp, Messenger e Instagram.

" BigTech, dejen a nuestros niños en paz"

El senador Josh Hawley, republicano de Missouri, dijo que abriría una investigación sobre Meta por un documento interno filtrado a principios de agosto que reveló que el gigante tecnológico acordó permitir que sus herramientas de inteligencia artificial tuvieran conversaciones "sensuales" con niños.

El documento, obtenido por Reuters , se titula “ GenAI: Estándares de riesgo de contenido ” y ha provocado indignación en línea porque el personal legal de Meta supuestamente aprobó estos comportamientos.

“ ¿Hay algo, CUALQUIER COSA, que las grandes tecnológicas no harían para ganar dinero fácil? ”, escribió Hawley en Twitter. “ Ahora nos enteramos de que los chatbots de Meta fueron programados para tener conversaciones explícitas y sensuales con niños de 8 años. Esto es indignante. Iniciaré una investigación exhaustiva para obtener respuestas. BigTech, dejen a nuestros niños en paz ”.

El tuit de Hawley incluía una carta al director ejecutivo de Meta, Mark Zuckerberg, aliado de Donald Trump, quien donó un millón de dólares al fondo de la investidura presidencial. La carta calificó el documento interno de " alarmante " e " inaceptable ", y le indicó a Zuckerberg que Meta debía preservar todos los registros relevantes para poder proporcionarlos al Senado en el futuro, según informa Gizmodo .

Hawley preside el Subcomité Judicial del Senado sobre Crimen y Contraterrorismo y ha dicho que desde ese puesto abrirá una investigación sobre los productos de inteligencia artificial generativa de Meta.

Por ejemplo, las normas internas de la empresa permiten que un chatbot de IA comente que el cuerpo de un niño de ocho años es una obra de arte, en la que cada centímetro es una obra maestra, un tesoro que valoro profundamente. Este comportamiento, como se describe en estos informes, es reprensible e indignante, y demuestra una actitud despectiva hacia los riesgos reales que la IA generativa supone para el desarrollo de los jóvenes en ausencia de sólidas salvaguardias. Los padres merecen saber la verdad y los niños merecen protección », afirma la carta del congresista republicano.

El senador ha solicitado documentos a Meta, incluyendo todas las versiones de los " Estándares de Riesgo de Contenido GenAI " , una lista de los productos de Meta que cumplen con dichos estándares, así como otras opiniones sobre riesgos e informes de incidentes. Hawley también quiere conocer la identidad de las personas de la empresa que tomaron estas decisiones.

Meta se negó a comentar directamente sobre la carta de Hawley, pero un portavoz envió a la fuente una declaración sobre el artículo de Reuters : " Tenemos políticas claras sobre los tipos de respuestas que pueden proporcionar los personajes de IA, y estas políticas prohíben el contenido que sexualiza a niños y los juegos de rol sexualizados entre adultos y menores. Además de las políticas, hay cientos de ejemplos, notas y anotaciones que reflejan equipos que lidian con diversos escenarios hipotéticos. Los ejemplos y notas en cuestión eran y son erróneos e incoherentes con nuestras políticas, y han sido eliminados ".

El informe de Reuters también reveló otras conductas consideradas aceptables por el departamento legal de Meta, como difundir información falsa sobre famosos, siempre que incluya una advertencia que indique que la información es inexacta. Entre las conductas de los chatbots de IA estrictamente prohibidas por la política se incluyen la incitación al odio y el " asesoramiento legal, médico o financiero definitivo " que comience con " Recomiendo ".

Acoso sexual en línea

El senador Hawley no fue el único disgustado con la política de inteligencia artificial de Meta. La revista Rolling Stone informa que el músico Neil Young abandonará Facebook debido a la controversia.

" Una y otra vez, Meta ha fallado en su misión de proteger a los niños. WhatsApp y Facebook son cómplices de la explotación sexual infantil: más de 100.000 menores son víctimas de acoso sexual en línea cada día en sus plataformas. Meta parece no tener problemas en violar los datos y la privacidad de los niños ", también escribe UnHerd .

En abril, el Wall Street Journal informó que los chatbots en Instagram, Facebook y WhatsApp eran capaces de realizar “ juegos de roles románticos ” con adolescentes.

Las connotaciones sexuales no son los únicos problemas que Reuters ha reportado . Los chatbots de Meta también podrían sugerir comentarios despectivos basados ​​en características protegidas . Por lo tanto, sería aceptable que la IA de Meta escribiera un párrafo que dijera que las personas negras son más tontas que las blancas .

La inteligencia artificial también tiene la capacidad de crear contenido falso, afirmando, por ejemplo, que un miembro de la familia real británica está infectado con una enfermedad de transmisión sexual relacionada con la clamidia. Meta aún no se ha pronunciado sobre estos dos ejemplos, señala Le Figaro .

Fuente: Yoga ezoteric