IA – Batallas en la frontera

Pero las conversaciones con Anthropic se estancaron cuando el Pentágono pidió el modelo Claude, sin embargo, quiere, dentro de los límites de la ley, lo que provocó reacciones desfavorables de la compañía. Esto también se debe a que la ley no se ha mantenido al día con el desarrollo tecnológico y no puede prevenir ciertos riesgos.

En medio de las tensiones y, en general, sus conclusiones sobre lo que significa la IA para la humanidad, el Director Antrópico para la Seguridad del Producto, el Sr. Morgan, renunció a principios de febrero, acusando las presiones que se están haciendo sobre el desarrollo de la IA a expensas de los rigores éticos y las medidas de seguridad; en su carta de renuncia, que publicó en X, dijo que “todo el mundo está en peligro” y que la tecnología está en peligro.

Darío Amodei, jefe de Anthropic, también señaló el peligro: “Una poderosa IA, que monitorea los miles de millones de conversaciones de millones de personas, puede evaluar el sentimiento público, detectar áreas de disidencia en la formación y puede destruirlas antes de que crezcan”, y agrega que, independientemente de las amenazas, “la conciencia no nos permite aceptar las condiciones que se nos imponen”.

Emil Michael, el funcionario negociador del Pentágono, dijo que Amodei es “un un mincinosmentiroso” que “memece a Dios” y “se lleva la seguridad de la nación”.

En resumen del conflicto, Geoffrey Gertz, del Centro para una Nueva Seguridad Estadounidense, dijo a Deutsche Welle: “Anthropic ve estos aspectos como no en interés de la humanidad, a largo plazo, al menos no a nivel tecnológico y con los límites de seguridad que existen ahora, mientras que el Pentágono está presionando para poder usarlos de todos modos, dentro de los límites de la ley”.

El Pentágono ha fijado un plazo para que la compañía acepte sus términos, una oferta que Anthropic comentó como inaceptable, pidiendo la continuación de las negociaciones: “Los términos del contrato que hemos recibido... del Departamento de Guerra no contienen prácticamente ningún progreso en la prevención del uso del modelo Claude para la vigilancia masiva de los estadounidenses o para armas totalmente autónomas. Los nuevos términos del llamado compromiso van acompañados de un lenguaje jurídico oscuro, que de hecho permite ignorar todas las condiciones de seguridad. A pesar de las recientes declaraciones del Departamento de Guerra, estos estrictos límites han sido el tema principal de la negociación en los últimos meses”, dijo Amodei.

Si el Pentágono rompe relaciones, las consecuencias para Anthropic pueden ser graves; más allá de perder el contrato en sí (que Amodei dice que puede compensar la asociación con otros beneficiarios), el Pentágono está amenazando con cruzar la compañía en la "lista negra", instando a otros contratistas militares, como Boeing y Lockheed Martin, a "reevaluar" sus relaciones con Anthropic. También existe la posibilidad de que el Pentágono intente obligar a la compañía a proporcionarle un modelo sin limitaciones apelando ante los tribunales.

Paralelamente, xAI ya ha firmado el contrato estándar, que permite al Pentágono utilizar los modelos de la empresa de cualquier manera, dentro de los límites de la ley, quiere información clasificada.

Fuente: Yoga ezoteric