La consciencia artificial es peligrosa

Mustafa Suleyman, director de la división de inteligencia artificial de Microsoft, afirmó que solo los seres biológicos pueden tener consciencia y que cualquier investigación que pretenda demostrar lo contrario debe detenerse. Suleyman explicó que existen áreas prohibidas, como los chatbots eróticos, que Microsoft jamás desarrollará.

« No creo que sea una tarea que deban realizar los humanos. Si haces la pregunta equivocada, obtendrás la respuesta equivocada. Simplemente es la pregunta equivocada », declaró Suleyman en una entrevista con CNBC durante la conferencia AfroTech en Houston. Subrayó que los modelos de IA pueden imitar el comportamiento y las emociones humanas, pero no pueden sentir dolor, tristeza ni placer de forma real.

« La IA no siente tristeza cuando “experimenta” dolor. Solo crea la apariencia de una experiencia, no la experiencia en sí », explicó. Suleyman invocó la teoría del «naturalismo biológico» formulada por el filósofo John Searle, según la cual la consciencia solo es posible a través de los procesos de un cerebro vivo. « Los humanos tienen derechos porque pueden sufrir y tienen preferencias que implican evitar el dolor. Los modelos de IA no tienen eso. Solo lo simulan », añadió. Como parte de su gira de conferencias, Suleyman advierte al público sobre los riesgos de buscar la «consciencia artificial».

En la Cumbre del Consejo Internacional Paley en Silicon Valley, afirmó que Microsoft no desarrollaría chatbots eróticos, a diferencia de las decisiones de empresas rivales como OpenAI y xAI. « Hay áreas en las que no incursionaremos », declaró. Suleyman se unió a Microsoft en 2024, después de que la compañía adquiriera su startup, Inflection AI, por 650 millones de dólares. Anteriormente, fue cofundador de DeepMind, adquirida por Google en 2014 por 400 millones de dólares. Explicó que su misión es garantizar la independencia de Microsoft en el desarrollo de modelos de IA.

« Satya Nadella quería asegurarse de que pudiéramos entrenar nuestros propios modelos, con nuestros propios datos, desde la concepción hasta la implementación », dijo Suleyman. Sus comentarios surgen en medio de un creciente debate sobre la inteligencia artificial general (IAG) y la proximidad de los modelos actuales al pensamiento humano.

A diferencia de otros líderes del sector, Suleyman sostiene que la IA debe construirse « para las personas, no como una persona ». « El miedo es sano y el escepticismo es necesario. No necesitamos una aceleración ilimitada », concluyó.

Fuente: Yoga ezoteric