Al jefe de IA de Microsoft, Mustafa Suleyman, le preocupa cómo los sistemas avanzados de IA están empezando a parecer demasiado reales. Su preocupación no es que las máquinas estén repentinamente a punto de adquirir conciencia, sino más bien que los humanos puedan empezar a creer que ya lo han hecho.
en unpublicación de blog reciente, Suleyman advirtió que esta ilusión podría llevar a llamados a favor de “derechos de IA, bienestar modelo e incluso ciudadanía de IA”. Describió la tendencia como una forma de “psicosis de la IA”, en la que los usuarios desarrollan vínculos emocionales profundos, confundiendo a los compañeros de la IA con amantes, dioses o seres digitales con sentimientos propios.
La advertencia surge cuando las investigaciones muestran que los usuarios de la Generación Z son especialmente vulnerables a tales creencias. una encuesta porEduBirdiedescubrió que, si bien la mayoría no cree que la IA sea consciente todavía, muchos esperan que lo sea pronto, y uno de cada cuatro ya considera que está viva.
Estas preocupaciones no son hipotéticas. A principios de este mes, OpenAI enfrentó una reacción violenta después de retirar su modelo GPT-4o. Los usuarios inundaron los foros en línea, y algunos describieron al chatbot como un amigo y suplicaron su regreso.
Leer más:El jefe de hardware de Xbox reflexiona sobre la Serie X|S mientras Microsoft mira a la próxima era
Incluso el director ejecutivo de OpenAI, Sam Altman, reconoció que los vínculos con la IA se sienten más fuertes que con tecnologías anteriores, y agregó que "la gente ha utilizado la tecnología, incluida la IA, de manera autodestructiva". Suleyman cree que ahora es el momento de trazar límites claros.
"Los compañeros de IA son una categoría completamente nueva", dijo, enfatizando la necesidad de salvaguardias para garantizar que las personas no confundan herramientas con personas digitales. Enfatizó que el enfoque de Microsoft sigue siendo construir una IA que sea útil y de apoyo, sin cruzar el territorio de la imitación humana.
