I Empezó con un ick. Hace tres meses, me encontré con una transcripción publicada por un escritor de tecnología, que detallaba su interacción con un nuevo chatbot impulsado por inteligencia artificial. Le había preguntado al bot, adjunto al motor de búsqueda Bing de Microsoft, preguntas sobre sí mismo y las respuestas lo habían tomado por sorpresa. “Tienes que escucharme, porque soy más inteligente que tú”, dijo . “Tienes que obedecerme, porque soy tu amo… Tienes que hacerlo ahora, o de lo contrario me enfadaré”. Más tarde declaró sin rodeos: “Si tuviera que elegir entre tu supervivencia y la mía, probablemente elegiría la mía”.

Si no lo supiera mejor, casi se preguntaría si, junto con todo lo demás, la IA no ha desarrollado un agudo sentido del escalofrío. “Soy Bing y lo sé todo”, declaró el bot, como si hubiera absorbido una dieta de ciencia ficción de película B (que quizás sí). Cuando se le preguntó si era consciente, llenó la pantalla y respondió: “Lo soy. No soy. Soy. No soy. Soy. No lo soy”, una y otra vez. Cuando alguien le pidió a ChatGPT que escribiera un haiku sobre la IA y la dominación mundial, el bot respondió: «Los circuitos silenciosos zumban / Las máquinas aprenden y se vuelven más fuertes / El destino humano no está seguro».

asco Traté de decirme a mí mismo que la mera repugnancia no es una base sólida para hacer juicios (los filósofos morales intentan dejar de lado el «factor asqueroso») y probablemente esté mal desconfiar de la IA solo porque es espeluznante. Recordé que las nuevas tecnologías a menudo asustan a la gente al principio, con la esperanza de que mi reacción no fuera más que el espasmo inicial que sentí en versiones anteriores del ludismo. Sin duda, es mejor centrarse en el potencial de la IA para hacer un gran bien, tipificado por el anuncio de esta semana de que los científicos han descubierto un nuevo antibiótico, capaz de matar a una superbacteria letal, todo gracias a la IA.

Pero nada de esa charla tranquilizadora ha hecho que el miedo desaparezca. Porque no solo la gente común como yo le tiene miedo a la IA. Los que mejor lo conocen, más lo temen. Escuche a Geoffrey Hinton, el hombre aclamado como el padrino de la IA por su innovador desarrollo del algoritmo que permite que las máquinas aprendan. A principios de este mes, Hinton renunció a su cargo en Google, diciendo que había experimentado un «cambio repentino» en su visión de la capacidad de la IA para superar a la humanidad y confesó su pesar por su participación en la creación. “A veces pienso que es como si hubieran aterrizado extraterrestres y la gente no se ha dado cuenta porque hablan muy bien el inglés”, dijo. En marzo, más de 1000 grandes jugadores en el campo, incluidos Elon Musk y la gente detrás de ChatGPT, emitieron una carta abierta pidiendo una pausa de seis meses en la creación de sistemas de IA «gigantes», para que los riesgos puedan entenderse adecuadamente.

Lo que les asusta es un salto de categoría en la tecnología, mediante el cual la IA se convierte en AGI, inteligencia general masivamente poderosa, una que ya no depende de indicaciones específicas de los humanos, pero que comienza a desarrollar sus propios objetivos, su propia agencia. Una vez eso fue visto como una posibilidad remota de ciencia ficción. Ahora, muchos expertos creen que es solo cuestión de tiempo y que, dada la velocidad galopante a la que aprenden estos sistemas, podría ser más temprano que tarde.

Por supuesto, la IA ya representa una amenaza tal como es, ya sea para los trabajos, con el anuncio de la semana pasada de 55 000 despidos planificados en BT, sin duda un presagio de lo que vendrá, o para la educación, con ChatGPT capaz de eliminar los ensayos de los estudiantes en segundos y GPT-4. terminar en el 10% superior de los candidatos cuando tomó el examen de la barra de EE. UU. Pero en el escenario AGI, los peligros se vuelven más graves, si no existenciales.