Palabra Pública N°36 noviembre - diciembre 2025 - Universidad de Chile

biológicamente ante un pinchazo en el dedo, pero sin sen- tir dolor ni tener consciencia. Parece una idea descabellada, o al menos así lo pensa- ba Lucía Melloni. Hasta que comenzó a interactuar con modelos extensos de lenguaje —la tecnología detrás de Chatgpt, Gemini o Copilot—: sistemas de aprendizaje pro- fundo capaces de entender y generar textos humanos. “Al verlos funcionar, uno se pregunta si realmente entienden la conversación o si solo nos están imitando, como un loro. Parte fundamental de la consciencia es la comprensión. A un modelo extenso de lenguaje también le puedes pedir que imagine una manzana roja y te va a responder que lo hará, pero ¿lo hará de verdad, con todas sus características? El modelo sabe que el rojo es diferente del azul, pero no en- tiende los colores. En él, el rojo y el azul son solo números que no significan nada”, reflexiona. Hay muchos científicos que creen que la inteli- gencia artificial puede ser consciente en el futuro. Si escribe ensayos, mantiene conversaciones, hace prue- bas e incluso razona, ¿es descabellado pensar que va a ser consciente? —Si le preguntas a la ia si es consciente, puede decir que sí, porque esa es una de las respuestas posibles dentro del material con el que fue entrenada. Más allá de eso, lo que me preocupa es que, por su enorme capacidadde imitación, terminemos atribuyéndole consciencia a sistemas que en realidad son completamente zombis, solo porque pueden hablar, imitarnos y engañarnos. Mientras tanto, los ani- males —que no pueden hacerlo— podrían ser catalogados como sin consciencia. Eso puede abrir la puerta a tratarlos mal, a pesar de que también son seres sintientes. Es fácil engañarnos a través del lenguaje. Las guaguas no pueden hablar, ¿diríamos entonces que no son conscientes? ¿O que solo son conscientes cuando aprenden a hablar? ¿Y cómo podemos enfrentar esa imitación, que es casi perfecta? —Creo que debemos enseñarle a la gente que esta- mos ante un gran riesgo: el de ser engañados por la inteligencia artificial. Es un loro excelente. Piensa en esta metáfora: imagina que estás en la Biblioteca de Babilonia y tienes todos los libros del mundo. Cuando tuvieses una duda, bastaría con tomar uno y leerlo. ¿Dirías que los li- bros saben por sí mismos? No. Lo mismo sucede con la ia. Nosotros somos los que sabemos: leemos el libro, decodi- ficamos lo que la máquina produce y luego ese contenido nos despierta una experiencia completa. ¿Se puede recrear ese proceso en la ia? —En la actual, no. Pero lo inquietante es preguntarse si las ia del futuro podrán hacerlo. Hoy se está trabajando en grounding models [modelos de aprendizaje de lenguaje capaces de vincular símbolos abstractos, como palabras, a fuentes verificables de información], diseñados como transformers que integran videos, robots y modelos ex- tensos de lenguaje. Es decir, podrán interactuar con el mundo, ver a través de una cámara y escuchar. Cuando combinen todas esas fuentes de información, tal vez será el momento en que una ia desarrolle una consciencia. Quizás podamos mantener una distancia entre nuestra experiencia y la de estos modelos, dependiendo de cómo los entrenemos. Porque a partir de ese punto, sus acciones impactarán en el mundo e incluso es posible que tengan un sentido de agencia. ¿Cómo sabes que tú eres tú? Por- que puedes empujar un objeto inerte y entender qué es tu cuerpo a partir de esa experiencia. Tal vez, en un futuro, la ia llegue a hacer lo mismo. Una encuesta reciente de la plataforma europea EduBirdie, aplicada a dos mil personas que se descri- ben como generación z, mostró que una de cada cuatro personas cree que la inteligencia artificial ya es cons- ciente. ¿Hay algún riesgo en que se crea esto? —Me preocupan las consecuencias éticas. Van a empezar a tratar a la inteligencia artificial como si fuese una ami- ga, como si fuese consciente, y pueden llegar a tratar mal a animales o guaguas porque no muestran este mismo com- portamiento. Dado que estos modelos pueden incorporar grandes cantidades de contexto, pueden saber cosas sobre ti que ni siquiera tus amigos saben. Yo he entrenado ami ia en muchas cosas relacionadas a mi trabajo omi familia. El otro día hice un test de personalidad y le pedí queme dijera quién soy. Sus respuestas fueron sorprendentes. Pero después pen- sé que es obvio, porque la he entrenado para que lo sepa. Entonces, naturalmenteme respondió en base amis propios comportamientos. Yo soy eso y mucho más, pero nuestros comportamientos también dicen quiénes somos. En el fu- turo será realidad que entrenaremos a estos agentes y se sentirá que te conocen, aunque realmente no lo hagan. “Me preocupa que por su enorme capacidad de imitación, vamos a terminar asignándole consciencia a sistemas [como la ia] que en realidad son zombis, solo porque pueden hablar, imitarnos y engañarnos”. 29