Palabra Pública N°28 2023 - Universidad de Chile

J orge Luis Borges escribió que vivir en una época de grandes peligros y promesas es experimentar tanto la tragedia como la comedia bajo “la inminencia de una revelación” que nos permitirá conocernos a nosotros mismos y al mundo. Hoy en día, los avances supuestamente revolucionarios de la inteligencia artificial son motivo a la vez de preocupación y optimis- mo. Optimismo porque la inteligencia es el medio a través del que resolvemos los problemas. Preocupación porque tememos que la vertiente más popular y de moda de la in- teligencia artificial —el aprendizaje automático— degrade nuestra ciencia y corrompa nuestra ética al incorporar en la tecnología una concepción esencialmente errónea del lenguaje y el conocimiento. El ChatGPT de OpenAI, Bard de Google y Sydney de Microsoft son maravillas del aprendizaje automático. A grandes rasgos, estas plataformas toman enormes can- tidades de datos, buscan patrones y se vuelven cada vez más competentes a la hora de generar resultados estadísti- camente verosímiles, como un lenguaje y un pensamien- to en apariencia humanos. Estos programas han sido aclamados como los prime- ros destellos en el horizonte de la inteligencia artificial con fines generales, un mo- mento muy profetizado en el que mentes mecánicas supe- rarán a los cerebros humanos no solo de forma cuantitati- va, en términos de velocidad de procesamiento y tamaño de la memoria, sino también a nivel cualitativo, en cuanto a agudeza intelectual, creatividad artística y cualquier otra facultad propia del ser humano. Ese día puede llegar, pero su amanecer aún no ha llega- do, contrario a lo que se lee en titulares hiperbólicos y a lo que se deduce de inversiones imprudentes. La revelación borgeana del conocimiento no se ha producido ni se pro- ducirá —y, en nuestra opinión, no puede producirse— si programas de aprendizaje automático como el ChatGPT siguen dominando el campo de la inteligencia artificial. Por muy útiles que puedan resultar en algunos ámbitos concretos (en programación informática, por ejemplo, o sugiriendo rimas para versos sencillos), sabemos, gracias a la ciencia de la lingüística y la filosofía del conocimiento, que estos programas difieren profundamente de la forma en que los humanos razonan y utilizan el lenguaje. Estas diferencias suponen limitaciones significativas en lo que pueden hacer, y los dotan con defectos imposibles de erra- dicar. Es tragicómico, como Borges hubiera observado, que tanto dinero y tanta atención se concentren en tan poca cosa, algo tan trivial si se compara con la mente hu- mana, que a fuerza de lenguaje, en palabras de Wilhelm von Humboldt, puede hacer un “uso infinito de medios finitos”, creando ideas y teorías de alcance universal. La mente humana no es, como el ChatGPT y sus si- milares, un enorme motor estadístico de comparación de patrones que se alimenta de cientos de terabytes de datos para elaborar la respuesta más factible en una conversa- ción o la respuesta más probable a una pregunta científica. Por el contrario, la mente humana es un sistema sorpren- dentemente eficiente e incluso elegante, que funciona con pequeñas cantidades de información y que no busca infe- rir correlaciones brutas entre puntos de datos, sino crear explicaciones. Por ejemplo, un niño pequeño que aprende un idioma está desarrollando —de forma inconsciente, automática y rápida a partir de datos minúsculos— una gramática, un sistema extraordinariamente sofisticado de principios y parámetros lógicos. Esta gramática puede entenderse como una expre- sión del “sistema operativo” innato, instalado en los genes, que dota al ser humano de la capacidad de generar frases complejas y largas cadenas de pensamiento. Cuando los lingüistas intentan desarrollar una teoría sobre por qué una lengua determinada funcio- na del modo en que lo hace (“¿por qué se consideran gra- maticales estas oraciones y no otras?”), están construyendo de manera consciente y la- boriosa una versión explícita de la gramática que un niño construye de manera instinti- va y con una exposición mínima a la información. El sis- tema operativo de un niño es del todo distinto al de un programa de aprendizaje automático. De hecho, estos programas están estancados en una fase prehumana o no humana de la evolución cognitiva. Su defecto más profundo es la ausencia de la mayor de las capacidades críticas de cualquier inteligencia: decir no solo lo que ocurre, lo que ocurrió y lo que ocurrirá — es decir, describir y predecir—, sino también lo que no ocurre y lo que podría y no podría ocurrir. Esos son los componentes de una explicación, es decir, los sellos de una verdadera inteligencia. He aquí un ejemplo. Supongamos que usted sostiene una manzana en su mano. Luego la suelta. Observa el re- sultado y dice: “La manzana cae”. Eso es una descripción. Una predicción podría haber sido la afirmación “la man- zana caerá si abro la mano”. Ambas son válidas y ambas pueden ser correctas. Pero una explicación es algo más: incluye no solo descripciones y predicciones, sino tam- «Por muy útiles que puedan resultar en algunos ámbitos concretos, sabemos gracias a la ciencia de la lingüística y la filosofía del conocimiento que estos programas difieren profundamente de la forma en que los humanos razonan y utilizan el lenguaje». 10