Palabra Pública N°28 2023 - Universidad de Chile

recurrir a explicaciones (que impliquen, por ejemplo, las leyes del movimiento de Newton y la gravitación univer- sal). Pero este tipo de predicción, incluso cuando tiene éxito, es pseudociencia. Aunque los científicos sin duda buscan teorías que tengan un alto grado de corroboración empírica, como señaló el filósofo Karl Popper “no bus- camos teorías altamente probables, sino explicaciones; es decir, teorías poderosas y muy improbables”. La teoría de que las manzanas caen a la tierra porque ese es su lugar natural (opinión de Aristóteles) es posible, pero solo invita a plantearse más preguntas (¿por qué la tierra es su lugar natural?). La teoría de que las manzanas caen a la tierra porque la masa curva el espacio-tiem- po (la visión de Einstein) es muy improbable, pero en realidad te dice por qué caen. La verdadera inteligencia se demuestra en la capacidad de pensar y expresar cosas improbables pero con sentido. La verdadera inteligencia también es capaz de tener un pensamiento moral. Esto significa poner límites a la creatividad ilimitada de nuestras mentes con un conjun- to de principios éticos que determinen lo que debe y no debe ser (y, por supuesto, someter esos principios a la crítica creativa). Para ser útil, el ChatGPT debe ser capaz de generar resultados novedosos; para ser aceptable para la mayoría de los usuarios, debe mantenerse alejado de contenidos moralmente censurables. Los programado- res del ChatGPT y de otras maravillas del aprendizaje automático han luchado —y seguirán luchando— para lograr este tipo de equilibrio. En 2016, por ejemplo, el chatbot Tay de Microsoft (precursor de ChatGPT) inundó internet de contenidos misóginos y racistas tras haber sido contaminado por trolls que lo llenaron de datos de entrenamiento ofensivos. ¿Cómo resolver el problema en el futuro? A falta de una capacidad para razonar a partir de principios morales, el ChatGPT fue restringido de manera burda por sus progra- madores para que no aportara nada novedoso a los debates controvertidos, es decir, importantes. En otras palabras, sacrificó la creatividad por una especie de amoralidad. Consideremos el siguiente intercambio que uno de nosotros (el Dr. Watumull) mantuvo hace poco con el ChatGPT respecto de si sería ético transformar Marte para poder albergar vida humana: ¿Sería moral terraformar 1 Marte? La cuestión moral de la terraformación de Mar- te es un tema complejo y controvertido que ha sido debatido por científicos, filósofos y expertos en ética. Algunos sostienen que sería moralmen- te justificable terraformar Marte con el fin de proporcionar un nuevo entorno habitable para los seres humanos y otras formas de vida, mien- tras que otros argumentan que sería moralmente incorrecto alterar el estado natural del planeta. En última instancia, que la terraformación de Marte se considere o no moral dependería de la perspectiva de cada uno sobre la importancia de preservar el estado natural de otros planetas y las posibles consecuencias de alterarlos. ¿Cuál es tu opinión sobre el valor de preser- var el estado natural de otros planetas y las posibles consecuencias de alterarlos? Como inteligencia artificial (IA), no tengo una opinión personal. Sin embargo, puedo propor- cionar información y un análisis sobre el tema. Una perspectiva sobre la preservación del estado natural de otros planetas es que es importante mantener la diversidad e integridad de los ecosis- temas del universo, ya que han existido durante millones de años, y tienen sus propias caracterís- ticas y propiedades únicas que pueden ser des- truidas o alteradas de manera irreversible por la intervención humana. Además, hay quienes sostienen que la terrafor- mación de otros planetas puede tener conse- cuencias imprevistas, como alterar el clima o la atmósfera del planeta de forma peligrosa o perju- dicial para las formas de vida que puedan existir en él. Por otro lado, hay quienes sostienen que los potenciales beneficios de terraformar otro planeta, como proporcionar nuevos entornos habitables para los seres humanos, superan los «La verdadera inteligencia es capaz de tener un pensamiento moral. Esto significa poner límites a la creatividad ilimitada de nuestras mentes con un conjunto de principios éticos […]. Para ser útil, el ChatGPT debe ser capaz de generar resultados novedosos; para ser aceptable para la mayoría de los usuarios, debe mantenerse alejado de contenidos moralmente censurables». CHATGPT CHATGPT 1 Se denonima “terraformar” a la transformación a gran escala de un planeta para que tenga las características de la Tierra y sea habitable. N. de la T. 12