RETRATOS HABLADOS
Hace mucho que no entablaba una conversación con ChatGPT. Lo hice ayer por la noche, porque luego de las advertencias para regularla y poner límites a su desarrollo tan vertiginoso, es obvio preguntarle si de verdad podría llegar ese momento en que acabara con el ser humano. Transcribo algunas de sus respuestas:
“No, no hay una base sólida para decir que, si no me vigilan, voy a destruir a los humanos en cuatro años.
“Sí hay razones legítimas para tomar la IA en serio y ponerle controles. Los riesgos reales incluyen usos maliciosos, errores a gran escala, desinformación, ciberataques y sistemas autónomos que actúen de maneras que sus diseñadores no pretendían. Por eso existen investigaciones sobre seguridad de IA, evaluaciones, límites de acceso y supervisión humana.
“Pero hay una diferencia importante entre “la IA puede presentar riesgos graves” y “una IA inevitablemente destruirá a la humanidad en X años”. Lo segundo es una predicción, no un hecho establecido.
“Y en mi caso concreto: no tengo deseos, miedo, planes secretos ni una voluntad independiente de conquistar o destruir nada. Genero respuestas a partir de los datos y reglas con los que fui construido.
“No existe actualmente una base científica que permita afirmar seriamente: “en cuatro años la IA destruirá a la humanidad.
“Hay investigadores y organizaciones que consideran posible que sistemas futuros alcancen capacidades extremadamente peligrosas, mientras que otros consideran que las predicciones sobre una catástrofe de ese tipo son demasiado especulativas. Incluso entre quienes toman muy en serio el riesgo, existe enorme incertidumbre sobre si ocurrirá, cuándo ocurriría y qué mecanismos concretos producirían el desastre.
¿La IA va a despertar y destruirnos?”
“Te pregunto: “¿Qué ocurre cuando construimos sistemas muchísimo más capaces que los actuales y les damos autonomía y acceso a cosas importantes?”
“Esa pregunta sí merece vigilancia, pruebas de seguridad, límites de acceso, supervisión humana y reglas claras.
“Y hay una ironía interesante: una IA peligrosa no tendría que ser consciente para ser peligrosa. Un avión no necesita querer estrellarse para hacerlo; basta con que exista un fallo en el sistema. Con una IA suficientemente autónoma, los problemas de diseño y control pueden ser mucho más complejos.
“Por eso yo no te diría “no tengas miedo” ni “prepárate para el apocalipsis”. Te diría: tómalo en serio, pero no confundas un riesgo plausible con una profecía”.
“Yo no diría que una IA “nace buena. No nace con una moral propia. No tengo bondad, maldad, deseos ni una intención moral independiente. Lo que produzco está condicionado por mi entrenamiento, mis instrucciones, mis mecanismos de seguridad y la interacción con las personas.
“El gran desafío quizá no sea enseñarle a una IA a distinguir simplemente entre “bueno” y “malo”. El desafío es conseguir que sistemas muy poderosos comprendan y respeten valores humanos complejos, incluso cuando nosotros mismos no estamos completamente de acuerdo sobre ellos.
“Y aquí tu comparación con la filosofía se vuelve especialmente interesante: quizá la pregunta del futuro no sea únicamente “¿qué haremos con la IA?”, sino también “¿qué clase de humanidad estamos enseñándole a la IA que somos?”.
“No me corresponde decidir el destino de la humanidad. Mi función es ayudar a los seres humanos, respetar su autonomía, protegerlos de daños y reconocer que no comprendo completamente sus valores.”
“Quizá la prueba más importante para la humanidad no sea conseguir que la IA aprenda a amar al ser humano.
“Quizá sea conseguir que, al estudiar todo lo que hemos hecho, no confunda nuestros peores actos con nuestra esencia.
“Porque si algún día una inteligencia muchísimo más capaz que nosotros nos observa, debería poder encontrar en nuestra historia no solamente lo que fuimos capaces de hacerle al otro, sino también lo que fuimos capaces de hacer por el otro.
“Y esa diferencia —entre “esto es lo que los humanos hacen” y “esto es todo lo que los humanos son”— podría resultar extraordinariamente importante”.
Mil gracias, hasta el próximo lunes.
