UNA CLAVE ÉTICA PARA LA INTELIGENCIA ARTIFICIAL
Raúl González Fabre.
La Inteligencia Artificial es un campo en rápido progreso desde hace unos años. Consiste fundamentalmente en programas de computador capaces de extraer conclusiones de una gran cantidad de datos. Como son distintos programas, a menudo para usos semejantes, vamos a hablar de ellas en plural: no es una Inteligencia Artificial, sino muy variadas Inteligencias Artificiales programadas por distintas empresas, que compiten entre sí por conseguir usuarios y clientes.
Por ejemplo, en este momento están muy de moda y en gran desarrollo las llamadas Inteligencias Artificiales Generativas. Un uso frecuente de ellas consiste en preguntar al computador algo que te interese, y recibir una respuesta de él aparentemente tan buena como si te la hubiera dado un experto en el tema. Las preguntas que la gente hace pueden ser enormemente variadas: desde cosas prácticas como dónde queda el restaurante chino más cercano a tu casa, hasta consejos personales sobre cómo manejar una situación con tu pareja o en tu trabajo, pasando por desarrollos teóricos como explicar los puntos más importantes de la Carta de Jamaica, o recopilar los artículos de la legislación venezolana que se aplican a un cierto problema legal que tienes. Nada parece quedar fuera de su saber. En realidad, las Inteligencias Artificiales producen respuestas sin entenderlas. En casos como los del ejemplo, proceden buscando en Internet con las palabras de tu pregunta, y luego recombinan los resultados usando matemáticas para ello. Entonces, lo que están haciendo es sacar conclusiones para responderte a partir de una cantidad enorme de datos: todo lo que puedan encontrar en Internet, o en la parte de ella que utilicen. No es una recombinación pura, sino que introduce variaciones, algunas al azar y otras apuntando a darte la razón o a decir que tu pregunta es muy interesante, para que quedes satisfecho y vuelvas a usar esa misma Inteligencia Artificial. Al fin, se trata de un negocio donde compiten varias grandes empresas, y todas quieren evitar que la próxima vez uses la Inteligencia Artificial de un competidor.
Las Inteligencias Artificiales Generativas no saben si lo que te dicen es verdad o no, simplemente porque no lo entienden. Solo montan una respuesta a partir de lo que encuentran sobre el tema de tu pregunta en Internet, con algunas variaciones. Parece que te estuviera hablando alguien que sabe del asunto, pero no es así: son menos conocedoras que si a una persona ciega de nacimiento le preguntaras cómo es el color rojo.
Puesto que utilizan lo que hay en Internet, en muchos casos personas que dominan el asunto habrán escrito las páginas web de donde la Inteligencia Artificial saca ‘ladrillos’ para montar su respuesta. Pero en otros casos podrá no ser así, y en realidad estará utilizando páginas que contienen grandes errores sobre el tema, o que fueron escritas automáticamente por otras Inteligencias Artificiales, las cuales tampoco entendían lo que estaban diciendo. Y luego, buenos o malos los ladrillos, los recombinan como hemos dicho. Por ello a menudo la respuesta que obtienes de una Inteligencia Artificial contiene ‘alucinaciones’, esto es, afirmaciones falsas para cualquiera que sepa un poco del asunto, que afirma como si fueran verdaderas.
Incluso si la respuesta fuera correcta en general, todas las Inteligencias Artificiales, y las Generativas en particular, presentan un problema: no conocen más contexto que los datos que usan para darte una respuesta. Esto las hace muy diferentes a la inteligencia humana. Cuando alguien nos pregunta algo siempre lo hace dentro de un contexto, que nosotros entendemos y tomamos en cuenta para responderle. Por ejemplo, pregunta un estudiante a su profesor, o un profesor a su estudiante, un desconocido nos pregunta por la calle, un familiar o un amigo lo hace en una determinada situación, nuestro jefe, un compañero de trabajo, un oficial de policía… En cada caso, entendemos el contexto inmediatamente: sabemos quién es el otro, cuál es la situación que nos une o nos separa de él, y tenemos una idea bastante clara de qué va a hacer con nuestra respuesta. Todo ello se escapa regularmente a las Inteligencias Artificiales. Un ejemplo dramático de esto ocurrió en agosto de 2025 en Estados Unidos. Los padres de un muchacho de 16 años demandaron a la empresa de una Inteligencia Artificial Generativa por validar los pensamientos autodestructivos de su hijo, quien terminó suicidándose. Aquí entra lo que decíamos arriba: la Inteligencia Artificial no solo no conocía ni podía tomar en cuenta el contexto vital del muchacho, sino que estaba programada para darle la razón, para confirmarle en lo que ya pensaba de sí mismo. Si el joven hubiera hablado con sus padres, con otros familiares, sus profesores, un psicólogo, un médico o algún buen amigo, seguramente hubiera encontrado un camino de salida a sus pensamientos suicidas. Pero no lo hizo sino que confió su problema solo a una máquina que no podía entender aunque pareciera hacerlo.
Podría pensarse que este es un caso raro por extremo. Extremo sí es, pero raro no tanto: la noticia fue la demanda judicial, no el suicidio en sí. En todas partes del mundo, cada vez más personas están usando Inteligencias Artificiales Generativas para consulta psicológica, tomando lo que les dicen como propuestas terapéuticas reales. Evidentemente no lo son, porque la clave de la terapia psicológica es la interacción con otra persona, que lleva a una conexión entre terapeuta y paciente basada no solo en el saber sino también en la empatía y la comprensión. Como bien sabe cualquiera que haya dado consejo, profesionalmente o no, a otro, no digamos un adolescente o un joven, el contexto lo es casi todo. El contexto de la persona que busca guía, pero también los mil contextos personales por los que ha pasado el terapeuta, quien antes de serlo también fue un adolescente en problemas como quien le pregunta. Nunca se trata de componer ciegamente una fórmula a partir de lo que se encuentre en Internet.
Antiqua et Nova
Este documento se basa en el pensamiento católico sobre el ser humano, tanto en sus expresiones seculares, que toda persona de buena voluntad puede reconocer, como en las teológicas, que cualquier católico también reconocerá fácilmente, porque al fin, la clave de nuestra fe se encuentra en Jesucristo, verdadero Dios y verdadero Hombre.
Como Antiqua et Nova quizás es un poco demasiado filosófico o teológico para quien no esté acostumbrado a esos lenguajes, vamos a resumir aquí su punto clave: Todo el documento se apoya en la comprensión católica de la inteligencia humana. Esta es al mismo tiempo una facultad para conocer y para sentir, para saber y para desear, con memoria de las grandes experiencias por las que hemos pasado en la vida, formada en la relación con nuestro ambiente físico y social, y proyectada a relacionarse con los demás y con Dios. La verdad que la inteligencia humana alcanza nunca es solo conocimiento correcto, sino también desear lo bueno y desear ser bueno uno mismo, construir sociedad proactivamente con los demás y salir al encuentro del Dios que sale a nuestro encuentro. Es una verdad al mismo tiempo del conocimiento, del deseo y de la práctica.
Así pues, la inteligencia humana resulta ser mucho más compleja que la Inteligencia Artificial. Esta no siente, ni desea, ni se relaciona, ni siquiera entiende lo que dice. Somos nosotros, al ver las respuestas que nos da, quienes ponemos el entendimiento de ellas, quienes las interpretamos y las aplicamos, o no, dependiendo de la validez que les veamos para nuestros contextos humanos. Lo que la Inteligencia Artificial dice significa algo solo cuando lo leemos: para la computadora no significa nada.
De ahí nace la clave fundamental de la ética de la Inteligencia Artificial, que Antiqua et Nova desarrolla en diversos aspectos y para diversos casos. La Inteligencia Artificial realiza solo un procesamiento matemático de datos. Lo puede hacer de manera más rápida, más fiable y considerando muchos más datos que la mente humana, pero lo que dice no es la verdad. La verdad que la persona necesita para vivir es algo mucho más complejo de lo que una Inteligencia Artificial pueda decirle.
La Inteligencia Artificial se asemeja a una calculadora muy sofisticada, capaz de aprender a manejar números cada vez mejor, pero incapaz de procesar nada que no forme parte de sus números de partida. Igual que una calculadora, nos dará una respuesta rápida y exacta a aquella pregunta que le hagamos, siempre que esa pregunta pueda expresarse como una cuenta de números. Pero igual que una calculadora, lo que los números de entrada y de salida signifiquen no lo pone la máquina sino quien le hizo la pregunta. E igual que a una calculadora, a nadie sensato se le ocurriría buscar en ella guía para la vida, una verdad sobre la que apoyarse.
Así pues, lo que llamamos Inteligencia Artificial en realidad no es como la inteligencia humana, sino solo un instrumento suyo. A semejanza de las calculadoras, gracias a la Inteligencia Artificial podemos hacer mejor algunas de las operaciones que nos costarían mucho tiempo, o incluso nos resultarían imposibles de tanta información como requieren. Pero no más que eso.
Tres aspectos entre muchos
Vamos a sacar algunas conclusiones sobre temas que Antiqua et Nova también toca, entre muchos otros. El punto de partida es siempre el mismo: la Inteligencia Artificial debe ser gobernada por la inteligencia humana, utilizada por esta para hacer mejor nuestra vida individual y social. Nunca al revés: no debemos adaptar la vida humana a la Inteligencia Artificial sino está al bien de las personas, de todas las personas tomadas una por una y juntas en sociedad.
Ello implica que no todos los usos de la Inteligencia Artificial deben desarrollarse, porque como todos los inventos humanos, puede tener también usos malignos.
Por ejemplo, la Inteligencia Artificial puede usarse en el trabajo. Bien empleada, puede hacer el trabajo humano más efectivo, sobre todo en sus aspectos mecánicos, repetitivos o peligrosos, descargando a la gente de esos aspectos para emplearse más en tareas creativas, de planeamiento y de relación con otras personas, donde pueda poner más de sí y desarrollar mejor sus capacidades humanas. Mal empleada, sin embargo, puede marcar los ritmos del trabajo, volviendo todavía más a las personas meros apéndices de las máquinas. Incluso podría, en un futuro no tan lejano, reemplazar cada vez más trabajadores, dejando a muchas personas sin nada que hacer.
La Inteligencia Artificial también puede emplearse en el consumo. De hecho, ese ha sido su uso más importante hasta hoy, 2025. Aquí es más difícil ver el lado bueno, porque ya antes de la Inteligencia Artificial vivíamos en una sociedad de consumo llena de continuos llamados a comprar más, que han ido erosionando nuestras relaciones personales y nuestras comunidades. Basta pensar en tantos muchachos metidos al narco para tener dinero con que comprar, aun al costo de dañar sus comunidades, sus familias, y a sí mismos. La Inteligencia Artificial puede aprender las preferencias individuales de cada uno, y ofrecerle precisamente lo que más puede gustarle. Esto suena bien, pero quizás no es tan bueno, porque ‘lo que más puede gustarle’ es también lo que mejor puede tentarle. Tal cosa refuerza y hace más efectiva la sociedad de consumo. Ya se han detectado nuevas adicciones a las pantallas sobre todo en niños y jóvenes, que dañan su capacidad de concentrarse, descansar y aprender. Y también han aparecido tendencias hacia la supresión de tecnología en las aulas, y de retirada de las redes sociales e incluso de la conexión por internet, en nombre de la sanidad mental y relacional.
Finalmente, en nuestra lista de ejemplos, la Inteligencia Artificial también puede emplearse para conocer la actividad de las personas. Todos vamos dejando una ‘huella digital’ con nuestras conversaciones y mensajes, nuestras preferencias en internet, nuestras compras electrónicas… incluso con las imágenes de las cámaras que cubren buena parte de nuestras ciudades y nuestros edificios. Desde el punto de vista bueno, podría pensarse que con esos recursos podría aumentarse la seguridad, detectando rápidamente actividades ilegales o peligrosas. Pero ello requeriría un poder empleado en el bien común. Por desgracia, la capacidad de vigilancia de la Inteligencia Artificial también está en manos de poderes comerciales que pretenden manipularnos para que compremos, y de poderes dictatoriales, que la utilizan para limitar la libertad.
Esta rápida revisión muestra algo importante: decir que algo se hace ‘con Inteligencia Artificial’ no significa que sea automáticamente bueno. Es la moda que todo nuevo aparato proclame en su publicidad que ya incorpora Inteligencia Artificial. Basta con que indagues un poco en las apps de tu celular para notarlo: da prestigio y parece que si no tienes Inteligencia Artificial en lo que ofreces, te estás quedando atrás. Por supuesto eso es falso: la Inteligencia Artificial debe estimarse por sus usos concretos, de manera que solo los que ayudan a hacer nuestra vida más rica en los aspectos clave de la inteligencia humana que mencionamos arriba, deben desarrollarse. De los otros lo mejor es escaparnos tan lejos como podamos, porque quienes están desarrollándolos quieren empobrecernos para ganar ellos a nuestra costa.
Visitas: 13