¿Puede la inteligencia artificial tomar decisiones éticas?

En la actualidad, la inteligencia artificial  se ha integrado profundamente en nuestra vida diaria y supone un gran avance tecnológico que plantea una de las preguntas más frecuentes de nuestro tiempo: ¿es la IA realmente capaz de tomar decisiones éticas?

Para nosotros la conclusión es clara: la IA, en su estado actual y futuro previsible, no puede «tomar» decisiones éticas en el sentido humano de conciencia, juicio moral y deliberación. Su capacidad se limita a ser programada y gobernada para operar de acuerdo con principios éticos definidos por nosotros, los humanos. La IA no decide; simplemente calcula. Su «ética» es una función directa de la programación y los datos que le son proporcionados.

Ética humana vs. Ética de la IA

Para comprender las limitaciones de la IA, es esencial examinar la diferencia ontológica entre el razonamiento humano y el algorítmico. La moralidad humana es un concepto profundamente arraigado en la subjetividad, experiencia, emociones e intuición. Se rige por tres marcos filosóficos principales:

• Utilitarismo: un enfoque que busca maximizar el bienestar o la felicidad para el mayor número de personas. La IA puede aplicar este marco porque se basa en la cuantificación y optimización, perfectas para un algoritmo.
• Deontología: basada en deberes y reglas morales absolutas, independientemente de las consecuencias. La IA puede seguir reglas predefinidas, como «no dañar a un peatón», pero carece de la comprensión o la voluntad para adherirse a ellas por convicción moral.
• Ética de la virtud: se centra en el desarrollo del carácter moral del agente, más que en las acciones o las consecuencias. Este marco es inaccesible para la IA. Depende de la conciencia, la subjetividad y la experiencia vivida, elementos de los que la IA carece intrínsecamente.

A diferencia de los humanos, que pueden tener buenas intenciones incluso si el resultado es un error, la IA no tiene intenciones. Su proceso es puramente mecánico y computacional. La ausencia de empatía, intuición y conciencia significa que la IA no puede «sentir» el dolor que busca minimizar o «comprender» el valor intrínseco de un derecho que protege. Cualquier «decisión ética» que toma la IA es, en realidad, una simulación de un proceso programado, no una decisión moral deliberada.

Desafíos éticos inherentemente humanos

La implementación de la IA no crea nuevos problemas éticos, sino que amplifica los ya existentes en la sociedad.

• El sesgo algorítmico: esto ocurre cuando la IA aprende y amplifica los prejuicios sociales y las desigualdades de los datos históricos con los que es entrenada. Esto crea un «ciclo vicioso» de injusticia: los datos sesgados se utilizan para entrenar a la IA, que luego perpetúa y magnifica esos mismos sesgos en sus decisiones. Algoritmos de contratación han perpetuado la discriminación por género, etnia y edad, al favorecer perfiles que se alinean con los datos históricos de contrataciones previas. El algoritmo COMPAS en EE. UU., usado para predecir el riesgo de reincidencia, se demostró que tenía un sesgo racial. Clasificaba a los acusados afroamericanos como de mayor riesgo que a los blancos, incluso con factores de riesgo similares.
• El problema de la «caja negra»: este problema describe la dificultad de comprender cómo un sistema de IA llega a sus conclusiones. En modelos complejos como las redes neuronales, la opacidad es total. Si un algoritmo de diagnóstico médico comete un error, o un sistema judicial emite una sentencia injusta, es casi imposible saber la lógica detrás de la decisión. Esta falta de transparencia genera una crisis de confianza y socava la rendición de cuentas.
• El dilema de la responsabilidad: dado que la IA no tiene conciencia ni voluntad libre, no puede ser considerada un agente moral. La responsabilidad recae en los seres humanos: programadores, fabricantes o usuarios. Este dilema se complica en escenarios de alto riesgo, como los vehículos autónomos, donde el tiempo de reacción para la intervención humana es mínimo.

Casos reales: dilemas en la práctica

Los desafíos éticos de la IA se manifiestan en dilemas concretos que la sociedad debe resolver.

• Dilemas en la movilidad autónoma: el caso de un coche autónomo que se enfrenta a un accidente inevitable es un dilema filosófico transformado en un problema de ingeniería. Si el coche debe elegir entre atropellar a un peatón o a sus pasajeros, la decisión es el resultado de una programación deliberada. El experimento «Moral Machine» del MIT demostró que no hay un consenso global sobre quién debe ser protegido, lo que obliga a los programadores a codificar un código moral que la sociedad aún no ha logrado definir explícitamente.
• Dilemas en la justicia: el algoritmo COMPAS, utilizado en el sistema judicial de EE. UU., es un ejemplo perfecto de cómo un sistema de IA puede amplificar la injusticia sistémica. La investigación de ProPublica demostró su sesgo racial, y el caso de Eric Loomis, un acusado que apeló su sentencia por el uso de este algoritmo de «caja negra», puso en evidencia cómo la opacidad impide la rendición de cuentas en un sistema legal.
• Dilemas en el diagnóstico médico: la IA tiene un gran potencial en la medicina, pero también presenta riesgos. El sesgo en los datos de entrenamiento puede generar diagnósticos desiguales, como ocurrió en un proyecto que funcionaba mejor en hombres que en mujeres debido a un sesgo de género en los datos. Además, el dilema de la responsabilidad persiste: si el algoritmo comete un error, la responsabilidad final recae en el profesional de la salud. La OMS aboga por una «simbiosis» donde la IA actúe como una herramienta de apoyo, mientras que el médico aporta el juicio, la empatía y la responsabilidad legal.

Hacia una gestión ética y sostenible de la IA

La única vía para garantizar un uso ético de la IA es mediante una sólida gestión humana. Esto requiere un enfoque multidisciplinario, con soluciones técnicas, organizacionales y de gobernanza que trabajen en conjunto.

Organismos como la UNESCO han liderado la formulación de marcos globales basados en principios clave:

• Los sistemas deben ser comprensibles y auditables.
• La IA debe diseñarse para evitar sesgos y discriminación.
• La responsabilidad debe poder ser atribuida a personas o entidades.
• El control final y la responsabilidad de las decisiones de alto riesgo deben recaer siempre en los humanos.
• Los datos personales deben estar protegidos.

Soluciones en la práctica:

• Invertir en el desarrollo de la IA explicable (XAI) y en técnicas de privacidad diferencial para mitigar riesgos.
• Crear comités de ética de la IA y capacitar al personal en principios éticos.
• Establecer regulaciones claras, como la Ley de IA de la Unión Europea, para asignar la responsabilidad y proteger los derechos fundamentales.

Conclusión

El futuro más prometedor de la IA no es la automatización total, sino un modelo de «aumento de decisiones», donde la IA actúa como una herramienta para procesar datos y mitigar sesgos, mientras que el juicio humano mantiene la supervisión y la responsabilidad final.

En conclusión, la IA no es un sustituto de la moralidad humana, sino un amplificador de los valores y prejuicios de quienes la crean. La cuestión central no es si la máquina puede ser ética, sino si podemos construir los sistemas y marcos que nos obliguen a ser más éticos en su desarrollo e implementación.