De la dignidad humana a la democracia: ¿qué principios éticos regirán la inteligencia artificial?

Que la realidad supera a la ficción es una frase con un uso muy extenso, y no menos cierta. El miedo a que la inteligencia artificial (IA) tome decisiones de forma autónoma y ponga en peligro la seguridad del ser humano es un asunto que preocupa a los desarrolladores de esta tecnología. Sus creadores deben cuidar hasta el más mínimo detalle de la programación e integrar una serie de requisitos éticos, desde la justicia, la equidad y la solidaridad, hasta la democracia o la privacidad.

Así lo indica el informe Artificial Intelligence, Robotics and Autonomous Systems elaborado por la Comisión Europea (CE), que propone un conjunto de principios básicos y prerrequisitos democráticos, basados en los valores fundamentales establecidos en los distintos tratados de la Unión Europea (UE) y en la Carta de los Derechos Fundamentales de la misma.

La institución señala, por ejemplo, la necesidad de que los programas de inteligencia artificial reconozcan el principio de la dignidad humana, entendida como el reconocimiento y el respecto. Esto significa que la inteligencia cognitiva no debe establecer calificativos o determinaciones que impliquen una falta de respeto para el usuario.  

La inteligencia artificial deberá prevenir y detectar los sesgos discriminatorios

La autonomía es otro principio básico para la CE: las máquinas autónomas no deben afectar a la libertad de las personas, sino que han de “honrarlas”, según el informe. Esta condición se extiende hasta el punto en que la IA sea totalmente transparente y previsible, condiciones indispensables para que el usuario pueda intervenirla o apagarla si lo considera necesario.

El principio de responsabilidad debe ser otro fundamento ético integrado en la máquina. De acuerdo con la CE, la inteligencia artificial sólo debería ser desarrollada y utilizada con el objetivo de servir al bien común del entorno, tanto social como ambiental. Por tanto, esta debería estar diseñada para aumentar el acceso al conocimiento y a las oportunidades. Pese a ello, el organismo europeo no define cuál es el bien común.

Asimismo, la máquina autónoma debería contribuir a la justicia y a la igualdad. Los sesgos discriminatorios en el uso de los datos deberían ser prevenidos o detectados, así como informados, lo antes posible por parte de las inteligencias artificiales.

Este tipo de tecnologías cognitivas deberán tomar decisiones que reflejen el debate democrático y el compromiso público. El pluralismo de los valores y la diversidad no podrán ser puestos en peligro o ser subvertidos por las nuevas tecnologías, según la CE. De igual forma, no deberán inhibir o influir en la toma de decisiones políticas ni limitar la libertad de expresión o el derecho a recibir y difundir información.

En ese aspecto, la IA tiene que garantizar la protección de datos y la privacidad. En un contexto en que la recolecta ubicua y masiva de datos está a la orden del día, el derecho a la protección de la información personal y el derecho al respecto a la privacidad suponen un desafío crucial, de acuerdo con el organismo europeo.

En cuanto a sostenibilidad, la tecnología autónoma debe estar en consonancia con la responsabilidad humana de garantizar que las condiciones necesarias para la supervivencia de nuestro planeta y la prosperidad de la humanidad en las futuras generaciones.