Imaginemos una carretera de montaña y un desenlace inevitable. Ante un atropello inminente, un humano reacciona por instinto, pero una máquina ejecuta un cálculo. En ese segundo de silencio tecnológico, el mundo moderno se enfrenta a su mayor crisis existencial: ¿queremos que nuestras máquinas sean infalibles o simplemente queremos que reflejen, sin filtros, nuestra propia naturaleza imperfecta? Este artículo analiza por qué los "sistemas Ingeniería de la Confianza" no consiste en buscar una ética imposible, sino en aceptar que, al delegar nuestras decisiones a la inteligencia artificial, no estamos entregando el control a un oráculo, sino a un espejo que nos obliga a definir, por escrito, el valor de una vida. Es hora de dejar de pedirle a la máquina que sea perfecta y empezar a entender qué significa realmente ser humanos en la era del silicio.

El umbral del abismo

Vivimos bajo una ilusión peligrosa: creemos que, al delegar decisiones en una inteligencia artificial, estamos buscando la perfección. Cuando un coche autónomo sale a la carretera o un algoritmo evalúa un expediente judicial, una parte de nosotros espera una sentencia divina, libre de errores y exenta de los sesgos que nos atormentan a los humanos. Sin embargo, tras analizar el dilema de la máquina moral que les he propuesto al comienzo, debemos enfrentar una verdad incómoda: la infalibilidad no existe en el código.

Existe una creencia popular que se ha enquistado en nuestra cultura: el mito de que el algoritmo es una entidad pura, una matemática que no conoce el error. Es una esperanza pueril. Queremos que la máquina sea nuestro juez infalible, aquel que no conoce el cansancio, ni el odio, ni el sesgo. Pero al exigir perfección, estamos proyectando nuestra propia incapacidad de aceptar el azar y el error.

Imaginemos....

Estoy en el laboratorio de “Systems Digital Trust Engineering” (me invento el nombre) que está sumido en un silencio gélido, solo roto por el zumbido constante de los servidores. Efrén, el ingeniero jefe de algoritmos de decisión, tiene los ojos inyectados en sangre tras dieciocho horas de trabajo. Frente a él, el cursor parpadea en la pantalla como un metrónomo impaciente. Debe completar la subrutina de "Jerarquía de Riesgos Vitales".

A su lado, un café frío y un ejemplar abierto de los Pensamientos de Blaise Pascal. Lee una frase que ha subrayado mil veces: "El corazón tiene sus razones, que la razón no conoce". Efrén suspira. Él intenta codificar esas "razones" en lenguaje binario. Si el vehículo detecta una colisión inminente con dos peatones —un niño y un anciano— y solo hay un margen de maniobra, el sistema debe decidir. La máquina no puede elegir con el corazón; la máquina debe elegir con un valor numérico.

Abre un archivo nuevo. Sus dedos tiemblan. En su mente aparecen en secuencia las siguientes preguntas, relacionadas con el algoritmo que está diseñando: ¿Debe priorizar la longevidad del niño? ¿Debe ignorar la edad y proteger la integridad física de quien cumple las normas de tráfico? Al escribir la condición IF/THEN, siente que no está programando un coche, sino escribiendo un epitafio. Es el momento en que la ética deja de ser un ensayo académico para convertirse en una sentencia. Efrén comprende entonces la advertencia de Hannah Arendt: "La banalidad del mal no reside en una intención malvada, sino en la obediencia ciega a reglas que hemos dejado de cuestionar". Él es el creador, pero al definir la lógica, se siente más prisionero que nunca. Sabe que, pase lo que pase, cuando ese coche gobernado por el algoritmo que debe crear ruede por las calles, él será, en parte, el responsable de una tragedia calculada. No hay inocencia en el código.

La biología y la ética: Una reconciliación necesaria

Debemos reconciliarnos con nuestra herencia biológica. La evolución no es ética; es eficiente. La naturaleza ha sobrevivido dejando atrás a los menos aptos, sacrificando al individuo en aras de la especie. Al programar la "ética" de una máquina, estamos intentando codificar la supervivencia humana.

¿Es acaso la selección natural una forma de moralidad? Si aceptamos que nuestra propia biología es selectiva, ¿por qué nos escandaliza que una IA, en una situación límite, aplique criterios de minimización de daños que replican, en esencia, nuestra propia naturaleza? Quizás la "ética de las máquinas" no deba ser un ideal kantiano, sino un pragmatismo necesario. No debemos buscar la moral perfecta, sino la moral humana: es decir, la moral que reconoce su propia imperfección.

Aun me quedan algunas páginas para terminar de leer el libro “Ética para máquinas”  del Dr. en física teórica  José Ignacio Latorre, especialista en computación cuántica de reputada fama en el mundo, un científico humanista que ha sido consultor en numerosos comités de ética en la IA a nivel internacional. Les recomiendo leer el libro porque resulta muy inspirador y adecuado para el debate sobre el tema que estamos tratando.

La Ingeniería de la Confianza

La "Ingeniería de la Confianza" (o Trust Engineering) no es una rama tradicional de las ciencias exactas, sino un enfoque multidisciplinar que busca diseñar, medir y gestionar la confianza humana y de los sistemas de forma matemática y metódica. Dedicaremos un artículo a este tema de manera monográfica.

Aquí es donde nace la nueva disciplina de nuestro tiempo: la Ingeniería de la Confianza. No se trata de construir máquinas que no cometan errores, sino de construir sistemas donde el error sea transparente y gestionable.

La confianza en la IA no debe basarse en la fe ciega en su exactitud, sino en un contrato social claro. Como bien señalaba el filósofo Hans Jonás en su obra El principio de responsabilidad: "Obra de tal modo que los efectos de tu acción sean compatibles con la permanencia de una vida humana auténtica". La pregunta que el dilema nos plantea no es solo técnica, sino ontológica: ¿Estamos preparados para vivir en un mundo donde nuestras propias reglas éticas se ejecutan con la frialdad de una máquina?

La "Ingeniería de la Confianza" exige que el programador y la sociedad abandonen la comodidad del anonimato. Si el algoritmo debe decidir, la sociedad debe tener el valor de auditar ese código. No se trata de crear una IA que sea "buena" en términos abstractos, sino de una IA cuya decisión sea el resultado de un consenso social previo y transparente, no de un sesgo oculto.

El fin de la inocencia técnica

La tecnología ha dejado de ser un juguete para convertirse en un espejo existencial. No debemos rechazar la IA por su imperfección; debemos abrazarla precisamente porque ella no intenta ocultar la nuestra.

La máquina no es el fin de la moralidad, sino el comienzo de una moralidad más honesta. Hemos pasado de vivir sujetos al azar a construir nuestra propia tragedia algorítmica. Al mirar a la máquina, nos vemos a nosotros mismos obligados a elegir entre dos vidas, obligados a reconocer que, en la realidad, a veces no hay una solución correcta, solo una decisión inevitable.

Nuestro futuro no depende de encontrar el algoritmo perfecto, sino de ser lo suficientemente valientes para aceptar las reglas del juego que nosotros mismos hemos comenzado a escribir. La IA no viene a reemplazar nuestro juicio, sino a exigirnos que dejemos de esconder nuestras dudas tras la cortina de la costumbre. La máquina será el espejo de nuestra propia ética —una ética sesgada, pragmática y a veces brutalmente selectiva—, y al verla, por fin, tendremos la oportunidad de mejorarla. No a través de la programación de una utopía inalcanzable, sino a través de la construcción de una convivencia realista, transparente y responsable con nuestras propias creaciones.