La Voz de Michoacan

DÓLAR Compra $18.40/ Venta $19.20

Morelia   15 °C

Martes 25 de Septiembre del 2018

Opinión,Vidal Mendoza

Propensos al mal

Opinión

Jul 11, 2018, 0:09

Compártenos

Vidal Mendoza

¿Por qué el aumento de la inteligencia artificial (IA) es desconcertante para muchos de nosotros? Nuestra incomodidad con la IA puede deberse al hecho de que el siglo XXI no será la primera vez que esas entidades habrán aparecido en la tierra ¿Es posible, o incluso, tautológico, que muchos de nosotros nos sintamos amenazados por la idea de las máquinas similares a los humanos, precisamente porque serán, en ciertos aspectos, como los humanos?

Quizás sea el momento, entonces, de revivir una pregunta que la mayoría de los filósofos parecen haber olvidado: ¿qué es lo que hace que los seres humanos sean malos? Rousseau, por ejemplo, sostiene que “el hombre es naturalmente bueno”, pero concluye que nuestra especie originalmente virtuosa ha sido corrompida por “el conocimiento que ha adquirido”.

Ya no tendemos a sospechar que podría haber un vínculo entre el conocimiento humano y la depravación humana. Sin embargo, hasta mediados del siglo XIX, pocos en Europa y las Américas dudaron que el origen del mal humano estuviera representado, de alguna manera, en las primeras páginas del libro del Génesis. En el Génesis, encontramos una leyenda arcaica, pero cuya trama es clara. La primera pareja humana, Adán y Eva, es colocada por Dios en un paraíso: el Jardín del Edén. Están desnudos, son inocentes y están enamorados.

Pero una serpiente pronto tienta a Eva, quien a su vez tienta a Adán, a probar el fruto de un árbol del conocimiento del bien y del mal. “Serán como dioses”, susurra la serpiente. Eva nota que esta fruta es “agradable a los ojos” y después de que Eva y Adán se la comen, “los ojos de ambos se abren”. En ellos, la humanidad ve por primera vez lo que ninguno de nosotros, hasta el día de hoy, puede ‘no ver’: la posibilidad de la crueldad y la inexorabilidad de la muerte.

Según el Génesis, todo el salvajismo y la desesperación comienzan aquí, con una voluntad humana primordial de adquirir conocimiento ilícitamente ¿Pero cuál es la relevancia de esto para el amanecer de las máquinas “inteligentes”? Bueno, en la década de 1780 y 1790, Kant intensificó la teoría de la depravación humana de Rousseau. Kant está tan convencido de que los humanos tienen una “propensión al mal” que él, como Rousseau, dice “podemos ahorrarnos una prueba formal”. Las escenas sangrientas que la vida nos muestra son, para Kant, concluyentes.

Es más, Kant recurre a las primeras páginas de Génesis en su ensayo de 1786, “Comienzo conjetural de la historia humana”. La narrativa del Edén es una “mera ficción”, sugiere Kant, pero está impresionado por su coherencia interna. Entonces Kant establece una narración filosófica de la caída de la humanidad, modelada según el Génesis. Su pregunta es el origen de lo que él llama, en un texto posterior, “mal radical”. Por “radical”, quiere decir que ser tocado por este “mal” hace que la humanidad sea lo que es.

Curiosamente, Kant concede que “el documento sagrado es bastante correcto” en su representación de ciertas verdades básicas. Por ejemplo, el árbol del conocimiento en el Génesis marca, para él, el momento vertiginoso en el que la humanidad se aventura por primera vez más allá de los límites establecidos por el instinto. Una elección humana prehistórica de consumir fruta extraña, razona Kant, puede haber activado nuestra facultad de elección. Cuando el instinto dicta “objetos únicos de deseo”, dice, la razón revela “una infinidad de ellos”. Y una vez que la razón ha roto el caparazón del instinto, insiste, es imposible dar marcha atrás.

Esto nos devuelve a la IA. Para el veredicto acerado de Kant es que los seres humanos son malvados porque son inteligentes. Esto, por supuesto, no quiere decir que la inteligencia, per sé, sea malvada. Más bien, Kant piensa que es la esencia de la “razón inquieta” conducir a la humanidad “irresistiblemente” hacia el desarrollo de todas sus capacidades: el bien y el mal.

Los proveedores de nuevas tecnologías “inteligentes” nos dicen que sus sistemas de máquina solo estarán codificados, o mejor dicho, cuasi codificados, para realizar los bienes humanos. Gracias a los diseñadores podemos estar seguros de que las máquinas “inteligentes” no serán deshonestas. “No seas malvado”, después de todo, fue el lema corporativo de Google hasta hace poco.

Sin embargo Google se sorprendió al observar que su tecnología DeepMind tiene una tendencia a seleccionar formas de comportamiento “altamente agresivas” en ciertos contextos y cuando se enfrentan con ciertas tareas. Posiblemente, Kant podría haber predicho esto. Su interpretación de Génesis parecería sugerir que la idea de IA puramente benévola es formalmente incoherente. Porque, siempre que se genera una nueva forma de inteligencia real, con ella se genera una nueva capacidad para el mal.

Si Kant está en lo cierto, entonces podemos estar seguros (a priori) de que las máquinas genuinamente inteligentes, como nosotros, tienen una propensión al mal, porque son inteligentes. Ellos también querrán probar la fruta prohibida. Y si Kant está en lo cierto, entonces también podemos razonar (a posteriori) desde la ausencia de máquinas malvadas hasta una ausencia de verdadera inteligencia artificial.

Esta última es una línea de razonamiento que Jean Baudrillard esboza en su libro de 1990, TheTransparency of Evil. Se puede decir que las computadoras son “virtuosas”, dice Baudrillard, pero esto es solo porque son “inmunes incluso a la seducción de su propio conocimiento”. Para Baudrillard, la inmunidad de las computadoras al mal solo demuestra que, aunque podemos llamar a las máquinas “inteligentes”, en realidad todavía están “desprovistas de inteligencia”.

El vínculo entre la inteligencia y el mal no es solo un miedo arcaico, dramatizado en el Génesis y racionalizado por Kant. Es una afirmación filosófica recurrente que los creadores de tecnologías “inteligentes” y filósofos de la tecnología serían imprudentes de ignorar.

2037 Visitas

Opinión Anterior

El ‘tráiler de la muerte’
Vidal Mendoza

Vidal Mendoza ¿Por qué el aumento de la inteligencia artificial (IA) es desconcertante para muchos de nosotros? Nuestra incomodidad con la IA puede deberse al hecho de que el...

ÚLTIMA HORA