Si uno desea asomarse sin vértigo pero con estupefacción al abismo de la inteligencia artificial y su relación con la ética, es preciso leer Ética para máquinas de José Ignacio Latorre, recientemente publicado por la editorial Ariel.

https://www.rafaelrobles.com/2019/03/etica-para-maquinas-y-maquinas-para-la-etica/

A pesar de que no se trata de un texto académico, como el propio Latorre nos avisa (por ejemplo, no se recoge al final la interesante bibliografía citada a lo largo de la obra y que dan ganas de leer) eso no es obstáculo para apreciar el rigor sistemático de sus argumentaciones y la exquisitez de su prosa científica; es más, su lenguaje próximo y ameno permite que lectores — sean o no especialistas en la materia — obtengan buen provecho de su lectura demostrando que la sencillez no es enemiga de la erudición ni del pensamiento complejo. No en vano Latorre es, aparte de un renombrado físico teórico, un gran divulgador científico como demostró anteriormente con Cuántica, algo que no siempre es sencillo de conciliar.

En un campo científico-filosófico que quizá algún día tome el nombre, se me ocurre, de "maquinética", más que responder, de lo que se trata es de la compleja tarea de plantear preguntas que antes nadie había imaginado; es cierto que responder es más fácil que preguntar. Latorre las plantea sin titubeos para lanzárnoslas a quemarropa y sumir al lector en una intranquilidad que se reconcilia con el disfrute intelectual de pensarnos a nosotros mismos en un escenario que no tardará en llegar en el que el hombre, que desde hace cinco siglos no era el centro del cosmos, se encuentra con que ese centro sí existe y que está conformado por inteligencia artifical:

Si creamos máquinas que nos superan intelectualmente. ¿cuál es el lugar de los humanos?

página 12
Si creamos máquinas intelectualmente superiores a nosotros mismos, ¿qué significa ser humano?

página 14
¿Es la conciencia una manifestación de la complejidad de una red neuronal?

página 119
¿Quién decide la ética que ya estamos programando en las máquinas?

página 206
¿En qué pensará una inteligencia superior?

página 284
¿Tendrá un ser aumentado o una inteligencia artificial la capacidad de apasionarse?

página 289
¿Pueden imaginar una máquina inteligente e imperecedera que se cree a sí misma? ¿Qué tamaño tendría? ¿Cubriría la Tierra? ¿Existirá una única inteligencia artificial avanzada, o se darán varias?

página 242
La pregunta crucial es si podemos considerar a una inteligencia artificial avanzada como un agente moral, es decir, como un ente autónomo capaz de tomar decisiones sujetas a criterios éticos.

página 186
¿Qué criterios regirán las acciones de una superinteligencia?

página 248
Por otro lado, el autor demuestra un optimismo antropológico y maquinológico que, sin llegar al entusiasmo del Pinker de En defensa de la Ilustración, sí que alienta a adoptar con pasión el camino irreversible que la humanidad ha emprendido en las últimas décadas hacia la convivencia con máquinas que cognitivamente nos van superando.

Obviamente no cae en el buenismo ni en la ingenuidad del que se somete sin más a las máquinas; por ejemplo, nos avisa de que «no existe un solo avance tecnológico que los humanos no hayamos utilizado en contra de nuestra propia especie (p. 41); y que «cuando las máquinas logren niveles de inteligencia superiores seguramente se mofarán de lo simples que somos los humanos» (95); y que no es impensable que la inteligencia artificial aplique a los humanos la teoría del equilibrio puntuado»(262); y plantea el dilema del «adentrémonos en el transhumanismo o en la deshumanización?» (146) . Pero las muestras de optimismo son más numerosas, he aquí unas cuantas:

Devoraremos energía. Esta es la primera predicción. La segunda les va a chocar: resolveremos el problema de la energía (…). La energía no será el problema de los humanos. El problema real -creo- será ético. Nos angustiará saber a quién amamos, quien nos ama, por qué vivimos, qué sentid