Imaginaba Giovanni Papini en su relato del Libro Negro, El Tribunal Electrónico, una máquina capaz de impartir justicia, de tomar decisiones ponderadas basadas en un análisis de los datos proporcionado por las partes. El sistema que describía Papini se acercaba más a los grandes armarios de IBM de los años 50 –época en la que escribió la obra- que a los robots humanoides encantadores que cuidan a los ancianos en Japón. En ambos casos, el mecánico y digital, en el imaginario colectivo flota la angustia de que un sistema dotado de voluntadlause para causarnos algún mal.
Nos vamos a saltar la referencia a Asimov y a sus tres reglas de la robótica porque, si bien parece que nos estamos acercando al momento de despliegue masivo de robots en nuestra vida diaria, la evolución de los mismos no ha sido lineal y ni mucho menos como la habíamos imaginado. Sin la recogida masiva de datos que han propiciado los teléfonos inteligentes, sin la hiperconectividad necesaria para mantener alimentados los sistemas y sin la aparición de las cosas conectadas, no podríamos hablar de robótica inteligente ni plantearnos tan siquiera si serían capaces de delinquir. En realidad, si queremos ser precisos, mejor que de robots debemos hablar de sistemas cibefísicos conectados e inteligentes (CSP), término que incluye tanto a los coches autónomos como los humanoides. Los CSP son sistemas que se integran en el mundo físico, que son capaces de sentirlo y de actuar sobre él, actuación que no siempre está basada en la programación sino en el aprendizaje y la toma de decisiones no preprogramadas –usando técnicas de machine learning, deep learning, o dueling neural networks-. Cuanto más aprenden por su cuenta y más se alejan de su programación inicial, más cerca estamos de tener un CSP con responsabilidad independiente de la de sus propietarios, productores o desarrolladores.
Aunque estamos lejos, nos dicen, de contar con seres con capacidad propia de razonar ya hay propuestas sobre la mesa de cómo los trataríamos (la decisión del Parlamento Europeo sobre robótica) y ya construimos nuevas personalidades legales para ellos, como la propuesta de los Entes Capaces No Personales (ECNP) -https://www.automatas.tech/pablo-garcia-mexia-colaboracion.html-. Un ECNP sería un sistema con aspecto físico humanoide – aunque creo que el concepto se queda corto, recordemos el robot de la película Her- que contaría no solo con cognición sino con identidad propia y conciencia de la misma, con emociones y con la debilidad de caer atrapado por ellas. Seres que querrían tener derechos y que se autodeterminarían, y que serían capaces de tener la voluntad necesaria para delinquir.
Se puede delinquir de muchas maneras, pero nuestro Código Penal exige voluntad o falta de cuidado, lo que se conoce por imprudencia. Podemos imaginar muchas situaciones en las que una programación inadecuada, un aprendizaje en el que no se han sabido evitar los sesgos cognitivos, o un software inseguro de un robot pueda causar un daño, por ejemplo, matando a alguien sin intención última de matar, lo que se conoce por homicidio imprudente. También podemos imaginar un ECNP robando o causando un mal voluntariamente. Y todo ello desconectado de la voluntad final de un ser humano.
Así que sí parece posible incluso probable que los robots delincan pero ¿les castigaríamos encerrándolos o simplemente apagándolos o borrándolos? Nadie lloraría por el apagado de un coche autoconducido que, de manera consciente, hubiera tomado la decisión de atropellar a un ser humano en concreto ¿Seríamos capaces, sin embargo, de hacer lo mismo con un ECNP, un humanoide singular con el que lleváramos años de convivencia, al que nos hubiéramos unido emocionalmente? ¿Sería, en este caso, equivalente el apagado de una conciencia singular a la muerte humana? ¿Existiría, por tanto, la pena de muerte para los robots? ¿Tendría sentido la cárcel para ellos?
Tal vez nos hacemos preguntas antiguas para problemas modernos.
