Derecho y Robots en la Unión Europea: hacia una persona electrónica.

facebooktwittergoogle_plusredditpinterestlinkedinmail

Leyes sobre robots: el futuro ya está aquí.

El pasado 31 de mayo de 2016 la Comisión de Asuntos Jurídicos del Parlamento Europeo aprobó un  Proyecto de Informe con recomendaciones sobre normas de Derecho civil sobre robótica. Con referencias expresas a figuras literarias y mitológicas como el monstruo de Frankenstein creado por Mary Shelley,  Pigmalión y  el Golem de Praga, esta propuesta normativa de la UE enlaza con la consulta E-011289/2013  en la que la Unión Europea se hizo eco de las discusiones doctrinales acerca del eventual reconocimiento de los robots (cuando lleguen a ser) inteligentes como sujetos de derechos, atribuyéndoles personalidad jurídica.  La base teórica y doctrinal de esta materia ha tenido también el apoyo de la Unión Europea con la financiación del proyecto RoboLaw.

Estas normas, todavía en proyecto, no serán sin embargo pioneras; ya hay normas jurídicas sobre robots en Corea del Sur y Japón. Y todas responden a una triple necesidad común: la regulación de la responsabilidad civil por daños causados por robots, las cuestiones éticas derivadas de la relación robot-humano y el eventual reconocimiento de personalidad jurídica en los robots.

FullSizeRender (25)

Responsabilidad civil por daños causados por robots.

 Según el artículo 1902 de nuestro Código Civil el que por acción u omisión causa daño a otro, interviniendo culpa o negligencia, está obligado a reparar el daño causado; en todos los Ordenamientos Jurídicos la responsabilidad civil por daños recae siempre sobre sujetos; las cosas no son responsables. Y cuando el daño ha sido causado por cualquier máquina o herramienta será una cuestión técnica determinar si el responsable civil ha sido el propietario, el operario o el fabricante. Sin necesidad de acudir a normativas sectoriales específicas, estas ideas ya fueron consagradas en nuestro Código Civil y a ellas responden los artículos 1908 y 1909.

¿Y si el responsable es siempre una persona por qué ha de haber normas especiales si los daños son causados por un robot? ¿Qué es jurídicamente un robot?

Los robots (existentes hoy en día) son máquinas, y por lo tanto, cosas, susceptibles de ser objeto de derechos pero no son sujetos de derechos ni obligaciones; no tienen personalidad jurídicaSin embargo, como máquinas, presentan una serie de características que las hacen especiales y reclaman un tratamiento jurídico especial. De hecho el Proyecto normativo de la Unión Europea afirma expresamente que la Directiva 85/374/CEE no sería suficiente para cubrir los daños causados por la nueva generación de robots.

Según la documentación de la Robot Industries Association (el conglomerado empresarial más importante del mundo sobre robótica) puede definirse el robot como una máquina funcional reprogramable, capaz de mover material, piezas, herramientas o dispositivos especializados mediante movimientos variables programados, con el fin de realizar tareas diversas, caracterizada por su elevado grado de autonomía y autoplanificación

Esta posibilidad de autonomía y autoplanificación puede dificultar notablemente la determinación del sujeto causante del daño: aquí a la intervención del fabricante, operario y propietario debe añadirse el papel del programador y, en el caso de robots con posibilidad de aprendizaje, el instructor en ese proceso. A esta cuestión hace referencia expresa el punto 28 de las Recomendaciones a la Propuesta de Resolución del Parlamento Europeo en el citado informe declara como posible solución que  “…una vez que las partes responsables hayan sido identificadas en última instancia, su responsabilidad será proporcional al nivel real de las instrucciones dadas a los robots y a su autonomía, por lo que cuanto mayor sea la capacidad de aprendizaje o la autonomía, menor será la responsabilidad de las otras partes, y cuanto más larga haya sido la «educación» del robot, mayor será la responsabilidad de su «profesor» …(y) … en particular, que al tratar de determinar la responsabilidad real de los daños, las competencias adquiridas a través de la «educación» de un robot no deberían confundirse con las competencias estrictamente dependientes de su capacidad de aprender de modo autónomo…”

De forma acertada la Propuesta reconduce “… la complejidad de la asignación de responsabilidad por los daños causados por robots cada vez más autónomos…” a un régimen de seguro obligatorio, disponiendo que (a diferencia del régimen de seguros en materia de circulación por carretera) un sistema de seguros para robots podría basarse en la obligación del fabricante de suscribir un seguro para los robots autónomos que produce. Todo ello como un mecanismo protector de las posibles víctimas de esos daños, mecanismo que se completa con la proposición de establecimiento de un sistema de responsabilidad objetiva,  de modo que no será necesario demostrar que ha existido culpa en el sujeto responsable del daño, sino que “… únicamente exige probar que se ha producido un daño y el establecimiento de un nexo causal entre el comportamiento perjudicial del robot y los daños causados a la persona perjudicada…” (números 29 y 27 de la Propuesta)

Cuestiones éticas derivadas de la relación entre humanos y robots.

El ejemplo apareció recientemente en la prensa:  un coche se mueve a 80 kilómetros por hora por una carretera con una niña que viaja sola, porque se trata de un vehículo inteligente, autónomo al 100%; de pronto, tres niños se abalanzan sobre la carretera por error y el coche debe elegir en milésimas de segundo: seguir hacia adelante y atropellar a tres niños o dar un volantazo y estamparse contra un muro, con su pequeña pasajera dentro. ¿Qué debería hacer el coche? ¿Y tú, pagarías a un hacker para que alterase el código inicial previsto por el fabricante?

Es evidente que aunque una máquina no es un sujeto ético, las decisiones que tome un robot pueden provocar importantes consecuencias éticas. El Proyecto de Informe de la Unión Europea relaciona expresamente esta cuestión con las clásicas leyes de la robótica de Asimov en el apartado L de sus Principios Generales, precisando que tales imperativos éticos (no hacer daño a un ser humano, obedecer órdenes humanas y proteger su propia existencia) deben ir dirigidos “a los diseñadores, fabricantes y operadores de robots, dado que dichas leyes no pueden traducirse en código de máquina“.

Los riesgos evidentes que la robótica puede suponer para la seguridad humana, la intimidad, la integridad, la dignidad, la autonomía y la propiedad de los datos personales deben traducirse, según el proyecto normativo de la Unión Europea, no solo en limitaciones jurídicas, sino también en el establecimiento de un código de conducta para los ingenieros en robótica, un código deontológico destinado a los comités de ética de la investigación para la revisión de los protocolos de robótica, y licencias tipo para los diseñadores y los usuarios.

Además hay otras cuatro cuestiones especialmente especialmente interesantes de las que también se hace eco el Proyecto normativo europeo:

-de un lado las relativas al equilibrio entre la protección de la propiedad industrial e intelectual (en suma, el secreto del código de programación de los sitemas robóticos) y la eventual necesidad de hacer público el código de programación para deslindar responsabilidades en caso de accidente.

-y de otro la dificultad de determinación del sujeto titular de los derechos de propiedad industrial e intelectual en caso de creaciones desarrolladas por ordenadores o robots (programador, propietario o usuario del software, instructor del programa… concebir estas creaciones como frutos de la Propiedad Intelectual -eso es el programa- es una opción; otra es, entendiendo que a mayor capacidad de aprendizaje del software menor relación causa-efecto entre el código y la creación, considerar que se tratará más bien de un caso de accesión continua,  próximo conceptualmente al supuesto del artículo 383 y a la utilización de material ajeno en la creación de la obra propia).

-la incidencia de la proliferación de robots sobre el empleo  y, por ende, en la viabilidad de los sistemas de seguridad social de los Estados miembros, lo que  debería traducirse en un aumento de la fiscalidad y de las cotizaciones a la seguridad social de las empresas que utilicen robots.

– la posibilidad de introducir una renta básica universal para atender el previsible aumento del desempleo basada en los ingresos derivados de esos mayores ingresos (impuestos y cotizaciones).

Hacia una personalidad jurídica robótica: ¿serán los robots sujetos de derecho?

 Hemos visto que en el estado actual de la técnica los robots son cosas, elemento objetivo de la relación jurídica pues pero no tienen personalidad jurídica ni son, por tanto,  sujetos de derechos y obligaciones.

Sin embargo el Proyecto normativo de la Comisión de Asuntos Jurídicos del Parlamento Europeo dice expresamente que “… cuanto más autónomos sean los robots, menos se los podrá considerar simples instrumentos en manos de otros agentes  … (y)… como consecuencia de ello, resulta cada vez más urgente abordar la cuestión fundamental de si los robots deben tener personalidad jurídica…”

Es decir la autonomía de los robots suscita la cuestión de su condición y pertenencia a una de las categorías jurídicas existentes —personas físicas, personas jurídicas, animales u objetos— o de la creación de una nueva categoría, con sus propias características y repercusiones.

En rigor resulta difícil pensar en una nueva categoría intermedia entre la persona y la cosa pues no es posible ser, simultáneamente sujeto y objeto de un relación jurídica. Además, según todos los teóricos de esta materia el surgimiento de la conciencia en los sistemas de Inteligencia Artificial, se producirá, con toda seguridad, como un elemento emergente no reducible a las propiedades o procesos de sus partes constituyentes, lo que excluirá su conceptuación jurídica como un fruto de la propiedad intelecual que supone el código informático que la origine, pues no se trata  “del rendimiento de la cosa conforme a su sentido económico, sin alteración de su sustancia y con carácter accesorio“; al contrario: la naturaleza de los elementos emergentes ni es accesoria ni mantiene la sustancia sino que la altera radicalmente.

En consonancia con ello el Proyecto normativo europeo sobre robótica solicita expresamente (punto 30 f) a la Comisión que explore las “implicaciones de todas las posibles soluciones jurídicas (…incluida…) crear una personalidad jurídica específica para los robots, de modo que los robots autónomos más complejos puedan ser considerados personas electrónicas; esta personalidad electrónica se aplicaría a los supuestos en que los robots puedan tomar decisiones autónomas inteligentes o interactuar con terceros de forma independiente.

El necesario debate doctrinal. Argumentos favorables y contrarios a la atribución de personalidad jurídica a los robots.

Hasta la fecha se habla de tres generaciones de robots:

Primera generación: los robots primitivos tenían capacidad para almacenar trayectorias programables de movimiento repetitivo descritas punto a punto y dotados de sensores internos, tipo brazo manipulador en cadenas de montaje.

Segunda generación:  a partir de  finales de los años 70 surgen los robots adaptativos ya disponen de sensores externos (temperatura, tacto y visión) que dan al robot información del mundo exterior. Esta retro-alimentación les permite hacer elecciones limitadas y reaccionar ante cambios en las circunstancias exteriores.

Tercera Generación: los robots inteligentes actuales utilizan programas de inteligencia artificial y disponen de sensores muy avanzados de  modo que no solo trabajan con datos externos, sino que también lo hacen con los propios programas, realizan razonamientos lógicos y aprenden.

Es fácil comprender que, en cualquier caso, se trata de máquinas cuya complejidad puede plantear los problemas ya apuntados en orden a deslindar responsabilidades por daños (fabricante, programador, instructor, operario, propietario) pero no se plantea la necesidad de atribuirles personalidad jurídica. Son, queda dicho, cosas en sentido jurídico, objeto, no sujeto de derechos.

La cuarta generación robótica: Una singularidad tecnológica que reclamará una singularidad jurídica.

Al hablar de Inteligencia Artificial se distingue entre Inteligencia Artificial Débil  y Fuerte, la primera es la que conocemos actualmente y designa sistemas capaces de resolver uno o varios  problemas de modo similar (más eficaz, rápida y /o económicamente) a como lo haría una inteligencia humana.

La  Inteligencia Artificial Fuerte designa a un hipotético sistema capaz de emular el total funcionamiento de la mente humana incluyendo no solo la capacidad de resolución de multitud de tareas sino también los sentimientos, la creatividad y la auto-conciencia. Para que este concepto sea preciso, el término emular debe entenderse en su acepción informática, no reconocida por la RAE, de funcionar un programa o dispositivo de la misma manera que otro, no como una función meramente imitativa de algo genuino.

Esa hipótesis se correspondería con la cuarta generación de robots a la que se refiere el Proyecto aprobado por la Comisión de Asuntos Jurídicos del Parlamento Europeo cuando plantea la cuestión fundamental de si los robots deben tener personalidad jurídica.

No ignoro que la hipótesis misma de una mente artificial tiene detractores tanto en el ámbito científico (argumentando que no todas las propiedades cerebrales son computacionables ni algorítmicas) como en el ámbito místico-religioso (considerando que la conciencia queda fuera del campo científico situándose en el mundo espiritual). Acogerse a estas posturas supone rehuir el debate porque lo que plantea el Proyecto normativo de la UE es precisamente la hipótesis de la aparición de esa singularidad, hipótesis basada en que cualquier propiedad del cerebro, cualquier estado mental  (incluyendo la auto-conciencia y los sentimientos) por complejos que sean, es un proceso de la realidad susceptible de computación siempre y cuando exista un sistema que tenga la potencia de cálculo suficiente para soportarlo.

Admitida esta hipótesis y trasladada al mundo jurídico la discusión se plantea en torno a la Teoría de la Persona y en este ámbito:

-existen opiniones negativas que consideran que solo el ser humano puede tener personalidad jurídica (la aptitud legal para ser titular de derechos y obligaciones); el Derecho estaría destinado solo a la regulación de relaciones humanas.

-existen posturas favorables que consideran que la personalidad jurídica no está vinculada al hecho de portar el ADN de la especie humana sino a la capacidad de auto-conciencia que incluiría en la misma comunidad moral a todos los entes dotados de aquélla, incluidos los sistemas de Inteligencia Artificial Fuerte.

En apoyo de esta postura se argumenta además:

-que históricamente el Derecho ha relativizado el vínculo ser humano-persona, por defecto, negando tal condición a los esclavos  y por exceso, atribuyendo tal condición a grupos de personas, masas de bienes u organizaciones administrativas. Curiosamente y en su origen histórico las razones que llevaron al reconocimiento de personalidad jurídica a las ciudades medievales son las mismas que se discuten acerca de los robots: determinar un sujeto responsable, pues eso es lo que buscaban las normas papales que ordenaban la excomunión de villas o las normas feudales que sometían a una villa al pago de impuestos o sanciones.

-que si el fundamento de la atribución de personalidad a las llamadas personas jurídicas se basa en la utilidad que reportan al ser humano para el desarrollo de sus fines existe identidad de razón con el caso de la IA fuerte.

-que la persona es una creación lógica formal que se le imputa al sujeto por el Ordenamiento Jurídico, al ser humano, desde luego, pero no necesariamente en exclusiva; el carácter formal y abstracto del concepto se refuerza con la existencia, no ya de personas jurídicas en general, sino de sociedades unipersonales cuyo capital inicialmente constituido por la aportación del socio único engendra un patrimonio que se atribuye a una persona ficta. ¿Será ese el papel del fabricante asegurando ab initio a los robots o dotándoles de un patrimonio que les permita responder de los daños que causen?

No está de más recordar que, etimológicamente, el término persona designaba la máscara que utilizaban los actores en el teatro  romano, gracias a la cual re-sonaba su voz en el escenario al tiempo que expresaba ciertas emociones. ¿Será eso, una voz expresando emociones, un sistema de IA fuerte?

Personalidad jurídica electrónica: ¿un término obsoleto antes de nacer?

Esta posición favorable a la posibilidad de reconocer personalidad jurídica a los (hipotéticos) sistemas dotados de Inteligencia Artificial Fuerte enlaza con las doctrinas utilitaristas de Jeremy Benthan  (Introducción a los principios de la moral y la legislación, 1780) y puede desembocar en el concepto de persona electrónica que propone el  Proyecto de informe de la Comisión de Asuntos Jurídicos del Parlamento Europeo.

Sin embargo el concepto persona electrónica puede ser desacertado; entendemos por electrónica una rama de la física que se ocupa del estudio y utilización de sistemas de conducción de electrones en diversos medios. Pues bien, aunque la mayoría de los teóricos están de acuerdo en que la singularidad que supondrá la conciencia artificial aparecerá en torno al año 2040, no todos ellos creen que lo hará de la mano de la computación electrónica y así, por ejemplo los estudios de Michael Conrad sobre computación molecular y enzimática o los estudios de Stuart Hameroff con tubos polímericos de proteína (ordenadores biológicos en definitiva) apuntaron vías de solución a algunas vías muertas a las que se había llegado con la computación electrónica y quizá a la posibilidad de que la Inteligencia Artificial Fuerte no venga de la mano de la computación electrónica y del silicio, sino del carbono. Estaríamos pues ante organismos con estructura biológica, como los seres humanos y los animales… artificial, a diferencia de ellos, pero no electrónica.

facebooktwittergoogle_plusredditpinterestlinkedinmail

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *