Llevamos dos post hablando de la propuesta del Parlamento Europeo, sobre robótica e inteligencia artificial, dado que en el primer post vino a colación a un cantautor español, igual es hora de traer a otro, para que podamos empezar a hablar de  ciertos temas, y en especial si un robot puede ser sujeto de derecho:

La propuesta del parlamento europeo habla de:

… cuanto más autónomos sean los robots, menos se los podrá considerar simples instrumentos en manos de otros agentes  … (y)… como consecuencia de ello, resulta cada vez más urgente abordar la cuestión fundamental de si los robots deben tener personalidad jurídica

Crear una personalidad jurídica específica para los robots, de modo que al menos los robots autónomos más complejos puedan ser considerados personas electrónicas con derechos y obligaciones específicos, incluida la obligación de reparar los daños que puedan causar; la personalidad electrónica se aplicaría a los supuestos en que los robots puedan tomar decisiones autónomas inteligentes o interactuar con terceros de forma independiente.

Supongo que rápidamente habéis pensado en los robots como sujetos de derecho iguales a las personas, sin embargo una cosa es reconocer la personalidad jurídica y otra es la equiparación al ser humano.

Empecemos aclarando a los que podríamos llamar más frikies, que:

  1. No existe aún una inteligencia artificial fuerte.
  2. Hay problemas técnicos reales para lograr esa inteligencia artificial fuerte y mientras los ordenadores dependan del silicio, va a ser más que difícil lograr la capacidad de computación suficiente (otra cosa es qué sucederá cuando se logren ordenadores cuánticos, basados en carbono, y probablemente más hechos de tubos de proteínas que con electricidad; siendo estos temas, aún meros proyectos e investigaciones).
  3. Si llegara a existir la Inteligencia Artificial fuerte, el problema no será el si los robots serán o no considerados personas, sino si los robots considerarán a las personas humanas sujetos de derecho (y creed que viendo ciertas leyes y sentencias, no se si sería mejor que legislaran o jugaran: ciertos políticos y jueces, o Watson)
  4. Mucho antes de que estos problemas se planteen, se plantearán otros problemas jurídicos más importantes debido al uso de la tecnología en el propio cuerpo humano (las posibilidades de crear e imprimir piel, articulaciones e incluso algunos órganos no son ciencia ficción sino una realidad actual)

 

Los tipos de personas

Tradicionalmente se ha distinguido entre personas, y cosas; sin embargo es importante empezar a aclarar algunos conceptos.

  1. Determinar que es o no un ser humano, es un problema ético, médico y moral (baste recordar el horroroso ejemplo de la ideología nazi con los judíos, o conceptos tradicionales como el de la esclavitud, y por poner un ejemplo más interesante os pregunto si consideraríais seres humanos a los neandertales, o que o el debate actual sobre los derechos de los animales o el proyecto gran simio).
  2. Sin embargo: una cosa es un ser humano y otra una persona; pues el concepto de persona es un concepto jurídico y se utiliza para referirse a quien puede ser sujeto de derechos y de obligaciones.

 

Hace ya tiempo que además de al ser humano como sujeto de derechos y obligaciones, en el mundo del derecho se distinguen personas físicas y personas jurídicas.

Las personas jurídicas inicialmente eran agrupaciones de seres humanos, de hecho el derecho romano no conoció bien el concepto de persona jurídica, sin embargo este concepto adquirió una especial relevancia: primero gracias al catolicismo y la estructura de la Iglesia Católica, y posteriormente como elemento que permite el desarrollo de las sociedades mercantiles capitalistas.

Nadie niega hoy que existan personas jurídicas, más se discute su fundamentación, y podemos destacar cuatro teorías, de más antigua a más moderna:

  1. Teoría de la ficción jurídica (que se remonta al Derecho romano, pero fue reelaborada por la ciencia jurídica del siglo XIX y, especialmente, por Savgny), el hombre es el único sujeto de derecho, por lo que la persona jurídica no tiene existencia real, sino que se trata de una ficción creada y utilizada por el Derecho para resolver la necesidad práctica de que las colectividades actúen en el tráfico jurídico.
  2. La teoría de la voluntad, defendida por O. von Gierke o G. del Vecchio sostiene que esa colectividad posee una voluntad independiente de sus miembros y que el substrato de esas personas jurídicas es la voluntad social.
  3. La teoría del interés, formulada por R. von Ihering, considera que la persona jurídica es una construcción jurídica con fines prácticos, ya que un colectivo puede también tener intereses que el Derecho debe reconocer y proteger.
  4. La teoría de la institución de M. Hauriou mantiene que la persona jurídica es una institución que constituye una unidad de fines o actividades en torno a la cual se reúnen un grupo de hombres interesados en su concreción.
  5. La teoría de la construcción lógica de Hart, quien entiende que la expresión persona jurídica no hace referencia a hechos, como consideran las teorías anteriores, sino a una “construcción lógica”, por lo que se trata más bien de una “técnica del lenguaje jurídico” que facilita el trabajo de los operadores jurídicos.

 

Pretender que un Notario de pueblo supere a estos autores es mucha pretensión, más independientemente de todas estas teorías, creo conveniente fijar unas premisas:

  1. La única razón de ser del derecho es el ser humano y las relaciones entre ellos.
  2. En todas las teorías anteriores, se reconoce que la personalidad jurídica es consecuencia ante todo del reconocimiento de una sociedad y del ordenamiento jurídico.
  3. La utilidad de la persona jurídica es innegable, más también sus riesgos (por ejemplo nadie niega hoy en día que se puedan usar para blanquear capitales u otras actividades fraudulentas).
  4. Reconocer personalidad jurídica, no sólo no es contrario a que el hombre es el eje en torno al cual gira el mundo del derecho, sino que la persona jurídica es útil para el mejor desarrollo del hombre y de la sociedad.
  5. La persona jurídica es algo diferente de la persona o personas físicas que la integran.

 

La persona digital y la persona jurídica

Nada impide reconocer personalidad jurídica a un robot con inteligencia artificial, o a un robot, o a un programa de inteligencia artificial.

Distinto de reconocer la personalidad jurídica (a fin de cuentas en España se admiten sociedades unipersonales y sin capital social) el problema es el determinar su capacidad de obrar.

Actualmente ninguna ley impide en España constituir una sociedad cuyo activo sea un robot, pues cabe constituir una sociedad con aportaciones no dinerarias.

También distinto de ese reconocimiento de la personalidad jurídica es fijar:

  1. Si hay una o varias personas responsables de la gestión, así como qué facultades tienen esas personas (siendo que el concepto tradicional de administrador de una persona jurídica requiere un nuevo punto de vista cuando hablamos de robots e inteligencia artificial, pues el programador informático y el responsable de la educación del robot van a merecer una regulación especial).
  2. ¿Qué requisitos hay que reunir para ser persona jurídica? así el parlamento europeo plantea la inscripción de robots en un registro público, y la necesidad de un sistema de seguros obligatorios.
  3. Hay que rechazar la personalidad jurídica de robots e inteligencia artificial cuando esta se use con fines fraudulentos (siendo que en robótica e inteligencia artificial, el concepto de fraude también ha de verse con una perspectiva distinta, especialmente: por la posible colisión de intereses entre fabricante y propietario, y por los riesgos que puede suponer la robótica y la inteligencia artificial).

 

Por supuesto que en derecho (que para dar palabras raras somos únicos) una cosa es la personalidad jurídica y otra la capacidad de obrar, y el alcance de dicha capacidad de obrar.

  • La capacidad jurídica es una atribución genérica que el ordenamiento jurídico (esto es de una norma) y que permite que una persona física o  jurídica sea considerada sujeto de derecho; en definitiva determina quién puede ser titular de derechos y obligaciones; y en este sentido nada impide que un robot o un programa de inteligencia artificial tengan capacidad jurídica (siendo esta la propuesta del Parlamento Europeo).
  • La capacidad de obrar es otra atribución por el ordenamiento, y que permite que una persona natural o jurídica tenga capacidad de actuar jurídicamente; en definitiva determina cuáles son las acciones jurídicas que los sujetos de derecho pueden realizar; aquí si que empiezan a surgir problemas pues el debate sobre qué puede hacerse o no con un robot o con un programa de inteligencia artificial, resulta apasionante (siendo este tema simplemente abordado por el Parlamento Europeo, pero sin dar excesivas respuestas).

 

En relación a la capacidad de obrar, determinar que actos pueden o no hacer las personas jurídicas requiere un serio debate, pues con la robótica y la inteligencia artificial aparece una nueva dimensión.

Podríamos empezar indicando que nadie se plantea que una persona jurídica tenga sexo, o pueda cuidar a alguien, más la existencia de robots asistenciales y sexuales es ya una realidad, y buscar soluciones requiere una seria réflexión.

Podríamos poner ejemplos más drásticos como hasta que punto un programa de inteligencia artificial puede ejercer el derecho al voto, o dictar una sentencia, y nuevamente no estamos ante algo de ciencia ficción (acordaros de lo que os comenté sobre el sistema de multas por radar fijo que actualmente existe en España)

Nos encontramos pues ante un dilema, pues cada vez son más las cosas que pueden hacer robots y programas de inteligencia artificial; y más que estudiar los límites físicos, hay que fijar sus límites jurídicos.

Dicho de otra manera: no importa estudiar si un robot puede o no hacer algo (probablemente pueda) sino que hay que determinar, si se permite o no construir y comercializar robots que puedan hacer algo.

Dar soluciones en un mundo global e interconectado, va a ser una tarea difícil, pues lo que esté prohibido en un sitio puede estar permitido en otro, y no es que nos encontremos ante dificultades de comercio internacional, es que incluso puede ser irrelevante.

Pongamos el ejemplo de una marea negra de petróleo debida a un fallo en un robot que opera en un país que permite ciertas formas de explotación petrolífera, por más que el robot esté prohibido en un país vecino, el primer estado actúa conforme a derecho, y sin embargo la marea negra afectaría a países que igual no permiten ese tipo de robot

El capital social, el objeto y el órgano de administración de la persona digital

En el fondo todo está regulado, pues una sociedad con un capital y unos recursos tiene siempre un objeto de cuyo cumplimiento se encarga el órgano de administración.

En la robotica y la inteligencia artificial es que el capital, el objeto y el órgano de administración tienden a identificarse como una sola cosa.

Creo que la idea tradicional de la persona jurídica como un grupo humano que con unos recursos y una gestión trata de cumplir un fin, merece ser revisada, aunque no en el fondo, pero si introduciendo nuevos elementos de debate:

  1. A la tradicional distinción entre sociedades capitalistas y personalistas (en función de la importancia que tenga el capital o elemento humano en ellas) habría que agregar las personas jurídicas por objeto.
  2. El grupo humano que integra a una persona jurídica digital, amen del dueño del bien, debe incluir al fabricante del producto, y al programador que lo desarrolle.
  3. En cuanto al fin u objeto de la persona jurídica digital, es necesario plantear problemas como el de la obligatoriedad o no de actualizar los sistemas operativos, la necesidad de un código fuente abierto, y el problema de la obsolescencia tecnología programada.

 

La titularidad y la legitimación de los robots y de la inteligencia artificial

Distinto al problema de si puede o no darse personalidad jurídica a un robot o un programa de inteligencia artificial, es determinar la titularidad de los mismos y quién está legitimado para usarlos.

Teóricamente sería sencillo hablar de un tipo de propiedad, y usar los conceptos tradicionales del dominio y de la persona jurídica para resolver los problemas que se plantean, más aún siendo posible, es necesario hacerlo a la vista de los retos que plantea la robótica y la inteligencia artificial y la nueva realidad que estos suponen.

Es por ello que algunos conceptos como es la titularidad y la legitimación hay que aplicarlos debidamente; un ejemplo es el que hoy en día conocemos con los coches, pues no está legitimado para conducirlo cualquiera, sino sólo quien realice las pruebas pertinentes .

La titularidad del robot persona jurídica

En robots e inteligencia artificial, el problema de la titularidad adquiere una especial relevancia, pues su aprendizaje es progresivo y hay que determinar hasta que punto sus actos son fruto del programa que usan en origen, o del aprendizaje y el uso que de dicho programa haya realizado su dueño, o persona encargada de la formación del robot.

Un tema no resuelto y que merece muchos post, es que del software sólo se adquiere una licencia de uso, más no la propiedad del mimo, por lo que concurren dos propiedades, o mejor dicho dos titularidades (la del fabricante y la del usuario adquirente).

Ello nos lleva a un problema ya planteado en este blog: qué es el dominio digital, y la ausencia de una normativa clara sobre el tema (tanto nacional como internacional).

Igual rescatando la figura del censo podríamos encontrar soluciones, pues a fin de cuentas estamos ante una distinción entre el dominio directo y el útil (este tema merece de por sí un post).

También es necesario rescatar el concepto de bienes fuera del comercio, o de bienes de tráfico restringido; y creo que si hablamos de robots militares inteligentes rápidamente entenderíamos el por qué de esta afirmación.

Sea como sea es verdaderamente difícil si reconocemos la personalidad jurídica de un robot, fijar el límite entre la personalidad jurídica y la propiedad del objeto, pues las relaciones jurídicas siempre se entablan entre personas y no entre personas y cosas o entre cosas, y porque hay tantos tipos de robots posibles, que en ocasiones habrá que acudir a la personalidad jurídica y en otras a la figura de la propiedad.

Legitimación del robot persona jurídica

La legitimación es importante por dos motivos:

Puede que el dueño del robot no sea quien lo gestione.

Igual que una sociedad puede tener un administrador no socio; la necesidad de aprendizaje progresivo, o las necesidades de programación de los robots, hace que la figura del programador adquiera una nueva dimensión, y no es lo mismo ese programador si el uso del robot es para fines particulares, con fines comerciales e incluso si son robots y programas de inteligencia artificial usados por administraciones públicas.

Puede que el dueño del robot no sea su usuario

En este caso estamos hablando tanto de la posibilidad de arrendamiento de un robot por parte de su dueño, como la posibilidad de compartir programas de inteligencia artificial entre varios usuarios a través del cloud computing.

En definitiva el problema no es si puede considerarse persona jurídica a un robot o a un programa de inteligencia artificial, sino regular y configurar bien esa persona jurídica, y saber manejar los conceptos jurídicos clásicos, pues no cabe una normativa ad hoc para cada robot o programa de inteligencia artificial (dado que la evolución tecnológica siempre irá por delante de la jurídica).

Foto cortesía de Pexels bajo licencia Creative Commons Zero tratada con Canva