El pasado 24 de Noviembre di una charla en Fide, concretamente en el I Congreso de los aspectos legales de la robótica, donde me tocó hablar de las Responsabilidad civil y penal de los robots inteligentes. ¿Pueden cometer delitos o ser sujetos de derechos u obligaciones y/o de una personalidad jurídica especial?.
Todo arranca con la propuesta del Parlamento Europeo sobre robótica e inteligencia artificial (2015/2013), y como quiera que este post va a ser un poco ladrillo, igual es mejor que comience explicando cómo veo yo la indicada propuesta y a los autores de la misma.
Mi condición de Notario hace que mis conocimientos de derecho penal se remonten al año 1987, y poco puedo aportar sobre responsabilidad civil, pues es un tema que se aborda ante los tribunales.
La función del Notario es precisamente la de evitar que tengan que actuar los tribunales de justicia, pues es conocida la frase «notaría abierta, puerta de juzgado cerrada».
¿Qué pinta un Notario hablando de robots e inteligencia artificial?
Quizá debería de empezar explicando un poco mi trabajo, y con ello entenderéis que a los notarios eso de la persona y la capacidad nos interesa mucho; de hecho es la base de nuestro trabajo.
Es por ello que, con independencia de las utilidades concretas que para nuestro quehacer diario pueda reportar la robótica, y especialmente la inteligencia artificial; el plantearnos la personalidad y capacidad de un robot es algo que nos interesa, y mucho.
Como juristas, los notarios tenemos a la persona como eje de nuestro trabajo; el trabajo de un Notario consiste en garantizar que alguien que puede hacer algo legal, lo haga, así como dar garantías y protección a quien así actúa.
Para ello la primera premisa de todo Notario, es identificar a las partes y juzgar su capacidad, y ello se produce sean personas físicas o jurídicas.
- No es por capricho que el Notario te pida el DNI, sino para comprobar tu identidad.
- No es absurdo que te pida el original de tus poderes, pues es para comprobar si eres o no representante de otro.
- No es papeleo que el Notario te pida la escritura de la sociedad, el nombramiento como administrador, o te solicite que identifiques al titular real, pues toda sociedad tiene un representante y un responsable a efectos del blanqueo de capitales.
- No es ganas de cotillear que el Notario quiera quedarse a solas con la persona anciana que quiere hacer testamento o un poder general.
El reto del futuro es ¿también se hará eso con las personas digitales?
La respuesta es un rotundo si.
No obstante hablamos de un futuro algo lejano, por ello, permitidme que antes de adentrarnos en el futuro mundo de la inteligencia artificial y la robótica, hagamos una referencia breve al presente de la identidad digital y la identidad virtual; pues hablar de futuros sujetos digitales, desconociendo los que ya si lo son, me parece ridículo.
Varios post he escrito sobre la identidad virtual, aunque quizá baste con recordar dos retoblogs: uno específicamente dedicado a la identidad virtual, y otro al testamento digital (en el que aclaro un poco más la diferencia entre identidad digital y virtual)
La identidad digital, es la que cualquier persona tiene en el mundo digital, en general, y Internet, en particular:
- Todos tenemos una identidad digital, estemos o no en internet, y prueba de ello es que basta con «googlear» el nombre de uno, para darse cuenta de ello.
- La identidad digital es única.
- La identidad digital forma parte de los derechos de la personalidad, de hecho es parte de la cuarta generación de derechos humanos.
La identidad virtual, es la que tenemos en un aplicativo concreto.
- La identidad virtual puede o no coincidir con nuestra identidad real (mi identidad digital es Francisco Rosales, sin embargo en Twitter soy @notarioalcalá…mejor no digo como me llamo en Pokemon Go)
- A diferencia de la identidad digital, la identidad virtual puede ser de fantasía.
- Podemos tener varias identidades virtuales.
- La identidad virtual es algo a caballo entre la marca y la propiedad intelectual.
De la identidad digital fundamentalmente se ocupa el reglamento eIDAS 910/2014 al regular la firma electrónica (más esta es una simple forma de identificación y no aborda la capacidad):
No obstante faltan muchas cosas en dicha normativa, y a modo de ejemplo:
- Falta un buen desarrollo de las identidades virtuales, especialmente a la hora de proteger marcas de empresas, y a jugadores de los MMOG (que no es algo que exista gracias a pokemon go, sino que algunos hemos jugado a Doom, Quake, o Coulter Strike -os parecerá broma pero igual oyendo ese podcast de palabra de hacker empecéis a entender algunas cosas)
- No se regula la capacidad digital, ni tampoco se buscan formas de asegurar que quien usa un aplicativo informático es capaz.
- No hay una normativa sobre derechos y obligaciones digitales del ciudadano (y remarco lo de obligaciones, porque en realidad creo que nadie tiene derecho a nada, sino más bien obligaciones -así no es que alguien tenga derecho a la vida, sino que todos han de respetar la vida ajena-).
- No hay una mínima intención de regular: no las relaciones de robots y programas informáticos con los seres humanos, sino en los seres humanos, y temas como la nanotecnología y la biotecnología se dejan deliberadamente aparcados.
Tanto la identidad digital como la identidad virtual merecen protección del ordenamiento jurídico, aunque de distinta forma; pero por ahora me interesa destacar una cosa.
Siglos antes de que existiera la Ley Orgánica de Protección de datos, los notarios conocemos de lo que es el secreto del protocolo, y tenemos claro que una cosa es proteger los datos y otra proteger la privacidad.
Los notarios siempre estamos en la eterna discusión que se plantea entre la seguridad y la libertad, dicho de otra forma: de un lado tenemos secreto de protocolo, más también como funcionarios públicos tenemos un deber de colaboración con la administración.
No nos engañemos, hoy en día la privacidad no sólo se ve atacada por las empresas, sino que su principal enemigo el un estado que cada vez se asemeja más al famoso «Gran Hermano», y si no preguntaros qué sabe hacienda de vosotros (igual sabe más que el mismísimo «San Google»).
Supongo que no soy el único al que le han puesto una multa con un radar fijo, pero si analizáis el proceso:
- Una máquina comprueba vuestra velocidad y hace una foto de vuestro coche
- Esa máquina manda la foto y los datos a otra que está en León, en cuya base de datos están todas las matrículas y propietarios
- Esta máquina: primero busca el propietario, segundo pone la sanción, tercero imprime la multa con la firma escaseada del jefe de tráfico, cuarto engoma y envía a correos la carta.
- Finalmente un cartero os entrega una carta que contiene una sanción administrativa, en la que el único funcionario que ha intervenido, es ese cartero.
- Tranquilos, si no os entregan la carta, la maquinita se encarga de publicaros en el BOE, y tras ello envía la sanción al Ministerio de Economía y Hacienda.
- En dicho ministerio, automáticamente buscan tus cuentas corrientes y te embargan el importe de la multa.
Perdón creí que eso de la robótica y la inteligencia artificial es ciencia ficción de los frikies; pues si, dado que solo os he comentado lo que es un mero ejemplo de automatización de la administración pública, que por otra parte todos tenemos asumidos y nadie se ha escandalizado
Para los que busquéis una vulnerabilidad en el sistema legal os recuerdo que el artículo 13.1 de la Ley Orgánica 15/1999 de 13 de Diciembre dice:
Los ciudadanos tienen derecho a no verse sometidos a una decisión con efectos jurídicos, sobre ellos o que les afecte de manera significativa, que se base únicamente en un tratamiento de datos destinados a evaluar determinados aspectos de su personalidad.
Lo curioso es que el mundo digital es un mundo en el que la idea de territorio (que es la base del poder del estado) revienta por los aires.
Es donde tengo que recordaros, que salvo en Yemen y Corea del Norte, hay notarios en todos los países del globo terráqueo, y que están coordinados internacionalmente (así por ejemplo existe la Unión Internacional del Notariado Latino, o en Europa el Consejo de los Notariados de la Unión Europea -con proyectos tan interesante como EUfides o IBERfides-)
Mucho se habla en Internet de terceros de confianza (en realidad es una figura desconocida en el citado reglamento eIDAS, y cuya cobertura legal en España, es un obsoleto artículo 25 de la ley 34/2002) también se habla de agentes escrow, más si usamos la palabra tercero de confianza en un sentido vulgar, creo que por historia y por méritos, hace muchos siglos que ese concepto lo tiene atribuido internacionalmente el Notariado.
En una sociedad como la actual, en la que el que es increíble el poder y el control, tanto de las empresas como del sector público, la figura del Notario, que conjuga los conceptos de autoridad pública (por tanto con potestas) y profesional privado (por tanto no sujeto jerárquicamente al poder público) renace con una fuerza especial.
Esta importancia del notariado, se ve acrecentada por la intención del parlamento europeo de creación de un registro de robots, lo que a su vez plantea el problema de qué documentos acceden a dicho registro.
La experiencia Española exigiendo documento público para acceder a los Registros de la Propiedad y Mercantiles, así como el funcionamiento de estos, no debe de ser desdeñada (obviamente ello plantea la necesidad de una formación técnica de Notarios en general, y juristas en particular, más ese es otro tema).
Obviamente puede encomendarse el tema a un registro meramente administrativo, pero permitidme que me cuestione muy seriamente el tema; prueba de ello es el funcionamiento del Ministerio de Industria al controlar los prestadores de servicios de confianza, que denuncio en este post, o los registros de voluntades anticipadas, sobre los que la actuación es tan escandalosa que llevo un año elaborando un post que aún ni me he atrevido a publicar.
En sucesivos post hablaré:
- Qué es un robot y que es la inteligencia artificial, así como su normativa.
- Cabe reconocer personalidad jurídica a un robot o a la inteligencia artificial.
- La responsabilidad civil en relación a los robots y la inteligencia artificial.
- La responsabilidad penal en relación a los robots y la inteligencia artificial.
Muy buen post, pero permíteme una pequeña corrección; no es al Ministerio al que se manda la multa sino específicamente a la AEAT, la cual se encargará de recaudarla.
Y ya que has sacado el tema y como chascarrillo-dato curioso diré que muchos infractores se enteran de que les han puesto una multa cuando les llega el embargo de los órganos de recaudación a la cuenta e insistir por mi parte que eso se debe a NO mantener actualizada la dirección postal tanto en la DGT (que notificará la sanción) como en la AEAT (que notificará dos veces por carta que se te va a embargar y una tercera en el BOE).
Insisto a los lectores en que se debe informar de los cambios de dirección a la DGT y a la AEAT para evitar estos problemas y que NO VALE CON SÓLO EMPADRONARSE, HAY QUE AVISAR SEPARADAMENTE A AMBOS.
Hola, Telmo
La mejor opción, y ya que estamos en el tema digital, para cambiar domicilios es mediante el canal digital. Hace no más de 3 años, el 060.es tenía un trámite donde podías indicar cual era tu nueva dirección postal y ese trámite se replicaba a todos los organismos oficiales donde estuvieran tus datos. No sé como llego a funcionar pero lo que si es cierto que con el nuevo dominio de la administración electrónica ese trámite ha desaparecido.
De todas formas, y para el tema de las multas no hay nada como suscribirse al TESTRA (Tablón Edictal de Sanciones de Tráfico). Donde confluyen todas las policías del país, incluyendo la mayoría de los ayuntamientos, y es posible que llegue la multa a tu buzón de correo antes de que des por finalizado el viaje.
Hasta donde yo sé eso sigue funcionando aunque bajo otro nombre:
https://cambiodomicilio.redsara.es/pcd/
La pena es que no es conocido en absoluto.
Apasionante y atrevido, muy atrevido.
Como sea capaz de dar con la tecla para moldear la responsabilidad y/o capacidad de la cosa digital, le auguro como firme candidato al nobel de la humanidad del siglo XXI.
Comparto que el mix de funcionario y privado que tiene el notario le da actualmente un plus de rigor y eficiencia para cualquier control social. Personalmente, no me fío de los bancos, hoy las cajas de ahorros también son bancos, absolutamente nada y de los funcionarios, o mejor debiéramos de hablar de los para-funcionarios (contratados laborales por la puerta falsa y gracias a alguna ayudita) mucho menos. Por eso, ese mix que propone resulta interesante, pero tiene un problema que es la falta de un modelo en permanente evolución -ésto las leyes no lo dan pero si la jurisprudencia- para ir acoplando este nuevo modelo de responsabilidad digital, y que a día de hoy nadie sabe como será aunque algunos parece que están en el buen camino.
Ojala acierte.
Muchas gracias José, en realidad siempre he sostenido que más que nada hace falta entender los conceptos clásicos, y que muchas leyes modernas vienen más a enturbiar que a aclarar el tema.
Dudo que me den premio alguno, son meras reflexiones, aunque el tema es mucho más actual de lo que parece (espero el lunes que viene poder demostrártelo)
Saludos
Hola Francisco.
He descubierto tu blog hace poco y me ha parecido increíblemente interesante. Me encanta ver que un Notario se preocupa tanto por enseñar, comentar y opinar sobre cuestiones tan diversas, siendo siempre capaz de relacionarlas con el derecho civil (para mí, el tronco de la ciencia del Derecho). Soy ex-opositor a Registros (tras varios años tuve que dejarlo por diversas razones, pero la experiencia, aunque muy sufrida, me enriqueció enormemente) y mi abuelo fue tanto Notario como Registrador, por lo que tengo mucho trato con miembros de dichos cuerpos… y he de decir que da gusto encontrar a personas como tú que se preocupan por compartir sus experiencias y sabiduría, ya no solo con compañeros, sino de forma divulgativa y entretenida para que incluso los legos en Derecho aprendan y disfruten.
Durante mis años de oposición, creo que por mirar tanto por la ventana de mi buhardilla y ver las estrellas brillando en el cielo, empecé a enamorarme de la astronomía, y por extensión, de la física. El tema de la inteligencia artificial es apasionante y, muy recientemente, ha salido un artículo (en dos partes) en donde un divulgador estadounidense lo explica muy bien, poniendo especial énfasis en los peligros del desarrollo de inteligencias artificiales sin ningún límite. Recomiendo siempre su lectura a todas las personas de mi entorno que saben inglés (desconozco si entiendes bien el inglés, pero si es así, estoy seguro de que te apasionará su lectura). Como no querría que pareciese que hago publicidad de otra web en tu blog, no quiero poner el link, pero si fuese de tu interés dímelo y te lo paso (lo tengo también en pdf, por si prefirieses que te lo mandase por email); es un blog muy famoso y conocido, lo podrás comprobar.
El tema de la IA es tan importante que ya expertos y científicos de renombre ( Stephen Hawking y Elon Musk entre ellos) redactaron una carta abierta en 2015 sobre los peligros de las investigaciones sin control sobre IA. Es tan importante acotar los límites y establecer salvaguardias, que como no lo hagamos pronto puede que, sin saberlo, nos dirijamos a un futuro muy incierto antes de lo que nos pensamos.
Gracias por tu blog Francisco, es todo un placer leerlo.
Un cordial saludo.
Muchas gracias Luis.
Digamos que el Inglés y yo no nos llevamos especialmente bien ¿tienes esos artículos traducidos?.
Saludos
Me llegué a plantear traducirlos yo mismo, pero son un algo extensos y me llevaría mucho tiempo. Lo voy a intentar y, si consigo sacar fuerzas para terminarlo (tardaría un par de semanas) te lo haré saber.
Un saludo.
Muchas gracias Luis, la verdad es que un auténtico handicap que tengo.
Saludos