En el post anterior ya os explicaba que eso de la robótica y la inteligencia artificial, es algo que nos interesa mucho a los Notarios, sin embargo, muchas son las dudas que se plantean, de modo que en este y otros post intentaré resolverlos.
Lo primero antes que estudiar una ley (y máxime dado que en realidad no hay leyes, sino proyectos de ley -como veremos-) es saber de que hablamos, por lo que os explicaré un poco de que va el tema, que por otra parte nada tiene de nuevo.
¿Qué es un robot?
No creo sorprenderos si os digo que nada nuevo, pues ya los Persas hicieron el primer robot, y en la edad media fueron relativamente populares entre las clases pudientes los autómatas.
La palabra robot se debe al checo Karel Čapek que en 1921 usa la palabra checha robota, que significa trabajo forzado o esclavitud.
Lo curioso es que ahora cuando se plantea reconocer personalidad de los robots, parece que desconocemos que la palabra persona viene del latín «personare» y se refiere a la máscara que usaban los actores teatrales.
La conclusión es que ya etimológicamente se comprueba que una cosa es un sujeto (que es lo que importa al ordenamiento) y otra qué es un ser humano (sin embargo este tema lo abordaremos en el próximo post)
Por ahora, podemos hacer dos afirmaciones:
- Un robot tiene un soporte físico.
- Es la revolución industrial la que hace que los robots dejen de tener una utilidad lúdica para tener una gran utilidad económica, y un especial impacto social (especialmente en el empleo, más actualmente la robótica está afectando y afectará a muchos más órdenes, incluidos: la sanidad, la seguridad pública, transportes, u ocio)
Curioso es que pese a que más o menos socialmente no hay dudas sobre qué es un robot, jurídicamente no existen normas sobre la materia (luego incidiremos en la legislación)
Javier Antonio Nisa Ávila habla de robots, y distingue cuatro niveles:
– NIVEL 1: Sistemas inteligentes programados.- Tanto en Japón como en la UE, son máquinas que llevan integrados sistemas robóticos que ayudan a sus operadores o dueños a realizar tareas automatizadas, pero que no son en sí mismo robots por resultar nada más que un pequeño sistema robótico integrado dentro de otro no robótico donde predomina este último. (P.ej: Coches autónomos).
– NIVEL 2: Robots no autónomo.- En Corea del Sur, son aquellos que en su totalidad a nivel de construcción industrial son robots y se dedican a realizar tareas programadas simples sin necesidad de asistencia humana, y que con mayor o menor medida son capaces de tomar decisiones mecánicas vinculadas exclusivamente a su tarea ante imprevistos o situaciones de contingencia. (P.ej: robótica sanitaria, asistencia en el hogar, limpieza automática en el hogar…)
– NIVEL 3: Robots autónomos.- Tanto en Japón como en Corea del Sur, son aquellos que tienen capacidad de desarrollar tareas encomendadas complejas, listando las mismas, priorizando y tomando o creando sus propias decisiones con libertad dentro de su ámbito de trabajo, en base a unos objetivos encomendados sin necesidad de asistencia humana, con suficiente autonomía para que en base a una orden dada por un operador humano realizar las tareas según lo considere más adecuado o efectivo para el cumplimiento de dicho objetivo, y teniendo siempre como base última la protección de productos o maquinarias y de usuarios o humanos como primer objetivo subyacente. (P.ej: Sistemas de diseño industrial autónomo, de navegación aéreo automatizado, ferroviario…)
– NIVEL 4: Inteligencia Artificial.- Es el último nivel y el mayor dentro de la evolución en robótica donde, tanto en Japón como en Corea del Sur, son aquellos sistemas mecánicos que perciben el ambiente externo por sí mismo sin necesidad de órdenes preprogramadas externas, con capacidad para discernir diferentes circunstancias que acontezcan a su alrededor y con capacidad para moverse de forma voluntaria. Asimismo los sistemas de inteligencia artificial deben de obedecer tanto órdenes de otros sistemas de inteligencia artificial como las humanas que interaccionan con él.
¿Qué es la inteligencia artificial?
Supongo que todos pensáis en los americanos, y efectivamente como señala mi compañero Javier González Granado:
El término Inteligencia Artificial fue acuñado en 1956 por John McCarthy quien la definió como “la ciencia e ingenio de hacer máquinas inteligentes especialmente programas de cómputo inteligentes”, pero su origen se remonta muchos siglos atrás; Ramón Llull en su Ars Magna en 1275 sentó las bases teóricas de un artefacto que mediante palancas y ruedas combinaba palabras, construcciones gramaticales y teorías científicas para llegar a conclusiones verdaderas o falsas.
Siguiendo a mi compañero y amigo Javier González Granado: por inteligencia artificial podemos entender un programa o sistema operativo (sea diseñado por el hombre o por otro programa informático), que es capaz de resolver problemas de modo similar a como resolvería el mismo problema la mente humana.
El mismo distingue dos tipos de inteligencias artificiales:
- Inteligencia artificial débil.- Que resuelve problemas de forma similar a la mente humana (no puedo olvidarme de las famosas calculadoras Casio que tantos dolores de cabeza daban a mi profesor de matemáticas -en el fondo los ordenadores actuales no son sino lo mismo, pero más evolucionado-).
- Inteligencia artificial fuerte.- Que emula totalmente la mente humana, y por tanto no sólo resuelve problemas, sino que tiene autoconsciencia, sentimientos y creatividad.
¿Qué es la inteligencia?
Desde que deep blue ganó al ajedrez a Kasparov en 1997 empezaron los problemas.
En el fondo no nos engañemos, no hablamos de inteligencia, pues el ajedrez es un juego con un número amplísimo, pero limitado de movimientos, y ganar al ajedrez es relativamente sencillo para una máquina, pues es un mero cálculo de probabilidades y estadísticas.
En el fondo es imposible que una mente humana tenga una capacidad y velocidad de computación como la de un ordenador, por lo que es casi imposible ganar al ajedrez a una máquina bien diseñada.
Pero hablamos de algo más que mero cómputo ,estadística y cálculo de posibilidades, y el tema se complica mucho más con dos juegos:
- Uno es el famoso programa de televisión estadounidense Jeopardy, en el que no sólo hay que hacer un cálculo de probabilidades, sino entender el lenguaje humano, el resultado es que el programa Watson de IBM, ha ganado a los campeones de dicho juego.
- Otro es el Go (muy poco extendido en el mundo occidental) en este juego es necesario entender conceptos como: libertad, equilibrio, intercambio, vida y muerte. El resultado es que el programa Alpha Go de Google, también ha ganado al campeón mundial de este juego.
Nuevamente nos engañamos, el problema no es que una máquina gane en un juego al ser humano, el problema es que disfrute ganando o sufra perdiendo; y especialmente cómo sufrirá o disfrutará, y si lo harán de la misma manera (pues conocido es el refrán que dice «En la mesa y en el juego se demuestra el caballero»).
Howard Gardner distingue ocho tipos de inteligencia y usa el término cognición (curiosamente IBM no llama a su programa Watson como un programa de inteligencia artificial, sino como un programa cognitivo):
- Inteligencia lógica.- Radica en el hemisferio derecho del cerebro y es la capacidad de resolver problemas de lógica y matemáticas.
- Inteligencia linguística.- Usa ambos hemisferios y consiste en la habilidad para emplear las palabras de manera oral o escrita de manera efectiva.
- Inteligencia corporal.- Utiliza todo el cuerpo para expresar ideas y sentimientos.
- Inteligencia musical.- Percibe, transforma y define la música y sus formas (aunque personalmente creo que habría que definirla como inteligencia artística, y abarcaría a otras bellas artes)
- Inteligencia espacial.- Posibilita para percibir imágenes externas, internas, transformarlas o modificarlas, y producir o decodificar información gráfica (incluye a la pintura, más sólo la pintura realista y de ahí la matización que antes he hecho)
- Inteligencia naturalista.- Es la capacidad de diferenciar, clasificar, y emplear el medio ambiente.
- Inteligencia interpersonal.- Permite empatizar y entender a los demás.
- Inteligencia intrapersonal.- Es la capacidad de construir una valoración exacta sobre uno mismo, y dirigir tu propia vida. Incluye la reflexión, la autocomprensión y la autoestima.
A mi juicio la clasificación es insuficiente, pues falta un elemento que es la creatividad, esto es la capacidad de hacer algo nuevo, y prueba de ello es que yo mismo he criticado la clasificación que hace todo un experto en el tema.
Sea como fuere lo que mi compañero Javier González Granado califica como inteligencia artificial fuerte, es aquello que hemos definido como inteligencia intrapersonal, y todas las demás manifestaciones son ejemplos de inteligencia artificial débil.
Lo que si creo, es que, la inteligencia intrapersonal, esto es, la capacidad de tener sentimientos y autoconsciencia, obliga a realizar nuevas categorías, y sinceramente sólo he podido encontrar información acudidendo a la doctrina de la Iglesia Católica, la cual hace tiempo habla y estudia:
- Las potencias del alma (memoria, entendimiento y voluntad)
- Los dones del Espíritu Santo (sabiduría, entendimiento, consejo, fortaleza, ciencia, piedad y temor de Dios)
- Los frutos del Espíritu Santo (caridad, gozo espiritual, paz, paciencia, benignidad, bondad, longanimidad, mansedumbre, fe, modestia, continencia y caridad)
Evidentemente está claro que el mundo digital está generando una revolución similar a la que generó la ilustración y la revolución industrial, y nuevamente se plantea un más que interesante debate entre ciencia, moral y religión, sobre el que no estoy cualificado para entrar (mas no dudéis que hay que hacerlo -como veremos-).
Lo que si que parece claro es que el estado actual de la técnica y de la investigación sólo alcanza a la inteligencia artificical débil, y que hablar de inteligencia artificial fuerte actualmente es ciencia ficción.
No nos engañemos, pues en la práctica distinguir una de otra a simple vista, no es nada fácil.
Empecemos por porner un ejemplo sencillo: cada vez que veo a alguien comprar tabaco en una máquina y esta le dice «su tabaco, gracias» siempre les oigo responder «de nada» (y eso que son plenamente conscientes de que la máquina no oye).
Mejor no hablemos de las preguntas que se hacen a Siri o a Cortana, o de las respuestas, que dan en algunas ocasiones .
Igual películas como Her o Exmachina, os han provocado alguna inquietud; sin embargo no se si aún no sabéis:
- Que se calcula que en el año 2050 la prostitución desaparecerá, pues se verá sustituida por robots sexuales.
- Si eso os parece ciencia ficción, igual deberíais saber que hay empresas que hacen juguetes sexuales y que ya hoy en día usan el big data (¿os acordáis de lo que os comentaba en el post anterior sobre la privacidad?)
- Que el programa de inteligencia artificial Watson de IBM es usado ya en un hospital, y que gracias al mismo se han multiplicado por diez los posibles tratamientos contra el cancer.
- Que los coches inteligentes están ahí: y de hecho han salvado vidas, pero también plantean interesantes problemas éticos.
En todo caso, el problema no es dónde puede llegar la tecnología sino:
- ¿Qué datos usa esa tecnología? pues son nuestros propios datos, por lo que lo que os comentaba en el post anterior sobre privacidad, y la necesidad de un notario, como funcionario público independiente del estado, que se encargue de proteger esa privacidad, a mi juicio es una necesidad que cada vez veo más perentoria.
- ¿Hay que someter a la tecnología a normas jurídicas? ¿quién se encarga de velar por el cumplimiento de dichas normas? nuevamente el problema es la globalización, así como que en el mundo digital el poder del estado se diluye, y es aquí donde nuevamente el Notariado surge como una institución reconocida internacionalmente y que cumple una función de seguridad preventiva.
Quizá en un futuro lejano haya que dictar normas que regulen que derechos tienen los humanos frente a los robots inteligentes.
Probablemente en ese futuro, el problema es si la norma la dictará un robot o un ser humano.
No obstante, actualmente el centro del problema esta en determinar hasta que punto un ser humano o una institución pueden servirse de la robótica, de la inteligencia artificial y del big data, en relación a otro ser humano.
Dicho de otra manera, no es un problema que haya ordenadores que conozcan nuestros datos, o que afecten en mayor o menor medida a nuestra vida cotidiana; el problema es el uso que otra persona haga de ellos.
En este sentido el proyecto del informe de la Unión Europea sobre robótica e inteligencia artificial dispone:
El derecho a la intimidad debe siempre respetarse. Un ingeniero en robótica debe garantizar que la información privada se conservará en total seguridad y solo se utilizará de forma adecuada. Por otra parte, el ingeniero en robótica ha de garantizar que los individuosno son personalmente identificables, salvo en circunstancias excepcionales, y únicamente en caso de consentimiento claro, consciente e inequívoco. El consentimiento consciente de la persona tiene que solicitarse y recabarse con anterioridad a cualquier interacción hombre máquina. A tal efecto, los diseñadores en robótica tienen la responsabilidad de desarrollar y aplicar procedimientos para garantizar el consentimiento válido, la confidencialidad, el anonimato, el trato justo y el respecto de la legalidad. Los diseñadores llevarán a cabo todas las solicitudes de destrucción de los datos relacionados y de eliminación de las bases de datos.
¿Cabe mezclar robótica e inteligencia artificial?
Pese a que anteriormente hemos hablado de un cuarto nivel de robótica, en el que el robot tiene inteligencia artificial, sinceramente creo que caben dos posibilidades:
- Robots con inteligencia artificial.
- Inteligencia Artificial sin robots.
¿Qué normativa hay sobre robots e inteligencia artificial?
No puedo evitar acordarme de los comienzos de Telecinco, cuando todo eran «Mamachichos» y Chinos Cudeiros (bueno, la verdad es que tampoco es que haya evolucionado mucho la materia).
¿Por qué? pues por sólo Japón y Corea del Sur tienen normativa (no esperéis que sepa coreano o japonés) y Taiwan unas bases para una normativa.
¿Y qué tienen que ver las Mamachichos? pues que ahora tenemos una «cuasinormativa» europea, concretamente la propuesta del Parlamento Europeo sobre robótica e inteligencia artificial, sinceramente que un parlamento haga una propuesta de norma y no una norma es cómo si un medio de comunicación en vez de formar e informar, se dedica a otra cosa (por cierto no se que tienen que ver las «Mamachichos» o Sálvame, con quien se autodenomina medio de comunicación)
Por ahora baste con indicar dos apuntes sobre la normativa europea:
- Huelga decir que un notario hablando de robótica puede sonar friki, pero las constantes referencias de la normativa europea a Isaac Asimov es prueba palpable de que yo fumo Ducados, y los parlamentarios europeos otro tipo de hierbas (si lo tenéis alguna duda igual este enlace os las aclara -por no decir que los usos militares de la robótica son bastante antiguos-).
- No deja de sorprender que en plena crisis de refugiados, que son personas físicas reales, y seres humanos de verdad, el parlamento europeo tenga la genial ocurrencia de plantearse la personalidad de los robots.
- Su orientación es eminentemente económica, centrada en la robótica y la inteligencia artificial, sin que se aborde en profundidad la medida en la que la tecnología afecta al ser humano (como veremos al final).
- Abordar la robótica antes que la identidad digital y la identidad virtual es un disparate.
- También es desquiciado abordar el concepto de persona digital, sin aclarar previamente qué es el dominio digital
Bromas de mejor o pero gusto a un lado, el proyecto amén de muchas palabras simplemente se plantea tres cuestiones, y abre una puerta:
- Se plantea la necesidad de un registro de robots.
- Se plantea la necesidad de un sistema de responsabilidad objetiva por daños (tampoco nada novedoso) y un sistema de seguros obligatorios.
- Se plantea la incidencia de la robótica en el mercado laboral, y la conveniencia de fijar un régimen de cotización a Seguridad Social, por los dueños de los robots.
- Finalmente y sólo como apunte, se plantea si junto a la tradicional distinción de personas, animales y cosas, habría que plantear la posibilidad de admitir la persona digital (cuestión que trataré en el próximo post).
No obstante y por ahora me gustaría quedarme con Taiwan, donde antes de dictar normas han decidido desarrollar una actividad de investigación en tres niveles, tal y cono nos informa Javier Antonio Nisa Ávila:
Primer nivel: Investigación y desarrollo legal básico completo en materia de robótica en los cuatro campos de la robótica que veremos (sistemas inteligentes programados, robots no autónomos, robots autónomos, e inteligencia artificial).
Segundo nivel: Investigación y desarrollo legal en materia de tecnología legal e ingeniería.
Tercer nivel: Investigación y desarrollo de campos técnicos en ingeniería vinculados a la interpretación técnica de tecnología legal (los que no deja de recordarme el libro de Lawrence Lessig -El Código 2.0- o más modestamente el post de este blog en el que me planteo si el código fuente es fuente del derecho).
¿Y qué normativa se aplica a los robots y la inteligencia artificial en España?
Hemos visto que no es lo mismo el robot que la inteligencia artificial, pues el primero tiene un soporte físico, y el segundo se basa en bytes y son meros programas informáticos.
En ambos casos, si creo que estamos hablando de lo que en otro post definí como dominio digital, está claro que son objetos, más la normativa es dispersa, y técnicamente muy especial (si bien creo que el Código Civil, tiene más que decir de lo que parece sobre la materia)
- Ley de patentes y marcas
- Ley de propiedad intelectual
- Ley Orgánica de protección de datos
- Ley de defensa de consumidores y usuarios
Sin embargo me parece claramente insuficiente esta normativa para resolver los problemas y retos que plantea la robótica y la inteligencia artificial, y aunque aplicables a esta materia, para nada están pensadas para la misma.
Un ejemplo es que en la inteligencia artificial, además del sofware, es necesario «enseñar» al ordenador, por lo que se plantea el problema de determinar las responsablidades civiles y penales (cosa que abordaré en otros post)
Pero sobre todo, se genera un conflicto entre el dueño del sofware, y el usuario del programa; o entre el fabricante y el dueño del robot.
Empecemos por un ejemplo sencillo que igual podéis entender.
Todos habéis visto las máquinas detectoras de metales, y creo que a nadie se le ocurriría discutir que lo encontrado es del dueño de la máquina, y no del fabricante.
Sin embargo, estáis en un error, pues el Código Civil regula:
- La ocupación de cosas perdidas o encontradas y el tesoro oculto en los artículos 610 y siguientes.
- La accesión de bienes muebles en los artículos 375 y siguientes.
Ahora preguntemos qué sucede si gracias a un sofware de inteligencia artificial, se consigue un beneficio ¿quién es el dueño de dicho beneficio? ¿el dueño del sofware o el usuario? (recordemos que en sofware, al ser propiedad intelectual, el usuario es mero licenciatario, y el programador es dueño, y que en realidad las licencias de software se asemejan más de lo que imagináis a una enfiteusis -pero sin derecho a la redención-)
No podemos deconocer que mucho ha cambiado el concepto clásico del dominio, como un derecho absoluto, que incluso permite abusar y destruir, y actualmente pocos paises no reconocen lo que el artículo 33 de la constitución denomina función social de la propiedad.
Esta función social de la propiedad en el ámbito de la robótica y de la inteligencia artificial, sin duda obliga a nuevos planteamientos, pues no puede ser absoluta la protección de los códigos fuente, y en este sentido ya la propuesta del parlamento europeo marca que:
El acceso al código fuente debería estar disponible cuando fuera necesario para investigar tanto los acciden tes como los daños causados por «robots inteligentes
Es necesario abordar de una vez, y muy seriamente, el tema de la obsolescencia tecnológica programada, especialmente en robots médicos y asistenciales.
En realidad, una buena interpretación jurídica de las servidumbres legales de los artículos 549 y siguientes del Código Civil sería suficiente para resolver muchos problemas (no todos), aunque las servidumbres legales son de interpretación restrictiva, y dicha normativa es eminentemente inmobiliaria.
¿Es la robótica e inteligencia artificial el verdadero reto?
Pues no, la tecnología va mucho más allá de lo que es la robótica y la inteligencia artificial, y afecta a otros sectores (ya hemos hablado de la inteligencia artificial y la medicina) sin embargo hay otros campos:
- Ingeniería genética.
- Eugenesia embrionaria y prenatal.
- Nanotecnología.
- Biotecnología.
- Famacología.
Desconocer la corriente transhumanista, es desconocer retos que en ocasiones son futuro, pero en otras muchas ocasiones un presente rabioso (prueba de ello es el tema de los vientres de alquiler que se ha abordado en este blog).
Actualmente en las impresoras 3D la palabra tinta es muy relativa, y no abarca lo que conocemos como tinta tradicional, sino que se refiere al material usado para imprimir, y que puede ser desde cemento, hasta plásticos, pasando por comida.
La realidad de usar impresoras 3D para crear órganos humanos ya existe (por ahora los mayores avances se están realizando en válvulas, articulaciones y piel) lo cual plantea más que interesante problemas jurídicos en relación a la propiedad intelectual, industrial, garantías, u obsolescencia tecnológica programada.
Lo cierto es que recordando la famosa película Blade Runner, igual el problema futuro no sea la angustia vital del replicante, sino la angustia vital de la persona convertida en replicante; y en este sentido ya hay quien estudia y propone la posibilidad de cargar la mente humana en un ordenador (obviamente por ahora es ciencia ficción).
Os sonará a frikie, pero lo cierto es que esta persona con la tenología ha superado un problema visual:
Nuestro mayores nos decían eso de: «no es posible poner puertas al campo», pero a pesar del dicho cada día es más normal toparnos con vallas que cortan los caminos que han existido durante décadas en esas maravillosas tierras y montes de este país, incluso con alambre de espino. El responsable de ello es siempre el propietario de la finca, aunque la colocación haya sido hecha por una empresa subcontratada por él.
Hoy se ha publicado un artículo sobre los riesgos de la información por la maravillosa tecnología
http://www.infolibre.es/noticias/mundo/2016/12/13/la_entrega_lobby_las_empresas_seguridad_entre_ellas_espanola_indra_58577_1022.html, aunque el artículo en sí va de otra cosa.
Donde quiero hacer valer lo importante de saber a priori quién es el responsable del incorrecto funcionamiento de estas máquinas. Estos sistemas se programan inicialmente pero luego evolucionan con nuevas mejoras o simple corrección de errores, y tiene que seguir habiendo un responsable.
Es cierto que el miedo nos está atenazando y está permitiendo, cuando no exigiendo, que se incorporen sistemas de control -los casos de Ceuta y Melilla hay que vivir allí para entenderlo, porque desde el Norte se ven las cosas de otro color-. Vuelvo al inicio, estos autómatas tendrán que cumplir su función pero el control y la responsabilidad de sus decisiones tienen que ser de algún humano porque sino la perversidad humana, auspiciada por la máquina, puede ser aún peor.