1. Robótica e inteligencia artificial
En el presente trabajo vamos a intentar ofrecer una panorámica general de la situación actual en que se encuentra en Europa la denominada cuarta revolución industrial, en el ámbito de la robótica e inteligencia artificial, con una especial referencia a los denominados vehículos autónomos.
En todo caso, la visión que vamos a ofrecer no tiene más pretensión que la meramente divulgativa y generalista, sin que ningún potencial lector pueda pensar que el autor sea un especialista en la materia.
Desde una perspectiva europea, con fecha de 16 de febrero de 2017, el Parlamento Europeo aprobó una Resolución (P8_TA-PROV (2017) 0051) con recomendaciones destinadas a la Comisión sobre normas de Derecho Civil sobre robótica. Resolución que se inicia con una reflexión histórico-literaria que va desde el monstruo de Frankenstein hasta el Golem de Praga, en referencia a las fantasías del ser humano sobre la posibilidad de construir máquinas inteligentes, en especial, androides con características humanas.
El Parlamento Europeo considera que nos encontramos a las puertas de una era en la que los robots, bots, androides y otras formas de inteligencia artificial, va a desencadenar una nueva revolución industrial, por lo que resulta imprescindible que el legislador pondere las consecuencias jurídicas y éticas de dicha innovación.
En consecuencia, considera necesario definir los conceptos de robot y de inteligencia artificial, así como valorar el impacto que el desarrollo de la robótica y de la inteligencia artificial van a producir en nuestro modo de vida y en las formas de trabajo. Asimismo, se espera que, a corto o medio plazo, la robótica y la inteligencia artificial traigan consigo eficiencia, ahorro y mayor seguridad, no solo en la producción y el comercio, sino también en otros ámbitos, como el transporte, la asistencia sanitaria, las operaciones de salvamento, la educación y la agricultura.
Todo apunta a que el desarrollo de máquinas inteligentes y autónomas no solo va a suponer ventajas de tipo económico, sino que van a producir efectos directos e indirectos en el conjunto de la sociedad, debiendo preverse los posibles efectos negativos que puedan afectar a la discriminación, las garantías procesales, la transparencia y la inteligibilidad de los procesos decisorios.
Resulta imprescindible ir evaluando los cambios económicos y los efectos en el empleo que vayan a ocasionar la robótica y el aprendizaje automático, ya que su progresiva implantación va a producir una transformación del mercado de trabajo, por lo que tendremos que ir reflexionando sobre el futuro de la educación, el empleo y las políticas sociales.
En tal sentido, la Unión Europea tiene que desempeñar un papel esencial a la hora de establecer principios éticos básicos que deban respetarse en el desarrollo, la programación y la utilización de robots y de la inteligencia artificial, con la finalidad de encauzar la revolución tecnológica para que esté al servicio de la humanidad.
En consecuencia, la Resolución del Parlamento Europeo incorpora una Carta sobre robótica en la que se propone un código de conducta ética para los ingenieros en robótica, un código deontológico para los comités de ética de la investigación, una licencia para los diseñadores y una licencia para los usuarios.
Dado el nivel de desarrollo que ya están alcanzando la robótica y la inteligencia artificial, se entiende que procede empezar a regular las cuestiones relativas a la responsabilidad civil. En efecto, la primera cuestión a resolver va a ser a quién se puede imputar la responsabilidad jurídica por los daños que ocasione la actuación de un robot, ya que la autonomía de un robot se puede definir como la capacidad de tomar decisiones y aplicarlas en el mundo exterior. Autonomía que es de naturaleza tecnológica y que será mayor cuanto mayor sea el grado de sofisticación con que se haya diseñado el robot para interactuar con su entorno.
De forma premonitoria, Asimov, en la novela arriba citada, en relación con el robot DV-5, protagonista de uno de sus relatos, nos narra lo siguiente: “Y sometió su mente a las más altas funciones del mundo de los robots: la solución de problemas de juicio y ética”.
Cuanto más autónomos sean los robots, menos se les podrá considerar como simples instrumentos en manos de otros agentes (fabricante, operador, propietario, usuario, etc.). Si bien, en el actual marco jurídico, los robots no pueden ser considerados responsables de los actos u omisiones que causen daños a terceros, por lo que éstos serán atribuibles a un agente humano concreto, como el fabricante, el operador, el propietario o el usuario.
El marco jurídico actual viene configurado, por un lado, por la responsabilidad por daños causados por productos defectuosos (el fabricante de un producto es responsable por su mal funcionamiento) y, por otro lado, por las normas que regulan la responsabilidad por una actuación que ocasiona daños (el usuario de un producto es responsable de los perjuicios que cause a terceros). Ahora bien, en los supuestos en que los robots puedan tomar decisiones autónomas, las normas tradicionales no bastarán para generar responsabilidad jurídica por los daños ocasionados por dichos robots, ya que no permitirán determinar la parte que ha de hacerse cargo de la indemnización, ni exigir a dicha parte que repare el daño causado.
En definitiva, los actuales sistemas de responsabilidad contractual y extracontractual, así como el marco ofrecido por la Directiva 85/374/CEE, de 25 de julio de 1985, en materia de responsabilidad por los daños causados por productos defectuosos, no bastarían para dar cobertura a los daños causados por las nuevas generaciones de robots, en la medida en que se les puede dotar de capacidades de adaptación y de aprendizaje que entrañan un cierto grado de imprevisibilidad en su comportamiento. Es decir, un robot podrá aprender de forma autónoma de sus experiencias concretas e interactuar con su entorno de un modo imprevisible y propio únicamente respecto a ese robot.
En consecuencia, se recomienda que cualquier solución jurídica elegida en materia de responsabilidad civil por los daños y perjuicios causados por robots, en casos distintos a los perjuicios patrimoniales, no debería limitar el tipo o el alcance de los daños y perjuicios que puedan ser objeto de compensación, ni limitar la naturaleza de dicha compensación, basándose, únicamente, en que los daños han sido causados por un agente no perteneciente a la especie humana.
El futuro instrumento legislativo debe basarse en una evaluación realizada por la Comisión, que defina si debe aplicarse el enfoque de la responsabilidad objetiva o el de gestión de riesgos. En todo caso, resultará conveniente establecer un régimen de seguro obligatorio, similar al existente para los automóviles, que podría basarse en la obligación para los fabricantes o propietarios de suscribir un seguro obligatorio para las categorías específicas de robots que se determine. Dicho sistema de seguro obligatorio debería complementarse con la creación de un fondo de compensación para garantizar la reparación de los daños y perjuicios causados por un robot en los supuestos en que no se haya contratado un seguro.
4. Medios de transporte autónomos
La Resolución del Parlamento Europeo que estamos analizando distingue, en este punto, dos grandes apartados:
a) Vehículos autónomos
1º.- Pone de relieve que el transporte autónomo abarca todas las formas del transporte por carretera, ferroviario, por vías navegables y aéreo pilotadas a distancia, automatizadas, conectadas y autónomas, estando incluidos los vehículos, los trenes, los buques, los transbordadores, las aeronaves y los drones, así como todas las futuras formas que resulten del desarrollo y la innovación en este sector.
2º.- Señala que el sector del automóvil es el que precisa más urgentemente de normas de la Unión y mundiales que garanticen el desarrollo transfronterizo de los vehículos autónomos y automatizados, con el fin de explotar plenamente su potencial económico y beneficiarse de los efectos positivos de las tendencias tecnológicas.
3º.- Resalta que, en el caso de una toma de control imprevista del vehículo, el tiempo de reacción del conductor tiene una importancia capital y pide a las partes interesadas que prevean valores realistas que determinen los aspectos de seguridad y responsabilidad.
4º.- En todo caso, la transición a los vehículos autónomos va a repercutir en los siguientes aspectos:
- La responsabilidad civil (responsabilidad y seguro).
- La seguridad vial.
- En el medio ambiente.
- La protección de datos.
- Las infraestructuras TIC.
- El empleo.
- Las inversiones considerables en infraestructuras viarias y energéticas.
5º.- Subraya la importancia decisiva que, para la implantación de vehículos autónomos, va a tener la fiabilidad de la información de posición y tiempo proporcionada por los programas europeos de navegación por satélite Galileo y EGNOS.
6º.- Por último, pone de relieve el gran valor añadido de los vehículos autónomos para las personas con movilidad reducida, puesto que mejoran su participación en el transporte individual por carretera, facilitándoles su vida cotidiana.
b) Drones
Se reconocen los positivos avances en la tecnología de los drones, en particular, en el ámbito de la búsqueda y el salvamento; subrayando la importancia de un marco europeo del uso de drones para preservar la seguridad y la intimidad de los ciudadanos de la Unión.
Igualmente, se solicita de la Comisión Europea que realice un especial seguimiento de las recomendaciones hechas en la Resolución del Parlamento Europeo, de 29 de octubre de 2015, sobre el uso seguro de los sistemas de aeronaves pilotadas de forma remota (RPAS), comúnmente conocidos en el ámbito de la aviación civil como vehículos aéreos no tripulados (UAV). Se presta una especial atención a los problemas de seguridad que está empezando a ocasionar el uso generalizado de los drones, así como al estudio de la necesidad de introducir un sistema obligatorio de seguimiento e identificación de los RPAS, que permita conocer en tiempo real su posición en vuelo.
Dentro de los distintos grados de automatización de un vehículo, podemos contemplar una escala que abarcaría desde el vehículo sin ninguna automatización (el conductor realiza todo el proceso de automatización) hasta el vehículo con una automatización completa (sin necesidad de la intervención de conductor alguno, puesto que el sistema de conducción automatizado realizaría la totalidad del proceso de conducción del vehículo).
El estándar internacional
SAE J3016, norma adoptada por el Departamento de Transporte de Estados Unidos, define los seis niveles de automatización o de conducción autónoma:
- Nivel 0: No hay automatización alguna en la conducción (No Automation)
- Nivel 1: Asistencia al conductor (Driver Assistance)
- Nivel 2: Automatización parcial de la conducción (Partial Automation)
- Nivel 3: Automatización condicionada de la conducción (Conditional Automation)
- Nivel 4: Automatización elevada de la conducción (High Automation)
- Nivel 5: Automatización completa de la conducción (Full Automation)
Hoy en día, estamos entrando en la fase de nivel 3, en la que todavía es necesaria la intervención del conductor -humano- (human driver), que deberá estar preparado para intervenir si el sistema del automóvil lo solicita. Estamos ante un anticipo de los niveles 4 y 5, en los que ya no será necesario el conductor, el cual será sustituido por el propio sistema del vehículo, por lo que una vez puesto en marcha y configurado el destino, el propio automóvil puede conducir de forma autónoma y tomar sus propias decisiones a lo largo del trayecto.
En la actualidad, los vehículos que se fabrican ya disponen de ayudas electrónicas a la conducción y, cada vez más, se producen vehículos plenamente conectados, es decir, vehículos dotados de conexión propia a Internet, por lo que tienen la posibilidad de recibir y transmitir datos, y las gamas altas ya disponen de funciones automatizadas y ofrecen tareas de conducción dinámicas, tales como realizar de forma autónoma maniobras de aparcamiento.
En este sentido, una marca automovilística alemana de alta gama acaba de lanzar al mercado un vehículo con la opción que denomina “conducción pilotada”, equipado con un sistema “traffic jam pilot”, es decir, un vehículo de nivel 3, que se encarga del arranque, la aceleración, la dirección y la frenada. El conductor ya no necesita supervisar constantemente lo que hace el vehículo, ya que el automóvil se encarga de la tarea de conducir; por ello, el conductor puede quitar las manos del volante y, en función de las leyes de cada país, centrarse en diferentes actividades proporcionadas por el vehículo, como ver la televisión. Es el propio sistema el que toma el control de la tarea de conducción hasta 60 km/h en autovías y autopistas, donde haya una barrera física entre los dos sentidos de circulación y detecte una situación de tráfico.
A partir de 31 de marzo 2018, todos los automóviles y furgonetas que se fabriquen en la Unión Europea deberán llevar instalado un sistema de llamada de emergencia o e-call. Es decir, llevarán una tarjeta SIM con conexión a Internet que va a permitir que transmitan y reciban información y que, en caso de accidente, enviará de forma automática un aviso a los servicios de emergencia, indicando la localización, tipo de vehículo, ocupantes y la información necesaria para la actuación de asistencia. Resulta evidente que con este sistema se podrán reducir, de forma significativa, los fallecimientos en carretera, así como atenuar la gravedad de las consecuencias dañosas para todas las víctimas de los accidentes de tráfico.
En consecuencia, podemos aventurar que la progresiva automatización de los vehículos automóviles nos llevará, finalmente, a una circulación autónoma que podrá efectuarse sin la intervención humana. Circunstancia ésta que implicará nuevos retos, con sus incertidumbres y desafíos, ventajas y nuevos riesgos. El primero de ellos será, sin duda, la convivencia entre los vehículos conducidos por el ser humano y los vehículos plenamente autónomos que no necesitarán conductor que los guíe.
Sin ánimo de ser exhaustivos, podemos concluir estas breves notas, señalando cuáles van a ser las cuestiones prioritarias que van a tener que afrontar el legislador europeo y los nacionales para la inminente llegada a la circulación viaria de los vehículos autónomos:
1º.- Puesta al día de la Convención de Viena, de 8 de noviembre de 1968, sobre la circulación vial que, en su artículo 8, dispone que todo vehículo en movimiento o todo conjunto de vehículos en movimiento, deberá tener un conductor, el cual deberá poseer las cualidades físicas y psíquicas necesarias y hallarse en estado físico y mental de conducir, debiendo tener en todo momento el dominio de su vehículo.
En nuestro ordenamiento interno, las normas fundamentales que se verían afectadas serían, por un lado, el Real Decreto Legislativo 6/2015, de 30 de octubre, por el que se aprueba el texto refundido de la Ley sobre Tráfico, Circulación de Vehículos a Motor y Seguridad Vial. En su Anexo I, se define como conductor a la persona que, contando con el necesario permiso o licencia de conducción, maneja el mecanismo de dirección o va al mando de un vehículo.
La obligación de obtener un permiso de circulación para el vehículo está establecida por el Real Decreto 750/2010, de 4 de junio, por el que se regulan los procedimientos de homologación de vehículos de motor y sus remolques, máquinas autopropulsadas o remolcadas, vehículos agrícolas, así como de sistemas, partes y piezas de dichos vehículos.
2º.- Determinar el criterio de imputación aplicable a la responsabilidad civil de los vehículos autónomos, respecto del diseñador, fabricante, importador o propietario del vehículo, sin que, en ningún caso, pueda verse afectada la acción directa frente al asegurador que los ordenamientos jurídicos vigentes reconocen a los terceros perjudicados.
3º.- Valorar la conveniencia de establecer una normativa especial en materia de responsabilidad civil y su aseguramiento o, en su caso, modificar la legislación actual para que contemple las especialidades que se derivan de la circulación de vehículos que no están siendo conducidos por una persona física. En este último caso, supondría la modificación de la Ley sobre Responsabilidad Civil y Seguro en la Circulación de Vehículos a Motor (Real Decreto Legislativo 8/2004, de 29 de octubre), en cuanto únicamente contempla la responsabilidad del conductor del vehículo a motor y como consecuencia del riesgo creado con motivo de la circulación del mismo.
4º.- En todo caso, el mantenimiento de un régimen de seguro obligatorio de responsabilidad civil, como el actualmente vigente, así como de los fondos de garantía (Consorcio de Compensación de Seguros), para las situaciones de carencia de seguro o de imposibilidad de determinar la compañía aseguradora del vehículo causante del accidente.
5º.- Desarrollo de los sistemas inteligentes de transporte (SIT), cuyo marco para su implantación se contiene en la Directiva 2010/40/UE del Parlamento Europeo y del Consejo, para el sector de transporte por carretera y para las interfaces con otros modos de transporte.
Dicha Directiva ha sido incorporada al derecho español mediante el Real Decreto 662/2012, de 13 de abril, por el que se establece el marco para la implantación de los sistemas inteligentes de transporte (SIT) en el sector del transporte por carretera y para las interfaces con otros modos de transporte. Se trata de sistemas en los que se aplican tecnologías de la información y de las comunicaciones en el ámbito del transporte por carretera, incluyendo infraestructuras, vehículos y usuarios, y en la gestión del tráfico y de la movilidad, así como para las interfaces con otros modos de transporte.
6º.- Poner de manifiesto las consecuencias que el desarrollo y generalización de los vehículos autónomos va a producir en el mundo del seguro, habida cuenta de que se va a aumentar la seguridad y, previsiblemente, va a disminuir el número de accidentes de tráfico al casi desaparecer el factor humano en la conducción de los vehículos, que es el factor más determinante en la producción de siniestros. No obstante, no cabe duda de que se van a producir accidentes que responderán a una nueva etiología en la siniestralidad, que traerá su causa en aspectos tecnológicos, comunicaciones y redes de infraestructuras. Aparecerán nuevos riesgos de naturaleza cibernética, o bien derivados de la protección de los datos personales, que van a ser obtenidos por el propio vehículo.
7º.- En todo caso, deberá garantizarse el derecho al respeto de la vida privada y a la intimidad personal, así como el derecho a la protección de los datos personales.
8º:- Como señalan las Recomendaciones del Parlamento Europeo en relación con el Código de conducta ética para los ingenieros en robótica, éstos, en la fase de diseño y desarrollo de los vehículos autónomos, también deberán respetar los siguientes principios:
- Beneficencia: Los robots deben actuar en beneficio del hombre.
- Principio de no perjuicio o maleficencia: En virtud del cual los robots no deben perjudicar a las personas (primero, no hacer daño).
- Autonomía: La capacidad de tomar una decisión con conocimiento de causa e independiente sobre los términos de interacción con los robots.
- Justicia: La distribución justa de los beneficios asociados a la robótica.
9º.- Cabe señalar que en el pasado mes de agosto, el consejo de ministros del Gobierno alemán aprobó el primer código ético para la fabricación y uso de los vehículos autónomos. Un comité de catorce expertos ha establecido las bases éticas para la regulación de responsabilidades en caso de accidentes.
En dicho informe se contienen 20 tesis para definir la línea divisoria de responsabilidad entre el hombre y la máquina y que se fundamenta en la idea o principio de que la conducción autónoma se encuentra éticamente justificada, solamente, si causa menos accidentes que la conducción humana o convencional.
Asimismo, se establece que la protección de las personas y de la vida humana se encuentra por encima de la protección de las cosas. En tal sentido, se dispone que, en las situaciones de riesgo y cuando los daños sean inevitables, el sistema de conducción automatizado debe estar programado para priorizar la seguridad de las personas por encima de los daños materiales, sin que se pueda establecer una clasificación de las posibles víctimas basada en sus características personales (edad, sexo, raza y constitución física o psíquica).
Se hace hincapié en que la responsabilidad es una característica humana no atribuible a las máquinas. En consecuencia, y para el caso de accidente, la responsabilidad se trasladará del conductor a los fabricantes y a los operadores de los sistemas técnicos y de infraestructuras.
Igualmente, se establece que los vehículos de conducción autónoma o automatizada deberán disponer de un sistema tangible y transportable de almacenamiento de los datos referidos a la conducción del vehículo, caja negra, que registre los datos de todas las operaciones efectuadas. En todo caso, se hace hincapié en que el uso por terceros de dichos datos necesitará del consentimiento del propietario o usuario del vehículo a fin de proteger su derecho a la intimidad y privacidad.
10º.- Desde otra perspectiva, el Diario Oficial de la Unión Europea ha publicado, el pasado día 31 de agosto de 2017, el Dictamen del Comité Económico y Social Europeo (CESE) sobre «Inteligencia artificial: las consecuencias de la inteligencia artificial para el mercado único (digital), la producción, el consumo, el empleo y la sociedad».
En dicho Dictamen, se contienen una serie de conclusiones y recomendaciones en relación con los avances y aplicaciones de la inteligencia artificial (IA) en todos los ámbitos de la sociedad, y que en lo que tiene que ver con el presente trabajo podemos resumir de la siguiente manera:
- El CESE defiende un enfoque de la IA basado en el control humano (human-in-command), de manera que las máquinas continúen siendo máquinas y los humanos conserven en todo momento el dominio sobre ellas.
- El CESE pide que se elabore un código deontológico para el desarrollo, despliegue y utilización de la IA, que sea compatible con los principios de la dignidad humana, la integridad, la libertad, la privacidad, la diversidad cultural y los derechos humanos fundamentales.
- El CESE aboga por el desarrollo de un sistema de normalización para la verificación, validación y control de los sistemas de IA, basado en un amplio espectro de normas en materia de seguridad, transparencia, inteligibilidad, rendición de cuentas y valores éticos.
- El CESE aboga por una infraestructura de IA europea de fuente abierta (open source), que incluya entornos de aprendizaje respetuosos con la vida privada, entornos de ensayo en condiciones reales (real life) y conjuntos de datos de alta calidad para el desarrollo y la formación de sistemas de IA.
- Finalmente, el Dictamen destaca las repercusiones de la IA sobre la legislación y la reglamentación existentes. En especial, se hace una referencia concreta a la controversia sobre la cuestión de quién es el responsable de los daños que pueda causar un sistema de inteligencia artificial, sobre todo cuando se trata de sistemas autodidactas que continúan aprendiendo después de su puesta en funcionamiento.
- En tal sentido, se hace una referencia expresa a las recomendaciones del Parlamento Europeo destinadas a la Comisión Europea sobre las normas de Derecho Civil sobre robótica que venimos analizando a lo largo del presente trabajo. En concreto, respecto a la propuesta de examinar la posibilidad de dotar a los robots de una “personalidad jurídica” (e-personality) para poder atribuirles la responsabilidad civil por los daños que causen.
- Y, en relación con dicha posibilidad, el Comité Económico y Social Europeo es tajante al afirmar que se opone a cualquier tipo de estatuto jurídico para los robots o sistemas de inteligencia artificial por el riesgo moral inaceptable que ello conlleva. Añadiendo que la legislación en materia de responsabilidad tiene un efecto correctivo y preventivo que podría desaparecer en cuanto el riesgo de responsabilidad civil dejase de recaer sobre el autor por haberse transferido a un robot o a un sistema de inteligencia artificial.
11º.- Por último y desde la perspectiva española, cabe señalar que el pasado 10 de octubre de 2017, el Pleno del Congreso de los Diputados aprobó una Proposición no de Ley sobre el impulso y desarrollo del vehículo autónomo (162/000451), mediante la cual se insta al Gobierno de la Nación a aprobar los cambios legislativos necesarios para legalizar el uso y utilización de los vehículos autónomos y fomentar la reconversión de la industria de la automoción en el sentido de favorecer la fabricación, homologación y puesta en circulación de dichos vehículos.
El Congreso de los Diputados insta al Gobierno a establecer un marco jurídico adecuado que permita:
- Promover el desarrollo del vehículo autónomo evaluando el funcionamiento de la actual legislación específica e identificando posibles mejoras en la misma, que impulsen la realización de investigación y desarrollo, así como la validación de prototipos.
- Impulsar el desarrollo del sector del automóvil, así como el ecosistema de empresas y PYMEs altamente innovadoras asociadas al sector del automóvil y a la creación de empleo de calidad, todo ello complementado con programas de I+D+i para el sector.
- Desarrollar medidas que fortalezcan la competitividad industrial del automóvil en nuestro país, facilitando su transición hacia las necesidades del vehículo autónomo, fomentando la especialización y cualificación del empleo asociado a las nuevas necesidades tecnológicas de esta nueva industria.
- Fomentar acciones que permitan la consolidación de España como referente mundial para las pruebas del vehículo autónomo conectado, asistido y semiautónomo y en todos sus niveles. Evaluando también el impacto social y medioambiental del desarrollo de esta industria
En la exposición de motivos se define el vehículo autónomo como un automóvil robótico, sin conductor, que se adapta a las circunstancias de la vía (límites de velocidad, peatones, obstáculos, condiciones climatológicas, etc.).
En el debate parlamentario se puso de manifiesto que, antes de que termine la presente legislatura, la Dirección General de Tráfico tendrá que elaborar un nuevo plan estratégico del vehículo del siglo XXI para que la llegada del coche autónomo a las carreteras españolas, así como del coche conectado, sea una realidad. En todo caso, se destaca que en un futuro más cercano, lo que se va a producir será el asentamiento del nivel 3 de automatización que se corresponde con vehículos capaces de circular de forma autónoma, pero todavía bajo la supervisión de un conductor.
Se concluye que los principales impedimentos que nos iremos encontrando para la plena implantación de los vehículos autónomos no son las limitaciones tecnológicas, sino los factores sociopolíticos, jurídicos, de regulación, de infraestructura y de compromiso que deben emprenderse.
