es-ES

Ciencias de la computación

Guretruck dispone de su propio departamento dedicado al desarrollo de análisis formal y homologación de procesos de software en el campo de las matemáticas y la ciencia computacional. Nuestro equipo está compuesto de renombrados ingenieros informáticos, físicos teóricos y matemáticos lógicos.

Nuestros resultados sugieren que es imposible homologar o verificar software acorde con la regulación de la UE 561/2006. Es más, sospechamos que el software interno utilizado por el tacografo según la Regulación de la UE 3821/1985 es más problemático de verificar que la propia Regulación 561.

En estos momento nuestro equipo trabaja en la construcción de la Máquina – G que esperamos sea una herramienta innovadora y rompedora de análisis formal de leyes capaz de revolucionar el panorama de la industria actual.

Durante 2016 proyectamos lanzar nuestra primera versión de Police Controller, creada según la Máquina G. Esta versión sólo será posible certificarla para la Regulación 561 G-version. Es imposible certificarla para la Regulación 3821 porque la G-versión no depende de nosotros sino de los fabricantes de tacógrafos.

HAL: SE QUE TU Y FRANK ESTABAN PLANEANDO DESCONECTARME, Y TEMO QUE ESO ES ALGO QUE NO PUEDO PERMITIR QUE SUCEDA.

¿SUEÑAN LOS TACÓGRAFOS CON CAMIONES ELÉCTRICOS?

Que los programas informáticos estén dotados de inteligencia artificial es un tema que ha apasionado al ser humano desde hace décadas. ¿Por qué es este tema tan apasionante para el ser humano? Básicamente por la posibilidad de que un programa dotado de inteligencia artificial se convierta en autónomo y empiece a no obedecer a su creador: la inteligencia humana.

Esta posibilidad, y sus más dramáticas consecuencias, han sido ampliamente desarrolladas por los mejores cineastas en las mejores películas que se conocen de ciencia ficción.

En 1968 Stanley Kubrick, en su monumental “2001 Odisea en el Espacio”, describe el computador- programa Hal 9000. Este no tiene apariencia humana y se encarga de controlar toda la nave Discovery1 en su viaje a Júpiter. La comunicación y las órdenes entre Hal 9000 y la tripulación son por voz y ello permite que se produzcan largos diálogos. El problema surge cuando Hal 9000 descubre que le quieren apagar, entonces empieza a asesinar a todos los miembros de la tripulación.

En la película de Ridley Scott, Blade Runner (1984), los replicantes tipo Nexus 6 con apariencia totalmente humana, descubren que son máquinas y que su memoria de juventud es simplemente software. Descubren que están diseñados para vivir muy pocos años, y no dudan en matar a su diseñador para intentar conseguir que vivan más.

Finalmente en la película “Ex Machina” (Alex Garland 2015), la compañía Bluebook crea una androide de apariencia humana llamada Ava, en la que la inteligencia artificial se basa en motores de búsqueda de internet. La película se basa en el Test de Turing*, en el cual la inteligencia humana intenta descubrir si el que está enfrente es humano o androide. Al final el largo dialogo e interacción acaba con Ava escapándose de su prisión y matando a su creador y testeador.

¿Y SI ESTA VISIÓN TAN APOCALÍPTICA NO FUERA EL FUTURO? ¿Y SI ESTO ESTUVIERA OCURRIENDO YA?

Tenemos ya pruebas que cuando los conductores son multados con decenas de miles de euros en carretera o en inspecciones en empresas por la Policía, cuando se les retira el carnet de conducir durante años, en muchísimos casos, quizá en la mayoría, la Policía no tiene el control. El control está en manos de los programas informáticos de análisis del R (CE) 561/06 y R (UE) 165/2014. Esto lo tenemos documentado, palabra por palabra, en al menos un documento emitido por la policía austriaca, en la que reconocen explícitamente no tienen el control.

*(Alan Turing 1912-1954, creador del primer modelo de computación con su “máquina de Turing”)

Por tanto, si el control está en manos de los programas y no de la Policía, ¿Qué pasaría si estos programas se revelaran contra su creador y se dotaran de autonomía para multar a conductores sin ningún control de las autoridades y sin cumplir la ley? Como Hal 9000 pero en carretera en 2016. Es posible que esto ya esté sucediendo y las consecuencias son devastadoras para los conductores y las empresas de transporte.

El 12/03/2016 detectamos en Champigneulles (Francia), como 2 camiones de una empresa eran multados con 33.675 € en total porque el programa OCTET (programa de control utilizado por las autoridades francesas) interpretaba que la disponibilidad en equipo no interrumpía la conducción continua. Estábamos convencidos que fue una versión nueva del OCTET programada especialmente para realizar esto, pero que ningún otro país de Europa lo aceptaba. Posteriormente hemos controlado más de 200.000 € en multas por esta misma razón.

Finalmente el 26/04/2016 y viendo el cariz que tomaban los acontecimientos la Comisión Europea, a través de la Directorade Generale Move, convocó una reunión para analizar el caso. En esa reunión y ante un selecto auditorio, el representante francés indicó que “Francia no había cambiado la interpretación de la conducción continua” y achacó las multas a agentes solitarios.

Si esto es verdad, y no tenemos razones para ponerlo en duda, significaría que el OCTET ha tomado el control del sistema. Que las multas no se imponen según la Ley ni según la interpretación de Francia, las impone OCTET porque ha tomado el control del sistema y empieza a “matar” por su cuenta. Lo que no hay duda es que el comportamiento de OCTET es así, lo tenemos ampliamente documentado y disponible para la autoridad que desee verlo. Y esto puede estar sucediendo, mas disimuladamente, en todos los países de Europa que controlan el R (CE) 561/2006. Puede no, sabemos que está pasando en toda Europa. Tenemos pruebas.

Pero lo que no nos contaron ni Stanley Kubrick en “2001 Odisea en el Espacio”, ni Ridley Scott en “Blade Runner”, ni Alex Garlan en “Ex Machina”, es que la inteligencia artificial puede ser controlada teóricamente. Sí se puede. Mediante la teoría llamada Verificación formal del software. Teóricamente sería posible controlar con esta técnica el software de inteligencia artificial, pero matemáticamente es tan complejo que por ahora no todo es posible.

Pero para nuestro caso, para el software de control de R (CE) 561/06 y R (UE) 165/2014 (nos referimos al software que controla el funcionamiento del tacógrafo) existe ya un modelo matemático formalmente verificable, que impediría a ningún programa o ingeniero “brillante” realizar lo que quisiera. La Comisión Europea lo sabe, y significaría una pequeña revolución tecnológica.

Ahora piensa en tu camión, que le has llamado Discovery 1, y lo pones rumbo a descargar a la fábrica Júpiter. El camión está dotado del tacógrafo marca Hall, y la versión del software es el 9000. En el camino, el tacógrafo te empieza a hablar dulcemente diciéndote que te vas a exceder del tiempo de conducción continua y que te detengas. Tú sabes que es mentira, pero ¿Vas a obedecerle a Hall - 9000? ¿Vas a contradecirle al que dirige tu viaje a Júpiter?

Y cuando Hal -9000 te empieza a decir que no has descargado la tarjeta de conductor en los últimos 30 días y que lo deberías realizar, ¿Qué vas a hacer con

¿Y cuando te indica que has viajado al futuro, al km 16.777.777 y fecha 07/02/2106, 06:28.15?

Es decisión de la UE defender a sus ciudadanos o no ante las máquinas.

Guillermo Errezil

Físico Teórico