Por tanto, si el control está en manos de los programas
y no de la Policía, ¿Qué pasaría si estos programas
se revelaran contra su creador y se dotaran de
autonomía para multar a conductores sin ningún
control de las autoridades y sin cumplir la ley? Como
Hal 9000 pero en carretera en 2016.
Es posible que esto ya esté sucediendo y las consecuencias
son devastadoras para los conductores y las
empresas de transporte.
El 12/03/2016 detectamos en Champigneulles (Francia),
como 2 camiones de una empresa eran multados
con 33.675 € en total porque el programa OCTET
(programa de control utilizado por las autoridades
francesas) interpretaba que la disponibilidad en
equipo no interrumpía la conducción continua.
Estábamos convencidos que fue una versión nueva
del OCTET programada especialmente para realizar
esto, pero que ningún otro país de Europa lo
aceptaba. Posteriormente hemos controlado más de
200.000 € en multas por esta misma razón.
Finalmente el 26/04/2016 y viendo el cariz que tomaban
los acontecimientos la Comisión Europea, a
través de la Directorade Generale Move, convocó
una reunión para analizar el caso. En esa reunión y
ante un selecto auditorio, el representante francés indicó
que “Francia no había cambiado la interpretación
de la conducción continua” y achacó las multas
a agentes solitarios.
Si esto es verdad, y no tenemos razones para ponerlo
en duda, significaría que el OCTET ha tomado el
control del sistema. Que las multas no se imponen
según la Ley ni según la interpretación de Francia,
las impone OCTET porque ha tomado el control del
sistema y empieza a “matar” por su cuenta.
Lo que no hay duda es que el comportamiento de
OCTET es así, lo tenemos ampliamente documentado
y disponible para la autoridad que desee verlo.
Y esto puede estar sucediendo, mas disimuladamente,
en todos los países de Europa que controlan el R
(CE) 561/2006. Puede no, sabemos que está pasando
en toda Europa. Tenemos pruebas.
Pero lo que no nos contaron ni Stanley Kubrick en
“2001 Odisea en el Espacio”, ni Ridley Scott en “Blade
Runner”, ni Alex Garlan en “Ex Machina”, es que
la inteligencia artificial puede ser controlada teóricamente.
Sí se puede. Mediante la teoría llamada
Verificación formal del software. Teóricamente sería
posible controlar con esta técnica el software de inteligencia
artificial, pero matemáticamente es tan
complejo que por ahora no todo es posible.
Pero para nuestro caso, para el software de control
de R (CE) 561/06 y R (UE) 165/2014 (nos referimos al
software que controla el funcionamiento del tacógrafo)
existe ya un modelo matemático formalmente
verificable, que impediría a ningún programa o
ingeniero “brillante” realizar lo que quisiera. La Comisión
Europea lo sabe, y significaría una pequeña
revolución tecnológica.
Ahora piensa en tu camión, que le has llamado Discovery
1, y lo pones rumbo a descargar a la fábrica
Júpiter. El camión está dotado del tacógrafo marca
Hall, y la versión del software es el 9000. En el camino,
el tacógrafo te empieza a hablar dulcemente
diciéndote que te vas a exceder del tiempo de conducción
continua y que te detengas. Tú sabes que es
mentira, pero ¿Vas a obedecerle a Hall - 9000? ¿Vas
a contradecirle al que dirige tu viaje a Júpiter?
Y cuando Hal -9000 te empieza a decir que no has
descargado la tarjeta de conductor en los últimos 30
días y que lo deberías realizar, ¿Qué vas a hacer con
¿Y cuando te indica que has viajado al futuro, al km
16.777.777 y fecha 07/02/2106, 06:28.15?
Es decisión de la UE defender a sus ciudadanos o no
ante las máquinas.
Guillermo Errezil
Físico Teórico