Hvis kontrollen er i hænderne på softwaren og ikke
politiet, hvad så hvis softwaren er ved at gøre oprør
mod sin skaber? Hvad nu hvis den har udviklet autonomi
til at pålægge chauffører bøder, selv uden pres
eller begrænsning fra en myndighed eller lovgivning?
Ligesom Hal 9000, men på vores lokale motorvej i
2016. Det er muligt, at dette allerede sker, og at konsekvenserne
er ødelæggende for chauffører og transportvirksomheder.
Under en kontrol for nylig i Champigneulles i Frankrig
i marts 2016, hvor myndighederne udstedte en bøde
på € 33.675, indså vi, at fartskriverens analysesoftware,
der bruges af de franske myndigheder (OCTET)
ikke fortolkede tilgængelighed i holdkørsel som
afbrydelse af kontinuerlig kørselstid. Vi har en mistanke
om, at denne nye fortolkning skyldtes en softwareopdatering,
men intet andet europæisk land ville acceptere dette. Senere fandt vi
ud af, at de franske myndigheder har udstedt mere
end € 200.000 i bøder for samme overtrædelse.
Som et resultat af industriens pres, afholdte Europa-
Kommissionens Directorate Generale Move i
april 2016 et møde med deltagelse fra alle relevante
myndigheder, hvor dette spørgsmål blev drøftet.
På mødet hævdede den franske repræsentant, at
“Frankrig ikke havde ændret sin fortolkning af kontinuerlige
kørsel”; desuden kan bøderne tilskrives betjentene
alene.
Hvis dette er sandt, og vi har ingen grund til at betvivle
det, betyder det at OCTET har taget kontrol
over systemet. At bøder ikke bliver pålagt i henhold
til loven eller som fortolket af Frankrig, men at OCTET
udsteder bøder, fordi det er blevet selvstændigt
og er begyndt at “dræbe”. Hvad der er sikkert er, at
OCTET fortolker digitale filer på denne måde. Vi har
beviser der støtter vores påstande, og de står til rådighed
for enhver myndighed, der ønsker at se dem.
Samtidig det kan det samme ske, måske mere skjult,
i alle europæiske lande der styrer forordning 561/06.
Hvad Stanley Kubrick, Ridley Scott og Alex Garland
ikke fortæller os er, at AI teoretisk set kan kontrolleres.
Det er rigtigt. Teorien om formel verifikation af
software omhandler netop dette problem og er meget
udbredt i luftfart og rumfartsindustrien. I princippet
ville det være muligt at kontrollere AI software,
men matematisk set indebærer det stadig problemer
på grund af høj kompleksitet.
Under alle omstændigheder er der allerede en formelt
verificerbar matematisk model for fartskriveres
analysesoftware til forordning 561/06 og 165/2014,
der vil forhindre ethvert program eller enhver softwareudvikler
fra at opfinde eller fortolke loven efter
eget ønske. Europa-Kommissionen er klar over
dette, men at vedtage det ville betyde en lille teknologisk
revolution.
Lad os tage et praktisk eksempel. Vi starter med din
lastbil; lad os kalde den Discovery 1. Den kører til en
fabrik kaldet Jupiter. Lastbilen er udstyret med en
fartskriver fra designeren HAL, og softwarens version
er 9000. Under turen begynder fartskriveren at
kommunikere med chaufføren og fortæller ham, at
han kommer til at overskride sin sammenhængende
køretid, og så stopper han. Han ved, at det ikke
passer. Men vil han være ulydig overfor HAL 9000?
Kommer han til at negligere, at det er HAL der kontrollerer
lastbilen på turen til Jupiter?
Når HAL 9000
så begynder at sige, at føreren ikke har downloadet
sit førerkort i de sidste 30 dage og at det skal gøres,
hvad vil han da gøre med den downloadede chaufførfil
fra dagen før? Når HAL
Angiver, at køretøjet har rejst til fremtiden, km
16.777.777, den 02/07/2106, kl. 06:28.15. Hvor slutter
det ...?
Lad os se hvad Europa-Kommissionen vælger at
gøre - forsvare sine borgere eller maskinerne.
Guillermo Errezil
Teoretisk fysiker