Während einer LKW-Kontrolle in Champignuelles, Frankreich im März 2016 verhängten die Behörde eine Strafe in Höhe von 33.675€. Hier stellten wir fest, dass die Software zur Analyse der digitalen Daten in Frankreich (OCTET) die Bereitschaftszeit im Mehrfahrerbetrieb nicht als Unterbrechung der Lenkzeit wertet. Wir gingen davon aus, dass diese neue Interpretation durch ein Software-Update eingeführt wurde. Jedoch wurde diese Interpretation von keinem anderen Land in der EU geteilt. In der darauffolgenden Zeit mussten alleine wir mehr als 300.000€ an Strafen für diese neue Auslegung bezahlen. Die Dunkelziffer dürfte wohl eher bei mehreren Millionen € liegen.
1 „Träumen Androiden von elektrischen Schafen?“ war der Science-Fiction Roman von Philip K. Dick. Der Film Blade Runner basiert auf dieser Vorlage.
2 Alan Turing, 1912-1954, war der Erfinder des ersten Computermodels mit der „Turing Maschine“
Da die gesamte Branche Druck auf die europäische Kommission ausübte, wurde während einem Treffen der Enforcement Working Group, einberufen vom „Directorade Générale Move“, dieses Thema mit allen relevanten Behörden besprochen. Bei diesem Treffen gab der Vertreter Frankreichs an, „Frankreich hat die Interpretation der Bereitschaftszeit nicht geändert“. Zudem sagte er, dass die Fehlinterpretation durch einzelne Kontrollbeamte vorgenommen wurde.
Nachfolgend auf dieses Treffen, mussten Fahrer weiterhin Strafen für die neue Interpretation bezahlen. Zudem erhielten wir Ausdrucke aus dem französischen Kontrollporgramm, die eindeutig zeigen, dass die Software diese neue Auslegung anwendet und Verstöße nach der neuen Interpretation berechnet.
Sollte dies wahr sein, und wir haben hieran keine Zweifel, bedeutet dies, dass OCTET die Kontrolle über das System übernommen hat. Diese Strafen werden nicht aufgrund der Gesetzeslage oder der französischen Interpretation verhängt, sondern weil OCTET damit angefangen, hat autonom zu werden und aufgrund seiner eigenen Interpretation „mordet“. Wir haben umfangreiche Beweise für diese Variante der Interpretation der digitalen Daten von OCTET und geben diese an jede interessierte Behörde weiter. Gleichzeitig kann dies bereits aktuell, möglicherweise besser versteckt, in allen europäischen Ländern passieren, welche die VO (EU) 561/06 kontrollieren.
Was Stanley Kubrick, Ridley Scott und Alex Garland aber nicht sagen ist, dass KI theoretisch kontrolliert werden kann. Es stimmt. Die Theorie der formalen Verifizierung beschäftigt sich exakt mit diesem Problem und wird aufgrund dessen bereits sehr verbreitet in der Luftverkehr- und Raumfahrtindustrie angewendet. Im Prinzip ist es möglich, die KI zu kontrollieren, trotzdem ist dies mathematisch äußerst komplex.
Aktuell gibt es bereits ein formal verifizierbares, mathematisches Modell für die Analyse der digitalen Daten des Tachographen auf der Basis der Verordnungen 561/06 und 165/2014. Die Nutzung dieses Modells würde jede Software und jeden Softwareentwickler davon abhalten, die Gesetze nach den eigenen Vorstellungen zu interpretieren. Die europäische Kommission hat darüber Kenntnis, aber die Einführung würde eine kleine technologische Revolution bedeuten.
Betrachten wir ein praktisches Beispiel: Wir starten mit unserem LKW; nennen wir ihn Discovery 1, fahren zu einer Fabrik genannt Jupiter. Der LKW ist mit einem Tachographen vom Entwickler des HAL ausgestattet und die Versionsnummer der Software ist 9000. Während der Fahrt beginnt der Tachograph mit dem Fahrer zu kommunizieren und teilt dem Fahrer mit, dass er seine ununterbrochene Lenkzeit überschreitet, sodass der Fahrer anhält. Der Fahrer weiß, es ist eine Lüge, aber wird er dem HAL 9000 nicht gehorchen?
Und was ist, wenn der HAL 9000 sagt, dass der Fahrer seine Fahrerkarte seit 30 Tagen nicht heruntergeladen hat. Was macht der Fahrer dann mit den heruntergeladenen Daten von gestern?
Was, wenn HAL angibt, dass das Fahrzeug in die Zukunft gereist ist, zu Kilometer 16,777,777 am 07.02.2106, 06:28:15 Uhr? Wo hört es auf?
Warten wir ab wie die europäische Kommission weiter vorgeht – verteidigt sie die Einwohner, oder die Maschinen?
Guillermo Errezil
Theoretischer Physiker