Wer allen Ernstes zuhause im Wohnzimmer eine Dauerlausch-Einrichtung a la Amazon Echo, Google Home oder Apple Siri installiert (die ja möglicherweise demnächst auch noch dauerglotzt, wer gerade da ist und welchen Gesichtsausdruck der oder die macht…), ist ohnehin fest in der Post-Privacy-Sphäre verankert. Wobei die Sprachassistenzsysteme ja in gewissen Situationen durchaus ihre Berechtigung haben – etwa im Auto, wenn man beide Hände am Lenkrad braucht; oder wenn man gerade ein Baby wiederbelebt…
Aber ganz ohne Zweifel wird das Geplauder und Assistieren nicht mehr aufzuhalten sein – da ist es doch schon wieder im Sinne eines kurzen Realitätschecks didaktisch wertvoll, wenn auch Hacker sich den neuen Kommunikationskanal zunutze machen und mit verzerrten Borg-Kommandos unterhalb der menschlichen Verständnisschwelle, aber sehr wohl oberhalb der des Gerätes akustisch Sand ins Getriebe streuen. Die ganze Sache klingt momentan noch etwas skurril – aber dass es wie üblich genügend Spaßvögel, Trolle und Ganoven geben wird, die das Voice-Hacken mal ausprobieren, das ist klar.
Vielleicht wird man (bzw. eben nicht man selbst, sondern der Personal Assistent in der Jackentasche…) ja demnächst im Gedränge von Werbeheinis angesprochen oder in der Fußgängerzone mit Megaphonen überfallen. Oder für das Radio wär das natürlich auch etwas, um schlagartig die Klickzahlen für die Homepage oder den Social-Media-Channel nach oben zu boosten.
Als vor ein paar Tagen in den USA ein Schwarzer bei einer Polizeiaktion erschossen wurde, als danach die Proteste starteten, die Demonstration in Dallas, dann dort die Schüsse auf die Polizei – da zeigte sich wieder einmal, dass eigentlich mittlerweile im Netz – über Twitter oder Facebook; über die Live-Postings von Bildern und Videoclips – eine Live-Dauerschalte läuft. Und zwar zu allen Orten und Themen gleichzeitig, von belanglosem bis hin zum dramatischen. Da kommt natürlich immer wieder die Idee auf den Schirm, ob man nicht aus diesem Informationsdauerfeuer im Netz ablesen kann, was gerade passiert – oder besser noch, was gleich passieren wird. Der US-amerikanische Hacker “Jester” hat eine Seite ins Web gestellt, die genau so etwas verspricht.
Das InternetAWACS ist allerdings momentan noch eine Beta-Version, die offenbar auch gar nicht ständig “scharfgeschaltet” ist – das dürfte nicht zuletzt mit den Kosten zu tun haben, die ein möglichst globales Abgreifen und Auswerten von Tweets verursachen würde. So etwas kann man sich auch als Privatperson etwa in einer AWS-Instanz bei Amazon einrichten – allerdings nicht in einer der Billigversionen. Die übrigen Komponenten von iAWACS sind in der jetzigen Form nicht viel mehr als Gimmicks – das Flugbewegungs-Overlay macht optisch etwas her, dürfte aber in den allermeisten Fällen wenig Informationsgewinn bringen, die Watson-KI ist nicht integriert, sondern kann nur gesondert aufgerufen werden.
Man darf aber getrost davon ausgehen, dass bei NSA und Konsorten die “Profiversionen” eines Netz-Frühwarnsystems im Einsatz sind – nur ob sie da schon irgendwelche sinnvollen Ergebnisse bringen, darf bislang bezweifelt werden. Und selbstverständlich – auch wir Journalisten hätten gern so ein Tool. Im Grunde gilt aber unser methodisches Dilemma dann auch wieder für die Schlapphut-Branche (und auch für “Cyber-Vigilanten” 🙂 ): Eine Netzquelle, die sich nicht verifizieren lässt, ist in Prinzip völlig wertlos. Oder schlimmer; Bullshit, Fake und Desinformation.
Dass die Leute im richtigen Leben nicht mehr so ernsthaft anwesend, sondern stattdessen im Cyberspace unterwegs sind, das ist ja mittlerweile völlig normal. Also zumindest in dem gewohnten Ausmaß – wenn sie whatsappen, twittern oder navigieren. Aber wenn nun massenhaft an sich harmlos aussehende Zeitgenossen auf Plätzen herumlungern oder komisch hin und her laufen, hinter Bushalte-Wartehäuschen gucken, in trostlose Sackgassen hineinspazieren oder auf Privatgrundstücke vordringen, immer mit starrem Blick auf das Smartphone-Display, und wenn sie dabei ab und zu rasche Wischbewegungen machen – dann ist das keine neue Zombie-Seuche, sondern “nur” Pokemon Go.
Aber all das kann einem richtigen Hype natürlich nichts, aber auch rein gar nichts anhaben. Ob auch IS-Kämpfer schon den possierlichen Tierchen nachjagen, ist bislang nicht bekannt, vor Ort sind die Monster aber schon allemal.
Wenn ein Unbefugter erst einmal physischen Zugriff auf einen Computer hat, dann steht es schlecht um die heiklen Daten des Eigners – und naturgemäß ist es bei einem Mobilgerät sehr viel wahrscheinlicher als beim PC daheim, dass dieser Fall eintritt; sei es durch einen Diebstahl oder Verlust des Gerätes, sei es bei einer Durchsuchung durch Behörden. Das Mittel der Wahl ist also Verschlüsselung – und aus Nutzersicht wäre es natürlich schön, wenn auf die entsprechenden Features des Betriebssystems dann auch wirklich Verlass wäre. Ganz anders sehen dies wiederum die erwähnten “Autoritäten” – und fordern wie auch immer geartete Zweitschlüssel, Hinter- oder Vordertüren.
Eine bewusste, eingebaute Schwächung des Sicherheitskonzepts geht letztendlich immer nach hinten los, lautet das Gegenargument von Kryptografieexperten und Firmen wie Apple. Eine hübsche, für Android-Nutzer allerdings unerfreuliche Demonstration dafür liefert der israelische IT-Experte Gal Beniamini – offenbar haben die Programmierer der Full-Disk-Encryption-Umsetzung in Geräten mit Qualcomms Snapdragon-Plattform bewusst darauf verzichtet, beim Verschlüsselungsprozess einen individuellen Hardware-Schlüssel unmittelbar einzubinden. Stattdessen laufen die Schlüsselerzeugung und -management in einem speziellen Bereich, dem “Qualcomm Secure Execution Environment” (QSEE) ab, was möglicherweise mehr Flexibilität bei der Kommunikation mit Apps und Gerätefunktionen schafft, aber einen gewaltigen Nachteil hat: Das “Allerheiligste” der Verschlüsselung liegt in Software, nicht in Hardware vor – und lässt sich per Softwarezugriff aus dem Gerät extrahieren.
Wie Beniamini plausibel mutmaßt, könnte es für die konzeptuelle Schwäche einen einfachen Grund geben: Sie eröffnet die Möglichkeit, wenn nicht für Qualcomm selbst, so doch für die OEM-Hersteller, Behörden notfalls bei der Entschlüsselung eines gesperrten Gerätes behilflich zu sein. Eine potentielle Hintertür also, die sich dummerweise aber auch von Hackern aufsperren lässt. Das QSEE ist fehlerhaft implementiert und lässt sich per manipulierter App und Rechte-Ausweitung knacken – damit hat man Zugriff auf den Masterkey und muss diesen lediglich noch per Brute-Force entschlüsseln. Für Behörden eh kein Problem, für Privatleute in Zeiten von Hashcat oder Cloud-Diensten auch nicht mehr.
Auch bei dieser Lücke kommt das leidige Android-Updateproblem verschärfend hinzu – wer Wert auf die Sicherheit seiner Mobilgerätdaten legt, ist wahrscheinlich mit einem Apple-Produkt besser bedient. Wobei ganz klar gesagt werden muss – es ist ja auch für einen Android-Hersteller nicht grundsätzlich unmöglich, die Schotten dicht(er) zu machen. Man muss es aber auch wollen (und dürfen 🙂 )…
Der erste tödliche Unfall mit einem PKW, der mit eingeschaltetem “Autopilotsystem” unterwegs war – auf der ConCarExpo, wo sich alles um vernetzte Fahrzeuge und Mobilitätssysteme der Zukunft drehte, spielte er zumindest an den beiden offiziellen Messetagen noch keine Rolle. Aber natürlich dürften einige Insider von dem fatalen Ereignis gewusst haben, dass auch – wie Experten anschließend offen zugaben – “irgendwann zu erwarten” gewesen war. Möglicherweise wussten Insider und Experten dann auch schon Bescheid über eine eventuelle Mitschuld des verunglückten Fahrers und waren sich auch der konzeptuellen Unterschiede zwischen teil- und vollautonomem Fahren bewusst. Zumindest in der Darstellung nach außen herrschte in Düsseldorf jedenfalls völlig ungebrochener Technik-Optimismus – das sah am Freitag, als BMW seine Pläne für ein selbstfahrendes Modell vorstellte, schon deutlich anders aus.
ConCarExpo 2016 – der Eingangsbereich mit der Start-Up-Booth
Bei BMW ist Intel mit im Boot, bei anderen Herstellern Nvidia – in Assistenzsystemen und den Steuerungen für autonome Vehikel haben die Prozessorschmieden nun einen neuen, potentiell sehr lukrativen Absatzmarkt für ihre CPUs, vor allem aber für ihre GPUs in Sicht. Und der dürfte sehr viel höhere Umsatzzahlen versprechen als das Geschäft mit Gaming-PCs, Workstations oder auch die immerhin prestigeträchtige Supercomputing-Sparte. Wobei die Automobilbranche bekanntermaßen sehr spitz kalkuliert, wenn sie Komponenten zukauft – beim Steuerungssystem aber doch hoffentlich mit sehr viel Augenmaß; hier geht es nun einmal um Leben und Tod.
Nvidias “Drive PX”-Steuerungssystem beruht auf “Deep Learning” und neuronalen Netzen – das eröffnet einerseits einen Weg, der Maschine menschliches Fahr-Know-How einzupflanzen, bietet andererseits auch zumindest theoretisch die Chance, im Fahrbetrieb laufend dazuzulernen – und vielleicht von einer anfangs sehr defensiven Strategie zu einer flüssigeren Fahrweise überzugehen, die immer noch sicher ist. Aber die Kehrseite der Medaille ist natürlich die potentielle Intransparenz, was in den Schichten des neuronalen Netzes eigentlich vor sich geht und wie der Algorithmus eigentlich letztlich entscheidet – im “worst case” eben mit fatalen Konsequenzen. Da dürften sich wie beim ganzen Thema “autonomes Fahren” im Zweifelsfall allerhand Fragen stellen – grundsätzliche in Richtung Ethik; und ganz pragmatische in Richtung “wer haftet eigentlich”?
Keine “Black Box”, sagt der Leiter der Automotive-Sparte von Nvidia, Danny Shapiro: Die Drive-PX-2-Steuerungseinheit von Nvidia
Danny Shapiro von Nvidia sieht hier die Verantwortung erst einmal beim Autohersteller, der Komponenten und Algorithmen zu einem Endprodukt zusammenstellt – man liefere mit einem Steuerungssystem wie dem “Drive PX” keinesfalls eine “Black Box” aus. Ob die Hersteller allerdings schon so weit sind, und die zu ihrem klassischen Metier hinzugekommene Welt “IT und Software” tatsächlich adäquat im Griff haben, das kann man mit Fug und Recht bezweifeln. Im Konferenzprogramm der ConCarExpo ging es in vielen Vorträgen um die vielen neuen Fallstricke – da versuchen offenbar die Ingenieure mancher Autohersteller, beim Design ihrer Software das Rad neu erfinden und machen Anfänger-Fehler. Da schotten sich die Firmen argwöhnisch von der Konkurrenz ab, wo doch vielleicht eher eine gemeinsame Standard-Entwicklung, möglicherweise nach dem Open-Source-Prinzip, allen mehr Sicherheit bringen würde.
Denn natürlich lauern wie in der herkömmlichen IT-Welt Hacker auf die Schwachstellen in den Produkten, vom Autoklau bis zum tödlichen Eingriff in den Straßenverkehr ist alles drin. Und angesichts von Visionen einiger Firmenvertreter, wonach die Kunden dann später die On-Air-Updates für die Steuerungen ihrer teil- oder vollautonomen Fahrzeuge als begeisternde User-Experience-Erweiterungen aufnehmen werden, kommt einem das Grausen – für einen kurzen Realitätscheck würde es ja schon einmal genügen, sich klarzumachen, wie fehlerhaft Software auf PC und Smartphones ausgeliefert wird. Nur das ein Blue Screen oder App-Absturz halt noch keinen Exitus bedeutet. Im selbstfahrenden Auto könnte das anders sein.
Hinter der Euphorie stecken natürlich Geschäftshoffnungen und Gewinnabsicht. Und mit nüchterner Ökonomie wird wahrscheinlich auch die Kosten-Nutzen-Bilanz von eventuellen Opfern autonomer Fahrzeuge und im Gegenzug von vermiedenen Unfälle kalkuliert werden. So dass vielleicht am Ende das letzte Wort, wie die automobile Welt der Zukunft aussehen soll, weder bei Ingenieuren noch Ethikern noch Politikern liegen wird – sondern bei den Risikomanagern und Mathematikern in den Versicherungen.
Es gibt ein erstes Todesopfer in einem Auto mit eingeschaltetem Autopiloten, einem Tesla. Der Fall ereignete sich bereits im Mai, das Unternehmen gab den Vorfall nun mit dem Ausdruck des tiefsten Bedauerns bekannt. Und man darf wohl annehmen, dass jedenfalls einigen Insidern und Silicon-Valley-Nachbarn von Tesla das Unglück schon bekannt war, während sie in dieser Woche auf der Fachmesse ConCarExpo 2016 in Düsseldorf ungebrochenen Technik-Optimismus verbreiteten.
Möglicherweise ja vielleicht sogar zurecht – denn das Argument lautet schlicht und ergreifend: In der Gesamtbilanz werden selbstfahrende Autos (mit assistierenden Autopiloten wie im Fall Tesla oder eben als nächste Perspektive völlig autonom agierende Vehikel…) die Zahl der Unfälle und Opfer senken.
Vortrag “Impact Assessment Methods for Automated Driving with regard to Road Safety”, 29.6.2016
Was nicht heißt, dass es nicht ab und zu tödlich verlaufende Crash-Szenarien geben könnte und weiter geben wird – sei es durch Soft- oder Hardware-Unzulänglichkeiten, sei es in tatsächlich “ausweglosen” Situationen, in denen der Algorithmus nur noch zwischen zwei Übeln wählen bzw. abwägen kann.
Das kürzlich in “Science” noch einmal prominent dargestellte ethische Dilemma spielte auch auf der ConCarExpo eine Rolle – immerhin beschäftigten sich mehrere Vorträge im Konferenzprogramm mit dem Thema. Einer der Referenten war Jason Millar, der Philosophie (mit dem Schwerpunkt Technik- und Robotik-Ethik) an der Carleton-Universität im kanadischen Ottawa lehrt. Eine “Patentlösung” hat natürlich auch Millar nicht anzubieten – er plädiert aber ganz klar für maximale Transparenz, wie Algorithmus-Entscheidungen eigentlich zustande kommen. (Eine besondere Herausforderung, wenn neuronale Netzwerke und Deep Learning mit im Spiel sind…)
Und dann müsse eine politisch-demokratische Diskussion und Konsens- (oder zumindest Mehrheits-) findung einsetzen und Regeln festlegen. Wie bei allen Regeln oder Gesetzen mit eventuellen Härten für Einzelne, aber mit einer grundsätzlichen Akzeptanz durch die Gesellschaft.
At least if regulators are making decisions about how these problems get solved in engineering, people can make choices whether they participate in using this type of technology, they can feedback into the legislation or regulation process and provide their input. As the sense right now companies are doing this behind closed doors. So we don’t really know how they are thinking about solving these problems. And we do know that they are thinking about solving these problems.
Wenn der Gesetzgeber hier Entscheidungen trifft, wie diese Probleme in der technischen Entwicklung gelöst werden sollen, dann können die Leute zumindest ihre Wahl treffen, ob sie eine solche Technologie nutzen wollen. Sie können auf den Gesetzgebungs- oder Regulierungsprozess reagieren und ihre Argumente vorbringen. Momentan läuft das Ganze bei den Firmen hinter verschlossenen Türen ab. Wir wissen nicht genau, was sie denken, wie sie diese Probleme lösen wollen. Wir wissen aber, dass sie schon konkret darüber nachdenken.
Sowohl das ausweglose-Situation-Dilemma als auch der aktuelle Todesfall (bei dem die “Schuld” ohnehin zu einem erheblichen Teil auch beim verunglückten Fahrer liegen dürfte, weil das Tesla-System ja kein wirklicher “Autopilot” ist, sondern immer noch die menschliche “Hand am Lenkrad” und den Fuß an den Pedalen voraussetzt…) zeigen aber in den Reaktionen eines doch sehr deutlich: Wir Menschen sterben “lieber” durch den Fehler oder durch die Unzulänglichkeit eines anderen Menschen als durch den Fehler oder die Unzulänglichkeit einer Software oder eines Roboters. Jedenfalls zur Zeit noch.
