Das Nachrichten-Portal für eine bessere Welt.

von Isolde Hilt

100 Millionen Alexa-Geräte hat Amazon bereits verkauft, wie das Magazin und Netzwerk t3n – digital pioneers in diesen Tagen berichtet. Digitale Sprachassistenten – neben Alexa auch andere wie Siri von Apple, Cortana von Microsoft, der Google Assistant oder Bixby von Samsung – erobern den europäischen Markt. Der Digitalverband bitkom stellt fest, dass bereits vier von fünf Bundesbürger*innen von digitalen Sprachassistenten gehört haben. Zum Vergleich: 2017 waren es erst zwei Drittel, 2016 nur 5 Prozent. Inzwischen kann sich mehr als jeder Vierte vorstellen, Geräte zukünftig per Sprache zu steuern. „Vor allem die Möglichkeit, digitale Sprachassistenten mit Smart-Home-Geräten zu verbinden, ist sehr beliebt“, verrät Dr. Christopher Meinecke, Leiter Digitale Transformation Bitkom e. V. Der intelligente Lautsprecher liege damit gleich hinter Smartphone und Tablet.

Das „sprechende Gerät“, das so menschlich klingt, fasziniert. Der Nutzen, den man daraus ziehen kann, erst einmal auch. Doch was ist der Preis dafür? Was passiert mit all den Fragen, Anweisungen und Wünschen, die man von sich offenbart? IT-Expertin Christine Deger klärt auf.

Nehmen wir als Beispiel Alexa: Hört man ihre Stimme, hat man leicht den Prototyp der amerikanischen Schönheit im Kopf. Könnte einer der drei Engel für Charlie sein: blendend weiße Zähne, leicht gebräunt, schlank, lange Haare, so um die 30. Gut erzogen, gebildet, perfekt geschult im Umgang mit schwierigen, anstrengenden Kunden. Selbstbewusst, nicht aus der Ruhe zu bringen.

Bisher fiel es mir im Traum nicht ein, die Dienste eines digitalen Assistenten in Anspruch zu nehmen. Bis ich meine Familie in den USA besuche, die seit dem letzten Besuch eine neue Mitbewohnerin hat – Alexa. Hübsch sieht die kleine runde Box aus, aus der sie tönt. Erinnerungen an „Bezaubernde Jeannie“ in der Flasche werden wach. Alexa steht ähnlich zu Diensten.

„Sie wirkt so menschlich …“

Sie erinnert daran, dass die Kartoffeln in drei Minuten aus dem Ofen müssen. „Alexa, wie spät ist es?“ „9 Uhr 32.“ Die digitale Sprachassistentin stellt auf Wunsch die Einkaufsliste zusammen und erinnert an Termine. Sie liest vor und kann, ist sie entsprechend programmiert, andere Geräte wie Saugroboter zum Arbeiten bringen oder die Temperatur im Haus absenken. „Alexa, spiel ‚September‘ von Earth, Wind & Fire.“ Kein Problem, gute Laune macht sich in der Wohnküche breit. Die sympathisch klingende Stimme sagt, wie das Wetter wird, wie lange der Flug von New York nach Hamburg dauert.

Wie funktioniert das Teil? Kann man dieser neuen künstlichen Intelligenz, dieser irgendwie doch ganz praktischen Hilfe trauen? Wir haben unsere IT-Expertin, Christine Deger, zu digitalen Sprachassistenten am Beispiel Alexa „ausgehorcht“.

Wie funktionieren digitale Sprachassistenten?

Sie reagieren auf Sprach-Impulse, die sie in Suchfunktionen umwandeln können. Aufgrund der erzielten Suchergebnisse antworten sie in Sprachform.

Auf welche Daten greift zum Beispiel Alexa zurück, um Fragen beantworten zu können?

Zunächst auf alle Daten des Unternehmens Amazon – das heißt auf alles, was über Online-Einkäufe an Produkten und Möglichkeiten zur Verfügung steht. Und sie greift auf die Daten derjenigen, die diese Plattform nutzen, zurück. Dazu gehört auch das Nutzerverhalten, das – mit Daten unterfüttert – gespeichert wird.

Weiter können Unternehmen ihre Daten mit den Daten von Amazon koppeln, wenn sie Produkte mit Sprachsteuerung anbieten möchten. Das geschieht über sogenannte APIs (Application Programming Interface): Das sind definierte Schnittstellen für den Austausch von Daten aus unterschiedlichen Quellen. Die Möglichkeiten der Anbindung sind sehr vielfältig, der Zugriff auf so gut wie alle verfügbaren Daten ist machbar.

Seit wann gibt es Alexa im europäischen Raum?

Alexa wird in Deutschland seit Oktober 2016 angeboten. 2015 war die Markteinführung in den USA. Nach einer Testphase, die bis Herbst 2016 lief, wurde Alexa in Europa eingeführt.

Amazon gibt an, keine Gespräche außer der direkten Konversation mit Alexa aufzuzeichnen. Wäre es trotzdem möglich, dass Alexa zur Spionin wird, also auch andere Gespräche im Raum aufnimmt, ohne dass man es mitbekommt? Alexa, so die Erfahrung einiger Nutzer*innen, fängt manchmal zu sprechen an, obwohl sie nicht gefragt ist. Und es gibt noch ein Beispiel, das in den USA die Runde machte: Leute ließen sich über eine andere Person aus. Diese erhielt daraufhin unaufgefordert eine Aufzeichnung des Gesprächs, in dem es um sie ging …

Alexa ist in einem sogenannten „Listen mode“, das heißt, sie ist grundsätzlich immer bereit zu hören. Um sie zu aktivieren, spricht man sie vor jedem Anliegen zuerst mit „Alexa“ an. Laut Hersteller startet erst dann die Aufnahme der Sprachnachricht. Tests und Untersuchungen haben jedoch gezeigt, dass dies nicht durchgängig sichergestellt werden kann.

Der Fall, den du oben beschreibst, ist inzwischen mehrfach nachgewiesen. Wenn mehrere Personen im Raum sind, kann das Gerät aktiviert werden, weil aus dem „Sprachgemenge“ der Unterhaltungen ähnliche Laute wie „Alexa“ entstehen können. Die Zusendung von Informationen wie bei diesem Beispiel ist möglich, weil im Hintergrund automatisierte Verarbeitungsprozesse ablaufen. Die Entscheidung trifft dabei eine Maschine oder ein Algorhythmus. Der Versand kann versehentlich ausgelöst werden. Dies bezeichnen wir mit dem Begriff „false positive“: Eine Aktion wird ausgelöst, was positiv ist, weil eine technische Reaktion erfolgt. Der Inhalt oder der Kontext aber sind nicht korrekt. Diese Wirkungsweise ist ein bekanntes Phänomen bei komplexen technischen Abläufen.

Amazon speichert alle mit Alexa aufgezeichneten Gespräche auf, um angeblich den Nutzen für Kund*innen stetig zu verbessern. Das heißt, das Unternehmen erhält im Laufe der Zeit ein immer detaillierteres Profil seiner Kund*innen und kann so seine Marktposition noch weiter ausbauen, weil es weiß, wonach die Leute verlangen. Ist das nicht sehr bedenklich?

Datenschützer – insbesondere in Europa – haben hier sehr große Bedenken. Es gibt verschiedene Bestrebungen, Hersteller wie Amazon (aber auch Google, Apple und Microsoft, die ebenfalls Sprachassistenz-Systeme entwickelt haben) mehr in die Verantwortung zu nehmen. Gerade die Abhörmöglichkeit wird sehr kritisch gesehen. Deutschland hat in punkto Abhörgenehmigungen im Zusammenhang mit Strafverfolgungsverfahren klare Regelungen. Die Gründe für eine solche Genehmigung müssen schon gewichtig sein. Datenschutzbeauftragte der Länder und des Bundes halten es schon für bedenklich, wenn sich Privatpersonen freiwillig ein „Abhörgerät“ in die Wohnung stellen.

Vor kurzem erschien folgende Meldung: Ein Amazon-Kunde, der Alexa nicht benutzt, erhielt auf Nachfrage hinsichtlich der über ihn gespeicherten Daten plötzlich Sprachaufzeichnungen eines anderen Kunden. Das heißt, es kann immer passieren, dass sensible Daten bei jemand anderem landen, oder?

Ja, das ist technisch möglich. Die Daten sind in Cloud-Systemen gespeichert. Dort befinden sich Daten von unterschiedlichen Nutzenden auf denselben Rechnern. Um diese Daten zu trennen, gibt es Verfahren und technische Möglichkeiten. Und damit sind wir wieder bei der Steuerung von Datenflüssen durch Menschen, Maschinen oder Algorhythmen, bei der Fehler passieren können. Wir sprechen hier von riesigen Datenmengen, die kanalisiert werden. Schon 2015 haben wir weltweit 2,5 Trillionen Byte Daten am Tag produziert!

Für Menschen mit Handicap kann Alexa nützliche Dienste erbringen. Gibt es weitere Vorteile, die du siehst?

Im Alltag ist Alexa eine sinnvolle Unterstützung. Viele Dinge, die wir früher auf Einkaufszettel, Post it oder in „To Do-Listen“ eintrugen, merkt sich Alexa einfach. Genauso wie Terminerinnerungen für Zahnarzt oder Veranstaltungen.

Der Einkauf wird deutlich erleichtert. Bei der Verknüpfung mit einem bestehenden Amazon-Konto weiß Alexa längst, welche Produkte du benötigst: zum Beispiel, welche Druckerpatronen, Kleidungsstücke oder Bücher. Der Bereich „Lebensmittel einkaufen über Amazon“ ist derzeit auch auf dem Vormarsch. All das erleichtert das Planen und Organisieren des Alltags.

Für ältere Menschen, die alleine wohnen, kann Alexa unter Umständen lebensrettend sein. Man versucht zum Beispiel, Haus-Notrufdienste anzubinden:  Statt ein zusätzliches Gerät in die Wohnung zu stellen, wird Alexa an den Haus-Notrufdienst angebunden. So müssen sich ältere Menschen nicht mit mehreren Geräten vertraut machen und können per Sprache Hilfe holen.

Alexa kann dich unterhalten, dir ein Musikprogramm oder Hörspiele auswählen. Es gibt Spiele, die interaktiv sind wie zum Beispiel ein Quiz. Das könnte Leuten, die in ihrer Bewegung eingeschränkt sind, oder älteren Menschen helfen, sich nicht zu einsam zu fühlen.

Generell sind die Vorteile gleichzeitig immer auch Nachteile. Wenn mir Alexa aufgrund meiner Daten immer bestimmte Produkte anbietet und mich „optimal“ und „individuell“ versorgt, kann das meine Wahlfreiheit einschränken. Ich werde mit meinen Vorlieben mehr vorhersehbar. Das hängt dann von der Einschätzung des Einzelnen ab, ob er oder sie das als Vor- oder Nachteil empfindet.

Würdest du einen digitalen Assistenten empfehlen?

Unter bestimmten Bedingungen – ja. Für Menschen mit Handicap oder Einschränkungen halte ich das für sinnvoll. Allerdings sollte der Einsatz sorgfältig überlegt sein. Wichtig ist auf jeden Fall, das WLAN, in dem der Assistent plaziert ist, sehr gut abzusichern (Verschlüsselung, Zugang, Protokollierung). Inzwischen wird daran gearbeitet, dass Alexa Personen erkennt. Um „false positives“ zu vermeiden, kann der Assistent trainiert werden. Dazu lernt er immer mehr, die Stimme der Person zu erkennen und zuzuordnen.

Ganz wichtig: den Abschaltknopf verwenden oder einfach den Stecker ziehen. Sich Gedanken machen, wann man Alexa und Co. wirklich braucht oder sie abschalten kann, führt schon zu mehr Sicherheit.

Hält sich Amazon an die neue EU-Datenschutzverordnung? Das sind ja doch sehr persönliche Daten, die das Unternehmen erhält.

Für Amazon gilt die DSGVO erst einmal nicht. Es ist ein europäisches Gesetz, das zunächst keine direkte Gültigkeit für amerikanische Unternehmen hat. Allerdings hat Amazon in Europa Standorte, Betriebsstätten und Zweigniederlassungen. Für diese muss sich das Unternehmen an die bestehenden Gesetze halten. Die EU prüft die Einhaltung. Es gibt immer wieder Aufforderungen, Anhörungen und Ermahnungen bis hin zu Gerichtsurteilen, dass diese Firmen sich an europäisches Recht halten. Speziell bei der DSGVO ist die Einhaltung Voraussetzung, um weiter unternehmerisch in der EU tätig zu sein.

Wenn man einen digitalen Assistenten nutzen möchte, worauf sollte man unbedingt achten?

Mein Rat: Immer, wenn es um IT-Sicherheit geht – Augen auf und wachsam sein! Seinen gesunden Menschenverstand nutzen und genau überlegen, was man wann, wo und wie einsetzt. Stelle dir die Sinnfrage und prüfe kritisch, ob das für dich einen Mehrwert bietet, diesen Assistenten in der Wohnung zu haben. Wenn du weißt, was du tust, dir also wirklich bewusst bist, weshalb, kannst du so einen digitalen Assistenten kompetent nutzen.

Hast du vor, dir einen digitalen Sprachassistenten zuzulegen?

Vorerst nicht. Das liegt einfach daran, dass ich viel unterwegs bin und den Mehrwert für mich aktuell nicht erkennen kann.

Christine Deger

Cyber-Security-Expertin

Weitere Infos zu Datensicherheit unter:

www.changeboxx.de

Dieser Beitrag ist urheberrechtlich geschützt.