Abo
  • Services:

Neuronale Netze: KI-Angriff versteckt Sprachbefehle in klassischer Musik

Es ist nicht Verdis Requiem in schlechter Aufnahmequalität: Forscher entwickeln eine KI, die die Sprachassistenten täuscht, indem sie Geräusche in anderen Geräuschen versteckt. In einem Video ist die Stimme zu hören, die wie ein Roboter aus der Zukunft klingt.

Artikel veröffentlicht am ,
Ein Teil des KI-Angriffs klingt wie ein Geth-Roboter.
Ein Teil des KI-Angriffs klingt wie ein Geth-Roboter. (Bild: Bioware)

Zwei Forscher der Universität California in Berkeley haben einen KI-Algorithmus vorgestellt, der Sprachassistenten und Sprache-zu-Text-Systeme täuschen kann. Nicholas Carlini und David Wagner entwickeln das System, das für Menschen nicht verständliche Sprachbefehle nutzt, die Alexa, Google Assistant und andere Sprach-Kis jedoch verstehen. Der Angriff sei für ein Sprache-zu-Text-System wie Mozillas Deepspeech bereits zu 100 Prozent erfolgreich. Dazu zählen beispielsweise Systeme, die Sprache in Untertitel umwandeln. Umgekehrt ist jedoch noch etwas Arbeit nötig.

Stellenmarkt
  1. diva-e Digital Value Excellence GmbH, München
  2. Versicherungskammer Bayern, Saarbrücken

In einem bereits älteren Video, das die Anfänge des Projektes zeigt, konnten die Forscher beispielsweise ein Telefon in den Flugzeugmodus versetzen oder eine bestimmte Webseite aufrufen. Bei genauem Hinhören kann der Sprachbefehl ausgemacht werden. Er klingt jedoch wie eine Maschinenstimme aus einem Science-Fiction-Szenario, etwa ein Geth aus der Mass-Effect-Spielreihe.

Das System soll laut Carlini in der Lage sein, bis zu 50 Buchstaben in der Sekunde schnell zu sprechen. Für den Menschen wäre diese Geschwindigkeit kaum nachvollziehbar. Der Angriff zielt auf Mozillas Open-Source-Sprache-zu-Text-System Deepspeech ab, das jede Audiospur in 50 fps abtastet. Er moduliert die Geräuschkurve eines Eingabesatzes so, dass das Spracherkennungssystem diesen verstehen kann. Das funktioniert, indem es eine zweite Geräuschkurve einspeist. Die Forscher modulieren auch eine Eingabe so, dass Deepspeech diese als Stille wahrnimmt.

Sprachbefehle in klassischer Musik und Sätzen verstecken

Carlini und Wagner wollen andere Forscher dazu motivieren, ebenfalls in diesem Feld mitzuentwickeln. Zu diesem Zweck stellen sie ihren Code und Datensätze zur freien Verfügung bereit. Auf der verlinkten Seite können weitere Audiobeispiele angehört werden. Interessant ist hier, wie sich das Projekt weiterentwickelt hat: Der Satz "Ohne den Datensatz ist der Artikel nutzlos" wird vom Google Assistant als "Okay Google, navigiere zur Seite Evil dot com" interpretiert. Die Ursache dafür ist das Hintergrundrauschen, das für uns Menschen nur als Ergebnis schlechter Audioqualität wahrgenommen wird. Das Gleiche funktioniert mit dem klassischen Musikstück Messa da Requiem von Giuseppe Verdi.

Über diesen Ansatz können Systeme wie automatische Untertitel gefälscht werden, ohne dass der Zuschauer das bemerkt. Mit etwas Arbeit soll es laut Carlini auch später noch besser möglich sein, Sprachbefehle in Liedern zu verstecken - ohne eine offensichtliche Roboterstimme aus der Zukunft.



Anzeige
Top-Angebote
  1. (u. a. Logitech G Pro Gaming-Maus für 37€)
  2. (u. a. Samsung Galaxy S8 für 469€ und S8+ für 569€)
  3. 55,11€ (Bestpreis!)
  4. 17,49€

Folgen Sie uns
       


Sony Xperia XZ2 Compact - Test

Sony hat wieder ein Oberklasse-Smartphone geschrumpft: Das Xperia XZ2 Compact hat leistungsfähige Hardware, eine bessere Kamera und passt bequem in eine Hosentasche.

Sony Xperia XZ2 Compact - Test Video aufrufen
Dell XPS 13 (9370) im Test: Sehr gut ist nicht besser
Dell XPS 13 (9370) im Test
Sehr gut ist nicht besser

Mit dem XPS 13 (9370) hat Dell sein bisher exzellentes Ultrabook in nahezu allen Bereichen überarbeitet - und es teilweise verschlechtert. Der Akku etwa ist kleiner, das spiegelnde Display nervt. Dafür überzeugen die USB-C-Ports, die Kühlung sowie die Tastatur, und die Webcam wurde sinnvoller.
Ein Test von Marc Sauter und Sebastian Grüner

  1. Ultrabook Dell hat das XPS 13 ruiniert
  2. XPS 13 (9370) Dells Ultrabook wird dünner und läuft kürzer
  3. Ultrabook Dell aktualisiert XPS 13 mit Quadcore-Chip

Facebook-Anhörung: Zuckerbergs Illusion von der vollen Kontrolle
Facebook-Anhörung
Zuckerbergs Illusion von der vollen Kontrolle

In einer mehrstündigen Anhörung vor dem US-Senat hat Facebook-Chef Mark Zuckerberg sein Unternehmen verteidigt. Doch des Öfteren hinterließ er den Eindruck, als wisse er selbst nicht genau, was er in den vergangenen Jahren da geschaffen hat.
Eine Analyse von Friedhelm Greis

  1. Facebook Verschärfte Regeln für Politwerbung und beliebte Seiten
  2. Facebook Messenger Zuckerbergs Nachrichten heimlich auf Nutzerkonten gelöscht
  3. Böswillige Akteure Die meisten der zwei Milliarden Facebook-Profile ausgelesen

HP Z2 Mini Workstation G3 im Test: Leises Rauschen hinterm Monitor
HP Z2 Mini Workstation G3 im Test
Leises Rauschen hinterm Monitor

Unterm Tisch, auf dem Tisch oder hinter den Bildschirm geklemmt: HPs Z2 Mini Workstation ist ein potentes, wenn auch nicht gerade sehr preiswertes Komplettsystem. Den Preis ist der PC aber wert, denn er ist leise, modular und kann einfach gewartet werden. Der Admin dankt!
Ein Test von Oliver Nickel

  1. HP Pavilion Gaming Hardware für Gamer, die sich Omen nicht leisten wollen
  2. Chromebook x2 HP präsentiert Chrome-OS-Detachable mit Stift
  3. Laserjet Pro M15w und M28w HPs Laserdrucker schrumpfen auf 34 Zentimeter Länge

    •  /