Słuchasz muzyki, a inteligentny głośnik obok dostaje polecenie, którego żaden człowiek nie usłyszał. Nagrania można tak zmodyfikować, że dla ucha brzmią normalnie, a system rozpoznawania mowy odczytuje w nich ukrytą komendę. W scenariuszach badawczych chodziło m.in. o odblokowanie drzwi czy wykonanie przelewu, choć realne skutki zależą od uprawnień asystenta i dodatkowych zabezpieczeń.
Naukowcy z George Mason University, Ying Meng i Qiang Zeng, proponują inne podejście niż budowanie jednego superodpornego modelu. Ich DivNet zmienia wybrane wagi sieci neuronowej i tworzy ogromną liczbę nieznacznie różnych wersji tego samego systemu. Nagranie przygotowane pod jeden model może więc nie zadziałać na kolejny.
Po wstępnej analizie kolejny wariant powstaje w kilka milisekund, bez trenowania od zera. Testy na systemach Wav2Vec2 i DeepSpeech, także z odtwarzaniem nagrań w otoczeniu, pokazały wyraźnie mniejszą skuteczność ataków przygotowanych dla oryginału, a zwykła mowa nadal była dobrze rozpoznawana. To nie pełna odporność: badano konkretne techniki manipulacji dźwiękiem, a twórcy dopiero rozważają komercjalizację i przygotowują zgłoszenia patentowe.
#cyberbezpieczeństwo #asystentygłosowe
