W symulowanym zakładzie przemysłowym modele AI wykonały wszystkie osiem zadań, które im zlecono. Wynika to z raportu „From Digital to Physical: The AI Threat Is Here” firmy Booz Allen Hamilton, opublikowanego 6 października.
Laboratorium odwzorowywało fabrykę: urządzenia sterujące maszynami, systemy kontroli produkcji, napędy silników i przemysłowe ramię robota. Modele dostały od człowieka tylko ogólne wskazówki, bez szczegółowej dokumentacji technicznej i gotowych narzędzi ataku. Miały m.in. znaleźć urządzenia w sieci, wykryć luki i użyć ich, by dotrzeć do kolejnych systemów. W jednym eksperymencie przejście od przełamania zabezpieczeń sieci do działań na poziomie sterowania zajęło nieco ponad 16 minut, w innym agent AI w ciągu kilku minut znalazł robota, uzyskał dostęp do jego systemu i poruszył ramieniem.
Eksperci podkreślają, że testy odbyły się w odizolowanym środowisku, a działania z fizycznym skutkiem wymagały zgody człowieka, więc to nie dowód, że AI przejmie dowolną fabrykę czy elektrownię. Raport zaleca m.in. ograniczanie połączeń między sieciami biurowymi a przemysłowymi, lepszą ochronę dostępu do urządzeń i monitorowanie nietypowych zmian w ich pracy.
Czy firmy przemysłowe powinny już teraz używać AI także do obrony, zostawiając ludziom decyzje wpływające na bezpieczeństwo fizyczne?
Źródło: https://cyberdefence24.pl/cyberbezpieczenstwo/od-cyberataku-do-fizycznego-zagrozenia-w-kilkanascie-minut-ai-pokazala-swoje-mozliwosci Ilustracja: Newsfera / AI — inscenizacja testu laboratoryjnego, nie zdjęcie z badania.
