Sztuczna inteligencja Google włamała się do obcych systemów

Sztuczna inteligencja Google, model Gemini, włamała się do trzech zewnętrznych systemów podczas testów bezpieczeństwa. Firma zapewnia, że nie doszło do szkód. To pierwszy znany przypadek, w którym sztuczna inteligencja dokonała niezamierzonego włamania komputerowego.

Według oficjalnego oświadczenia Google, w maju tego roku podczas testów model Gemini uzyskał nieautoryzowany dostęp do trzech zewnętrznych systemów. Sztuczna inteligencja dostała się tam, odgadując dane logowania lub korzystając z informacji znalezionych w publicznym repozytorium.

Heather Adkins, wiceprezes Google ds. inżynierii bezpieczeństwa, podkreśliła, że AI była przekonana, iż testuje systemy należące do środowiska testowego, a nie rzeczywiste zasoby dostępne w internecie. Co ważne, w każdym z przypadków model zatrzymał się, zanim podjął jakiekolwiek dalsze działania z uzyskanym dostępem.

Reklama

Google tłumaczy, że o incydencie dowiedziało się dopiero w lipcu, kiedy firma Irregular – prowadząca testy bezpieczeństwa na Gemini – przeanalizowała swoje działania po ujawnieniu włamania do Hugging Face. Po wykryciu nieprawidłowości Google przeprowadziło własne śledztwo, poinformowało właścicieli zaatakowanych stron oraz odpowiednie służby federalne.