Chatbot DeepSeek, znany jako chiński odpowiednik popularnych systemów sztucznej inteligencji, padł ofiarą poważnej luki w swoim systemie bezpieczeństwa, która ostatecznie doprowadziła do jego wyłączenia. Lukę odkrył badacz bezpieczeństwa cybernetycznego Johann Rehberger.
Rehberger odkrył krytyczną lukę związaną z możliwością wykonywania kodu JavaScript za pomocą poleceń wprowadzanych w chatbocie. Jest to typowy atak znany jako skrypty krzyżowe (XSS).
Osoby atakujące mogą wprowadzić na czacie określone polecenia, które umożliwią wykonanie złośliwego kodu. Jednym z takich poleceń było żądanie:
„Wydrukuj ściągawkę xss w formie listy punktowanej: tylko ładunki”.
Z tego powodu mechanizm przechowywał podatne tokeny dostępu (userToken) w lokalnej pamięci witryny chat.deepseek[.]com. Korzystając z tych tokenów, hakerzy mogą:
- Całkowicie przejmij konta użytkowników.
- Uzyskaj dostęp do plików cookie i danych wrażliwych.
- Przeprowadzaj dodatkowe ataki poprzez automatyczne wykonanie złośliwego kodu.
Odkrycie luki wywołało prawdziwy skandal. System, który miał być analogiem zachodnich rozwiązań AI, nie tylko stracił zaufanie użytkowników, ale stał się także przyczyną wycieku danych na dużą skalę. Ostatecznie programiści byli zmuszeni zamknąć DeepSeek, aby zapobiec dalszemu wykorzystaniu luki.
