Oto realne zagrożenie dla AI. Wystarczy 250 dokumentów

Zdjęcie: Czarne tło z gęstym wzorem pionowych kolumn zielonych cyfr binarnych 0 i 1 oraz rzadkimi czerwonymi cyframi, przypominające opadający kod.


Nowe badania pokazują, iż duże modele językowe (LLM) mogą zostać skutecznie „zatrute” poprzez wprowadzenie zaledwie niewielkiej liczby złośliwych dokumentów do ich zbiorów treningowych. Dotychczas zakładano, iż zaawansowane systemy AI, trenowane na zbiorach danych liczących miliardy rekordów, wykazują naturalną odporność...