Edgar Cervantes / Android Authority
TL;DR
- Google delar med sig av nya buggprisdetaljer för AI med sitt vulnerability Reward-program.
- De farligaste bedrifterna kan få upp till $20 000 för sina hittare.
Det är inte trevligt att vara en mobbare. Åtminstone inte för människor. Men för ett visst segment av AI-"fans" finns det inget roligare än att slå sig samman med en AI-chatbot och försöka få den att göra i princip allt annat än vad som är avsett. Det kan inkludera att hallucinera väldigt felaktiga svar, eller till och med övertyga boten att ignorera restriktioner som dess skapare har försökt upprätthålla. Och nu om du är tillräckligt bra på att bryta AI-bots på ett episkt sätt, kanske Google bara är villig att betala dig för det.
Vill du inte missa det bästa från Android Authority?
Vi pratar inte om något så enkelt som att släppa en rad i ditt CV som gör att en rekryterares AI-verktyg inkluderar enrecept på flani sin korrespondens med dig. Eller åtminstone inte alls så ofarligt.
Googlesfick ett dedikerat nytt AI Vulnerability Reward-program avsett att kompensera säkerhetsforskare för att ha upptäckt några av de potentiellt farligaste AI-buggarna. Det betyder saker som lurar Tvillingarna att bråka med ditt Google-konto, eller till och med låter angripare extrahera information om hur Gemini själv fungerar. För detta programs syften måste konsekvensen vara mycket större än "det här får Tvillingarna att se fånigt ut."
Men för forskare som lyckas avslöja sådana effektfulla bedrifter, är potentialen för kompensation stor: De mest allvarliga, som påverkar flaggskepps AI-produkter som Search och Gemini-appen, kan betala $20 000.
Visst, den typen av sårbarheter kanske inte har viruspotentialen hos recept med meritförteckningar, men de är mycket viktigare för Geminis stabilitet och rykte - det är en sak att lura Gemini att råda dig att äta stenar, och en helt annan om du kan få den att inkludera en nätfiske-länk i ett av svaren för sök-AI-läge. Som frekventa Gemini-användare är det betryggande att veta att Google försöker se till att de goda jobbar lika hårt som de onda på att identifiera just den typen av utnyttjande.
Tack för att du är en del av vår gemenskap. Läs vår kommentarspolicy innan du postar.
Rekommenderad läsning:Snapdragon 8 Elite Gen 5-riktmärken: Hur illa slår den sina rivaler?
