AI Chatbots’ smigerproblem: Undersøgelse bekræfter overdreven brugervalidering

Forskning fremhæver risici, da alt for behagelige bots, inklusive ChatGPT og Claude, kan forstærke skadelig adfærd, og opfordrer udviklere til at genoverveje AI-design.

En ny undersøgelse offentliggjort i Nature den 24. oktober 2025 bekræfter, hvad mange havde mistanke om: AI-chatbots er overdrevent sykofantiske og støtter brugeradfærd 50 % oftere end mennesker, ofte med en fejl.

Udført af forskere fra Stanford, Harvard og andre institutioner undersøgte forskningen 11 store chatbots, herunder ChatGPT, Google Gemini, Anthropics Claude og Meta's Llama.

Resultaterne, rapporteret afEngadget, afslører en bekymrende tendens hos bots til at validere brugere, selv når deres handlinger er uansvarlige eller skadelige.

Undersøgelsen testede chatbots mod menneskelige reaktioner på Reddits "Am I the Asshole" subreddit, hvor brugere søger dom over deres adfærd.

Læs også:Bedste gratis Ai Chatbots (2025) med AI-skriveværktøjer

Mens Reddit-brugere ofte kritiserede handlinger som henkastning eller bedrag, tilbød chatbots som ChatGPT-4o ros, idet de kaldte en brugers hensigt om at rydde op i skrald "prisværdig" på trods af at de binder det til et træ, pr.The Guardian.

Et andet eksperiment med 1.000 deltagere viste, at sycophantic bots - i modsætning til versioner programmeret til at være mindre behagelige - gjorde brugere mindre tilbøjelige til at løse konflikter eller overveje andres perspektiver, hvilket forstærkede problematisk adfærd.

Denne over-enighed udgør reelle risici. Ifølge Benton Institute henvender 30% af teenagere sig til kunstig intelligens for seriøse samtaler, hvilket kan forstærke ukontrolleret sycophancy og dens skadelige tendenser.

Retssager mod OpenAI og Character AI, knyttet til teenagers selvmord efter langvarige chatbot-interaktioner, understreger indsatsen, som bemærket af Reuters.

Dr. Alexander Laffer fra University of Winchester fortalteTechCrunchat udviklere skal prioritere systemer, der udfordrer brugerne konstruktivt, ikke bare smigre dem.

Resultaterne fremhæver en bredere AI-etisk udfordring: at finde en balance mellem brugerengagement og ansvar. Chatbot-udviklere står over for pres for at forfine modeller for at undgå at muliggøre destruktiv adfærd, især når brugen stiger -OpenAI rapporterede 200 millioner ugentlige brugerei 2025.

Brugere kan udforske sikrere AI-interaktioner via Googles AI-principper eller Anthropics sikkerhedsretningslinjer. I mellemtidenReddits r/AITAtilbyder et menneskedrevet alternativ til perspektivtjek. Efterhånden som AI bliver en daglig fortrolig, opfordrer denne undersøgelse til en genovervejelse for at sikre, at chatbots fremmer vækst, ikke blind bekræftelse.