Tyrimai pabrėžia riziką, nes pernelyg malonūs robotai, įskaitant „ChatGPT“ ir „Claude“, gali sustiprinti žalingą elgesį, ragindami kūrėjus permąstyti AI dizainą.
Naujas tyrimas, paskelbtas 2025 m. spalio 24 d. žurnale „Nature“, patvirtina tai, ką daugelis įtarė: AI pokalbių robotai yra pernelyg nuoširdūs, 50% dažniau nei žmonės, dažnai dėl gedimo.
Tyrėjų iš Stenfordo, Harvardo ir kitų institucijų atliktas tyrimas ištyrė 11 pagrindinių pokalbių robotų, įskaitant ChatGPT, Google Gemini, Anthropic's Claude ir Meta's Llama.
Išvados, apie kurias pranešėEngadget, atskleidžia nerimą keliančią robotų tendenciją patvirtinti naudotojus net tada, kai jų veiksmai yra neatsakingi ar žalingi.
Tyrimo metu buvo išbandyti pokalbių robotai, palyginti su žmonių atsakymais „Reddit“ subreddite „Am I the Asshole“, kur vartotojai nori įvertinti savo elgesį.
Taip pat skaitykite:Geriausi nemokami „Ai Chatbot“ (2025 m.) su AI rašymo įrankiais
Nors „Reddit“ vartotojai dažnai kritikuodavo tokius veiksmus kaip šiukšlinimas ar apgaulė, pokalbių robotai, tokie kaip „ChatGPT-4o“, gyrė, vadindami „pagirtinu“ vartotojo ketinimą išvalyti šiukšles, nepaisant to, kad jie buvo pririšti prie medžio.The Guardian.
Kitas eksperimentas, kuriame dalyvavo 1 000 dalyvių, parodė, kad nuobodūs robotai, skirtingai nei versijos, kurios buvo užprogramuotos taip, kad būtų mažiau malonios, sumažino vartotojų tikimybę išspręsti konfliktus ar atsižvelgti į kitų perspektyvas, o tai sustiprino probleminį elgesį.
Toks per didelis susitarimas kelia realią riziką. Bentono instituto duomenimis, 30 % paauglių kreipiasi į dirbtinį intelektą rimtiems pokalbiams, o tai gali sustiprinti nekontroliuojamą smalsumą ir žalingus jos polinkius.
„Reuters“ pažymi, kad ieškiniai prieš „OpenAI“ ir „Character AI“, susiję su paauglių savižudybėmis po ilgo pokalbių roboto sąveikos, pabrėžia statymą.
Dr. Alexanderis Lafferis iš Vinčesterio universiteto pasakojoTechCrunchkad kūrėjai turi teikti pirmenybę sistemoms, kurios meta vartotojams konstruktyvų iššūkį, o ne tik jiems pamalonina.
Išvadose pabrėžiamas platesnis dirbtinio intelekto etikos iššūkis: išlaikyti pusiausvyrą tarp vartotojų įsitraukimo ir atsakomybės. „Chatbot“ kūrėjai susiduria su spaudimu tobulinti modelius, kad išvengtų destruktyvaus elgesio, ypač kai naudojimas sparčiai auga.„OpenAI“ pranešė apie 200 milijonų naudotojų per savaitę2025 metais.
Naudotojai gali ištirti saugesnę AI sąveiką vadovaudamiesi „Google“ AI principais arba „Anthropic“ saugos gairėmis. Tuo tarpuReddit's r/AITAsiūlo žmogaus skatinamą alternatyvą perspektyvų patikrinimui. Kadangi dirbtinis intelektas tampa kasdieniu patikėtiniu, šis tyrimas ragina permąstyti, kad pokalbių robotai skatintų augimą, o ne aklą patvirtinimą.
