Google Home halluziniert fiktive Identitäten

Stephen Schenck / Android Authority

TL;DR

• Google Home-Nutzer berichten, dass ihre Kameras fiktive Personen beschreiben.
• In einer Zusammenfassung hieß es: „Michael wurde gesehen, wie er den Müll rausbrachte“, während eine andere einen allein lebenden Mann als „Sarah“ bezeichnete.
• Wenn die Berichte korrekt sind, besteht die wahrscheinliche Möglichkeit eher darin, dass Gemini auf Google Home halluziniert, als dass es sich um Eindringlinge oder Datenverwechslungen handelt.

Da die Halloween-Woche vor der Tür steht, ist es wahrscheinlich nicht der beste Zeitpunkt für Ihr Smart Home, darauf hinzuweisen, dass sich unbekannte Personen auf Ihrem Grundstück herumtreiben. Einige Reddit-Benutzer behaupten jedoch, dass ihre Google Home-Geräte begonnen haben, Personen zu beschreiben, die sie nicht kennen.

Laut einem Beitrag auf derr/googlehome-Subreddit, beschrieb die Nest-Kamera eines Nutzers eine Aktivitätszusammenfassung mit der Aussage „Michael wurde gesehen, wie er den Müll rausbrachte“, obwohl dort niemand mit diesem Namen wohnt. Als der Nutzer danach fragte, soll der Assistent von Google geantwortet haben, dass seine Kamera „Gesichter identifizieren kann, auch wenn man sie nicht explizit benannt hat“ und dass sie „Michael“ zwischen dem 26. und 27. Oktober entdeckt habe. Der Nutzer sagte, dass sie diesen Namen nie in das System eingegeben hätten, aber die beschriebenen Aktionen seien das gewesen, was er selbst getan habe. Er fand die Antwort „ziemlich gruselig“.

Mehr lesen:

Sie möchten das Beste von Android Authority nicht verpassen?

Während ein Kommentator im Thread mit einem Halloween-Witz über Michael Myers lachte, berichteten andere über ähnliche Kuriositäten. Eine Person sagte, ihr Google Home habe sie zufällig daran erinnert, den Müll rauszubringen, bestritt jedoch, dies jemals getan zu haben, und bestand dann darauf, dass sie sich geirrt hätten, was zu dem Witz führte, dass es sich um ein Beispiel für Google-Gaslighting handele. Ein anderer behauptete, sein Gerät habe gemeldet, dass sein Freund David das Wohnzimmer besucht und gesaugt habe. Der Benutzer hat einen Freund mit diesem Namen, aber diese Person war nicht zu Besuch und niemand hat gesaugt.

Ihre Kamera erstellte eine Zusammenfassung ihres Tages, identifizierte sie jedoch als eine Frau namens Sarah.

Azweiter Redditor, die ein paar Tage zuvor gepostet hatte, behauptete, ihre Kamera habe eine Zusammenfassung ihres Tages erstellt, identifizierte sie jedoch als eine Frau namens Sarah. Die KI beschrieb sogar, wie „Sarah“ die Mülleimer herausholte und mit ihren Hunden spazieren ging. „Ich bin ein Mann, lebe alleine und habe nicht einmal eine Freundin namens Sarah“, schrieb der Benutzer. Als er Gemini dazu befragte, erhielt er die verwirrende Antwort: „Du hast mir gesagt, dass Sarah heute tatsächlich {mein Name} ist, ich aber gestern den Namen Sarah erfunden habe. Wie kann das beides wahr sein?“ Das System schlug außerdem vor, dass zwei Hunde im Wohnzimmer aktiv waren, obwohl der Benutzer nur einen besaß.

Keiner der Fälle wurde bestätigt, und es hat sich kein weit verbreitetes Muster herauskristallisiert, abgesehen von einem anderen Kommentator, der eine ähnliche Erfahrung mit der Bezeichnung Kevin erwähnte. Dennoch antwortete das offizielle Google Nest-Community-Konto auf einen der Beiträge und bat um einen Clip des Vorfalls, damit das Team weitere Untersuchungen durchführen konnte.

Ein Kommentator schlug vor, dass das Verhalten einfach darauf zurückzuführen sein könnte, wie große Sprachmodelle funktionieren. Wenn das System vorhersagt, dass ein bestimmter Name am besten zum Kontext dessen passt, was er beschreibt, kann es diesen Namen generieren, auch wenn er nicht real ist, da es nicht wirklich zwischen einer korrekten und einer erfundenen Beschreibung unterscheiden kann.

Sofern kein Verschulden seitens der Nutzer vorliegt, ist das Halluzinieren von Gemini auf Google Home eine vernünftige Annahme. Allerdings sind sowohl die amüsierten als auch die verunsicherten Reaktionen durchaus verständlich.

Vielen Dank, dass Sie Teil unserer Gemeinschaft sind. Lesen Sie unsere Kommentarrichtlinie, bevor Sie etwas posten.