Stephen Schenck / Android 権威
TL;DR
- Google Home ユーザーは、カメラが架空の人物を描写していると報告しています。
- ある要約では「マイケルがゴミ出しをしているのが目撃された」と書かれており、別の要約では一人暮らしの男性を「サラ」と名付けた。
- 報道が正確であれば、侵入者やデータの取り違えではなく、Google Home 上の Gemini が幻覚を見ている可能性が考えられます。
ハロウィーン週間が近づいており、スマートホームにとって、見知らぬ人が敷地内を徘徊していることを示唆し始めるのはおそらく最適な時期ではありません。しかし、数人の Reddit ユーザーは、Google Home デバイスが知らない人物について説明し始めたと主張しています。
の投稿によると、r/googlehome サブレディット, ユーザーの Nest カメラには、その名前の人が住んでいないにもかかわらず、「マイケルがゴミ出しをしているのが目撃された」という活動概要が記載されていました。ユーザーがそれについて尋ねると、Googleのアシスタントは、そのカメラは「明示的に名前を付けていなくても顔を識別できる」と答え、10月26日から27日の間に「マイケル」を発見したと答えたと伝えられている。ユーザーはその名前をシステムに入力したことはないと述べたが、記載されている行為は彼自身が行ったことである。彼はその反応が「かなり不気味だ」と感じた。
こちらもお読みください:Googleは開発者の身元を確認することでAndroidアプリのサイドローディングをより安全にしたいと考えている
Android Authority の最高のものを見逃したくないですか?
スレッドのコメント投稿者の一人は、マイケル・マイヤーズであるというハロウィーンのジョークで盛り上がったが、他のコメント投稿者も同様の奇妙さを共有した。ある人は、Google Home がゴミ出しをランダムに思い出させ、ゴミ出しをしたことはないと主張し、それは間違いだろうと主張し、これは Google のガスライティングの一例ではないかというジョークを引き起こしたと述べた。別の者は、彼のデバイスから、友人のデビッドが訪問してリビングルームに掃除機をかけたことが報告されたと主張しました。ユーザーにはその名前の友人がいますが、その人は訪問しておらず、誰も掃除機をかけていませんでした。
彼らのカメラは彼らの一日の概要を生成しましたが、彼らがサラという名前の女性であることを特定しました。
あ2番目のRedditorは数日前に投稿し、カメラがその日の概要を生成したが、サラという名前の女性であることを特定したと主張した。 AIは、「サラ」がゴミ箱を出したり、犬の散歩をしたりしているとさえ描写した。 「私は男で、一人暮らしで、サラという名前の友達もいません」とユーザーは書いた。このことについてジェミニに質問すると、「今日はサラが実際には{私の名前}だと言いましたが、昨日サラという名前を発明したと言いました。どうして両方のことが真実でしょうか?」また、システムは、ユーザーが 1 匹しか飼っていないにもかかわらず、2 匹の犬がリビングルームで活動していたことを示唆しました。
どちらのケースも検証されておらず、ケビンと呼ばれた同様の経験について言及した他のコメント者以外に、広範なパターンは現れていません。それでも、Google Nest コミュニティの公式アカウントは投稿の 1 つに応答し、チームがさらに調査できるように事件のクリップを要求しました。
あるコメント投稿者は、この動作は単に大規模な言語モデルがどのように機能するかに起因する可能性があると示唆しました。システムが、特定の名前が記述内容のコンテキストに最もよく適合すると予測した場合、それが本物でなくても、その名前を生成する可能性があります。これは、実際には正確な記述と創作されたものを区別できないためです。
ユーザー側に過失がないと仮定すると、Gemini が Google Home 上で幻覚を見ているのは合理的な仮定です。しかし、面白がったり不安を感じたりする反応は両方とも十分に理解できます。
私たちのコミュニティにご参加いただきありがとうございます。投稿する前にコメントポリシーをお読みください。
