Błąd w tłumaczeniu sztucznej inteligencji Google Gmaila manipuluje e-mailami, zamieniając politycznego „asa” w „tyłkę”

Agresywne wysiłki Google mające na celu integrację sztucznej inteligencji ze swoimi produktami napotykają pewne przeszkody. Poważnym błędem w Gmailu jest aktywne zmienianie treści e-maili w języku niemieckim bez zgody użytkownika. Gemini AI błędnie identyfikuje tekst niemiecki jako angielski, a następnie „tłumaczy” go z powrotem, wprowadzając dziwaczne i szkodliwe błędy.

Wada byłapo raz pierwszy ogłoszono w maju 2025 r. przez niemiecki serwis informacyjny T-Online. Odkryła, że ​​jej własne biuletyny były zmieniane, słynnie zmieniając politycznego „asa” (Ass) na „ass” (Arsch). Google przyznał się do usterki, obwiniając zamieszanie sztucznej inteligencji związane z angielskim kodem HTML.

Poprawka jest powoli wdrażana, ale jej ukończenie może zająć tygodnie. Incydent rodzi poważne pytania dotyczące kontroli jakości firmy, która stara się wdrożyć sztuczną inteligencję w całym swoim ekosystemie, od wyszukiwarki po aplikacje zwiększające produktywność.

„Dupa” za „asa”: kiedy tłumaczenie AI ma halucynacje

Błędy generowane przez wadliwą sztuczną inteligencję Gmaila to nie tylko literówki; są to znaczące manipulacje treścią, które podważają integralność komunikacji. W swoim szczegółowym raporcie T-Onlinedokumentuje, w jaki sposób system powodował błędy o charakterze politycznym. W biuletynie tekst o wojnie na Ukrainie zmieniono „stanowiska ukraińskie” na „pozycje amerykańskie”.

Przeczytaj także:Gmail uruchamia nową kartę, która upraszcza rezygnację z subskrypcji e-maili

Wyrządziło to znaczne szkody wizerunkowe, zmuszając media do obrony własnej pracy przed błędami, których nigdy nie popełniły. Florian Harms, redaktor naczelny T-Online, zauważył poważny wpływ na wiarygodność, stwierdzając, że „dla reputacji dziennikarskiej i wiarygodności poważnych mediów takie manipulacje tekstami są druzgocące”.

Ujawnił stopień zamieszania czytelników, dodając: „w ostatnich miesiącach pojawiały się nawet pytania, czy nasi redaktorzy byli pijani”. Problem stał się na tyle niepokojący, że wywołał wewnętrzne obawy dotyczące potencjalnego cyberataku, zanim zidentyfikowano prawdziwą przyczynę.

Uważa się, że główną przyczyną jest dezorientacja sztucznej inteligencji przez anglojęzyczne znaczniki HTML w kodzie źródłowym wiadomości e-mail. To uruchamia bezsensowny proces tłumaczenia. Jak wyjaśnił ekspert z Niemieckiego Centrum Badań nad Sztuczną Inteligencją (DFKI), „jeśli model jest zmuszony do tłumaczenia z niemieckiego na niemiecki, do czego oczywiście nie został przeszkolony, może mieć halucynacje”. Ta „halucynacja” powoduje nieprzewidywalne skutki.

„Gips na ranę”: powolna reakcja Google na wyniszczający błąd

Pomimo dotkliwości reakcja Google została skrytykowana jako powolna i nieprzejrzysta. Po tym, jak T-Online po raz pierwszy zgłosiło problem w maju, wstępne poprawki Google wprowadzone na początku czerwca nie rozwiązały problemu. Poprawki poprawiły określone zgłoszone przykłady, ale nie rozwiązały podstawowego błędu logicznego, umożliwiając pojawienie się nowych, różnych błędów.

Wywołało to ostrą naganę ze strony spółki-matki T-Online. Przedstawiciel IT powiedział Google: „wygląda na to, że zespół programistów po prostu przyłożył plaster na ranę, nie naprawiając faktycznej przyczyny”. Dopiero na spotkaniu 30 czerwca Google przyznał, że trwają prace nad bardziej kompleksowym rozwiązaniem.

Google publicznie określiło tę kwestię jako czysto techniczną. Nienazwany rzecznik firmy stwierdził: „Jesteśmy przekonani, że jest to problem techniczny”, wykluczając jakąkolwiek celową manipulację. Jednak sposób, w jaki firma poradziła sobie z błędem, wzbudził zainteresowanie ze względu na brak proaktywnej komunikacji z użytkownikami i wydawcami, których dotyczy problem.

Usterkapokazuje rzeczywiste konsekwencje nieprawidłowego działania systemów AI, które często są domyślnie włączone. Wielu użytkowników,według raportów T-Online nie byli nawet świadomi, że aktywowali tę funkcję, co rodzi pytania dotyczące zgody użytkownika i przejrzystości.

Niebezpieczeństwa związane z wszechobecną sztuczną inteligencją

To fiasko Gmaila stanowi przestrogę w dobie wszechobecnej integracji sztucznej inteligencji. Dzieje się tak w chwili, gdy Google zwiększa wysiłki w zakresie osadzania Gemini w swoim pakiecie Workspace. Najnowsze aktualizacje obejmują automatyczne podsumowanie wiadomości e-mail w Gmailu oraz integrację niestandardowych asystentów AI „Gems” z aplikacjami takimi jak Dokumenty i Arkusze.

Chociaż te funkcje obiecują większą produktywność, błąd w tłumaczeniu uwypukla ryzyko związane z wdrażaniem potężnej sztucznej inteligencji bez rygorystycznych testów w świecie rzeczywistym.

Branża nie wykazuje jednak oznak spowolnienia. Jako Ron Richards z podcastu Android Faithfulzauważył niepowstrzymany postęp sztucznej inteligencji,„Ten statek odpłynął… Sztuczna inteligencja tu jest… i nie odejdzie. To kwestia tego, w jaki sposób zdecydujesz się na interakcję z nim…” Dla Google zapewnienie, że interakcja nie jest wadliwa, stało się krytycznym i bardzo publicznym wyzwaniem.