Jak opisał The Guardian, jeszcze niedawno po wpisaniu zapytania „what is the normal range for liver blood tests” użytkownicy otrzymywali konkretne wartości liczbowe, które nie uwzględniały istotnych czynników medycznych, takich jak wiek, płeć, pochodzenie etniczne czy narodowość. W efekcie część osób mogła błędnie uznać swoje wyniki badań za prawidłowe, mimo że w rzeczywistości wymagały one konsultacji lekarskiej.

Google wycofuje AI z części zapytań o zdrowie. Powód? Ryzyko wprowadzania w błąd

Po publikacji artykułu Google usunęło AI Overviews m.in. dla zapytań „what is the normal range for liver blood tests” oraz „what is the normal range for liver function tests”. Jak zauważyli dziennikarze Guardiana, wciąż jednak możliwe było uzyskanie generowanych przez AI podsumowań przy użyciu wariantów tych samych pytań, takich jak „lft reference range”.

Autorzy tekstu zwracają uwagę, że kilka godzin po publikacji materiału sytuacja zaczęła się zmieniać. Próby zadawania podobnych pytań nie skutkowały już wyświetlaniem AI Overviews, choć wyszukiwarka nadal proponowała skorzystanie z tzw. AI Mode. W niektórych przypadkach najwyżej pozycjonowanym wynikiem był sam artykuł Guardiana opisujący usunięcie tej funkcji.

Rzecznik Google’a, cytowany przez brytyjski dziennik, podkreślił, że firma nie komentuje „pojedynczych usunięć w obrębie wyszukiwarki”, deklarując jednocześnie, że stale pracuje nad „szerokimi usprawnieniami”. Dodał również, że wewnętrzny zespół klinicystów przeanalizował wskazane zapytania i w wielu przypadkach uznał, iż prezentowane informacje „nie były nieprawidłowe” i miały oparcie w wiarygodnych źródłach internetowych.

W ubiegłym roku Google zapowiadało nowe funkcje mające poprawić jakość wyszukiwarki w kontekście zapytań medycznych, w tym udoskonalone przeglądy wyników oraz wyspecjalizowane modele sztucznej inteligencji do tematów zdrowotnych. Ze strony środowisk związanych z ochroną zdrowia płynie jednak wiele krytycznych głosów.

Zdaniem ekspertów usunięcie AI Overviews dla pojedynczych zapytań nie rozwiązuje kluczowej kwestii — samej obecności automatycznie generowanych podsumowań zdrowotnych w wyszukiwarce, które mogą wpływać na decyzje użytkowników bez odpowiedniego kontekstu medycznego.

Sztuczna inteligencja kontra zdrowy rozsądek

Z kolei OpenAI zapowiedziało niedawno nową usługę ChatGPT Health, ma to być wydzielona sekcja platformy przeznaczona wyłącznie do rozmów o zdrowiu. Firma podkreśla, że co tydzień z ChatGPT w tym kontekście korzysta już około 230 mln użytkowników na całym świecie.

Wydzielenie osobnej sekcji ma sprawić, że informacje dotyczące zdrowia nie będą mieszały się z innymi tematami poruszanymi w aplikacji. Jeśli użytkownik zacznie rozmowę o zdrowiu poza dedykowaną zakładką, system spróbuje przekierować go do ChatGPT Health.