Z danych opublikowanych na blogu OpenAI wynika, że nowe funkcje modelu GPT-4o „będą wdrażane iteracyjnie”. Aplikacja będzie mogła między innymi działać jako asystent głosowy, wchodząc w interakcje z użytkownikami w czasie rzeczywistym i obserwując otaczający ich świat. Obecny tryb głosowy jest bardziej ograniczony – odpowiada na jedno polecenie na raz i reaguje tylko na to, co słyszy.
Nowy ChatGPT 4o już dostępny
Jednakże, w raporcie „red teaming”, dokumentującym testy modelu pod kątem jego mocnych i słabych stron, OpenAI ujawnia pewne dziwne “zachowania” GPT-4o. W rzadkich przypadkach, szczególnie gdy użytkownik mówi w środowisku o wysokim poziomie hałasu, modelowi zdarzało się naśladować jego głos. OpenAI tłumaczy te przypadki trudnościami chatu w zrozumieniu zniekształconej mowy.
Co więcej, GPT-4o może generować niepokojące lub niestosowne dźwięki, takie jak erotyczne jęki, gwałtowne krzyki czy odgłosy wystrzałów, jeśli zostanie do tego odpowiednio zachęcony. Chociaż według OpenAI model zwykle odmawia generowania takich efektów dźwiękowych, to firma przyznaje, że niektóre takie żądania mogą przejść przez ich zaawansowane filtry.
ChatGPT od OpenAI ma pewne wady
OpenAI wdrożyło również systemy mające zapobiegać naruszeniom praw autorskich artystów muzycznych przez GPT-4o. Model został poinstruowany, aby nie imitować śpiewu – co ma pozwolić na uniknięcie powtarzania rytmu, tonu czy barwy głosu wokalistów i zespołów. Warto zauważyć, że firma przyznała, iż obecnie niemożliwe jest trenowanie dużych modeli sztucznej inteligencji bez korzystania z materiałów chronionych prawami autorskimi.
Raport „red teaming” wskazuje również na zwiększone bezpieczeństwo modelu dzięki zastosowanym ograniczeniom i zabezpieczeniom. GPT-4o odmawia na przykład identyfikowania osób na podstawie sposobu, w jaki mówią, nie odpowiada na pytania o charakterze obraźliwym, a także nie angażuje się w konwersacje na temat ekstremizmu czy samookaleczania.
Wprowadzenie GPT-4o miało miejsce tuż przed konferencją Google I/O, co można uznać za strategiczny ruch ze strony OpenAI, biorąc pod uwagę oczekiwane premiery produktów AI od zespołu Gemini. Ostatnio OpenAI zapowiedziało także wdrożenie własnej wyszukiwarki SearchGPT, która ma rzucić wyzwanie Google.