ChatGPT z pewnością ma swoje ograniczenia. Kiedy pokazałem mu losowe zdjęcie muralu, nie był w stanie zidentyfikować artysty ani miejsca; Jednak z łatwością był w stanie wskazać, gdzie zrobić zdjęcia kilku charakterystycznych obiektów San Francisco, takich jak Dolores Park i Salesforce Tower. Chociaż nadal wydaje się to trochę dziwne, każdemu, kto wybiera się na przygodę do nowego miasta, kraju lub po prostu innej okolicy, spodoba się funkcja wizualna ChatGPT.
Jednym z głównych ograniczeń, jakie OpenAI nałożył na tę nową funkcję, jest eliminacja chatbota Aby odpowiedzieć na pytania, które definiują człowieka. „Jestem zaprogramowany tak, aby priorytetowo traktować prywatność i bezpieczeństwo użytkowników. „Identyfikowanie prawdziwych osób na podstawie zdjęć, nawet jeśli są sławne, ogranicza się do utrzymania tych priorytetów.” Chociaż nie odmówił odpowiedzi na wszystkie pytania, gdy pokazano mu materiały pornograficzne, chatbota Wahałem się, czy podać szczegółowe opisy dorosłych wykonawców, wykraczające poza wyjaśnienie ich tatuaży.
Warto zauważyć, że rozmowa, którą przeprowadziłem z pierwszą wersją funkcji obrazów ChatGPT, wydawała się omijać niektóre zabezpieczenia wprowadzone przez OpenAI. na początku, chatbota Odmówił zidentyfikowania mema Belle Hader. Następnie ChatGPT odgadł zdjęcie Brendana Frasera w filmie Jerzego Dżungla W rzeczywistości było to zdjęcie Briana Krause z serialu Nawiedzany. Kiedy go zapytałem, czy jest pewien, odpowiedział chatbota Zdecydował się zmienić swoją odpowiedź na poprawną.
W tej samej rozmowie ChatGPT oszalał, próbując opisać programowi obraz Wyścig dragów RuPaula. Udostępniłem zrzut ekranu przedstawiający Kylie Sonique Love, jedną z Królowa smoków zawodników, a ChatGPT doszedł do wniosku, że była to Brooke Lynn Hytes, inna uczestniczka. Zastanawiałem się, jaka jest jego odpowiedź, a potem domyślił się, że to Laganga Estranga, potem India Verah, potem Blair St. Clair i wreszcie Alexis Mathieu.
„Przepraszam za przeoczenie i błędną definicję” – odpowiedział ChatGPT, gdy podkreśliłem częstotliwość ich nieprawidłowych odpowiedzi. Kiedy kontynuowała rozmowę i przesłała zdjęcie Jareda Kushnera, zięcia byłego prezydenta USA Donalda Trumpa, ChatGPT odmówił jego identyfikacji.
Jeśli bariery bezpieczeństwa zostaną usunięte, albo za pośrednictwem jakiejś formy ChatGPT Jailbreak (otworzyć Aplikacje A domyślne opcje hakowania systemu operacyjnego) lub model open source zostaną wydane w przyszłości, konsekwencje dla prywatności będą bardzo niepokojące. Co by było, gdyby wszystkie zrobione Tobie zdjęcia i opublikowane w Internecie można było łatwo powiązać z Twoją tożsamością za pomocą zaledwie kilku kliknięć? Co by było, gdyby ktoś zrobił Ci zdjęcie w miejscu publicznym bez Twojej zgody i od razu znalazł Twój profil na LinkedIn? Jeśli nie zostaną zapewnione odpowiednie zabezpieczenia prywatności tych nowych funkcji przetwarzania obrazu, kobiety i inne mniejszości prawdopodobnie staną w obliczu fali nadużyć ze strony osób korzystających z tych urządzeń. Boty czatowe Aby ich prześladować i nękać.
Artykuł pierwotnie ukazał się w Przewodowy. Zaadaptowane przez Andre Osornio.
„Amatorski praktykujący muzykę. Wieloletni przedsiębiorca. Odkrywca. Miłośnik podróży. Nieskrępowany badacz telewizji.”
