Dyrektor generalny Google przyznaje, że istnieją „całkowicie niedopuszczalne” problemy z sztuczną inteligencją

Chociaż nie ma oficjalnego uzasadnienia, istnieje podejrzenie, że Google starając się zawsze udostępniać obrazy przedstawiające osoby różnych ras, nie obliczył dobrze wpływu w konkretnych kontekstach, w których takie odpowiedzi mogą wydawać się śmieszne.

nowa sztuczna inteligencja od Google, bliźniak, przeżywa trudny start. Zaledwie dwa tygodnie po oficjalnym przedstawieniu się Google był do tego zmuszony Zatrzymaj niektóre jego funkcje Po opublikowaniu w różnych sieciach społecznościowych niektórych obraźliwych i zabawnych wyników, które może wygenerować, gdy zostanie poproszony o wygenerowanie obrazów na podstawie opisu tekstowego.

W niektórych przypadkach narzędzie Odmowa reprezentowania białych ludzi w kontekstach historycznych, które tego wymagają Lub wymieniał Azjatów lub Czarnych, gdy poproszono ich o pokazanie wizerunków Wikingów, nazistów lub średniowiecznych rycerzy angielskich. Nie jest to problem ograniczony do obrazów. Mechanizm generowania tekstu również stał się celem tych ataków ze względu na rzekome uprzedzenia i uprzedzenia co do rodzaju zapewnianych odpowiedzi.

To stwierdzenie, Sundara Pichaia Dyrektor generalny Google w końcu przyznał się do problemu. „Wiem, że niektóre z Waszych odpowiedzi uraziły naszych użytkowników i wykazały stronniczość; żeby było jasne, Dodał: „To jest całkowicie niedopuszczalne i popełniliśmy błąd”. wyjaśnia Pichai.

Choć nie ma oficjalnego uzasadnienia, pojawiają się co do tego wątpliwości Zawsze staram się dostarczać obrazy przedstawiające ludzi różnych ras; Google nie obliczył dobrze wpływu w niektórych kontekstach, w których te odpowiedzi mogą wydawać się głupie.

W publikacjach krążących po sieci narzędzie np. Wyobrażałem sobie, że Ojcowie Założyciele Stanów Zjednoczonych byli czarni, Azjaci lub Hindusi. Prosząc o zdjęcie Papieża, Gemini może również zaoferować zdjęcie kobiety w stroju papieskim.

Pichai dodaje w swoim oświadczeniu: „Nie ma idealnej sztucznej inteligencji, szczególnie na tym etapie rozwoju branży, ale wiemy, że poprzeczka jest dla nas wysoko i będziemy pracować nad problemem tak długo, jak będzie to konieczne”.

Problem, który Google pierwotnie próbował rozwiązać, jest jednak prawdziwym problemem. Dzisiejsze silniki sztucznej inteligencji są szkolone przy użyciu materiałów mogących wprowadzać uprzedzenia i uprzedzenia, co stwarza ryzyko ich utrwalenia, jeśli nie zostaną zaprogramowane środki mające na celu ich wyeliminowanie. To pytanie niepokoi wielu badaczy, programistów i naukowców zaangażowanych w tworzenie tych nowych narzędzi.

Dla Google ten problem oznacza… Cios w i tak już zniszczony wizerunek. Po opracowaniu niektórych technologii umożliwiających nowoczesną sztuczną inteligencję w firmie, w branży dominuje pogląd, że firma nie wprowadza innowacji w tym obszarze w odpowiednim tempie, a jej konkurenci, zwłaszcza… otwarte oko, Udało im się stworzyć bardziej zaawansowane produkty.