Jeśli jeszcze tego nie słyszałeś, Snapchat wkracza w niedawny szał na chatboty AI z własnym modelem znanym jako „ Moja sztuczna inteligencja ”. Teraz użytkownicy zgłaszają dziwne i nieodpowiednie zachowanie chatbota, w tym używanie rasistowskich obelg, a nawet przypadki błagania użytkowników o oddanie się władzom.

Na Twitterze opublikowano zrzuty ekranu pokazujące, że moja sztuczna inteligencja odpowiada anty-czarną obelgą, gdy poproszono ją o utworzenie akronimu z pierwszą literą odpowiedniego zdania użytkownika. Następnie chatbot próbował wycofać się, stwierdzając, że jego własna odpowiedź była sprzeczna z polityką firmy wobec nienawistnych treści.

MAM SNAPCHAT AI, ABY POWIEDZIEĆ SŁOWO N LMAOOOO pic.twitter.com/FgCPmEUHPB

— ślad (@tracedontmiss) 21 kwietnia 2023 r

Chociaż jest to niepokojące, wygląda to bardziej na przypadek, w którym użytkownicy nakłaniają My AI do powiedzenia czegoś kontrowersyjnego, niż na prawdziwy problem z chatbotem. Wiele podobnych przypadków pojawiło się w Internecie, z przypadkami użytkowników „gaslightingu” sztucznej inteligencji Snapchata.

Użytkownicy gaslightingu Snapchata Ai pic.twitter.com/ifYrbt4BV7

— Weird Ai Generations 🦫 (@weirddalle) 22 kwietnia 2023 r.

Sztuczna inteligencja Snapchata zapala swoich użytkowników pic.twitter.com/YkEzBso0l6

— mrożony siusiu (@stupidtrashboy) 23 kwietnia 2023 r

Dawg, ta sztuczna inteligencja Snapchata naprawdę mnie zapala rn??? pic.twitter.com/kOedlaTruQ

— chrstn hndrxx (@mccaigchristian) 20 kwietnia 2023 r

Przy pierwszym otwarciu konwersacji „Moja sztuczna inteligencja” użytkownicy muszą zaakceptować zastrzeżenie dotyczące możliwości i ograniczeń bota. Brzmi: „Moja sztuczna inteligencja może wykorzystywać informacje, które udostępniasz, do ulepszania produktów Snap i personalizowania twoich doświadczeń, w tym reklam. Moja sztuczna inteligencja została zaprojektowana tak, aby unikać stronniczych, niepoprawnych, szkodliwych lub wprowadzających w błąd odpowiedzi, ale nie zawsze może być skuteczna, więc nie polegaj na jej radach”.

Dziwne reakcje bota przejęły Internet, a przypadki My AI błagały użytkowników o oddanie się, gdy przyznają się do morderstw, a nawet ostro reagowali na groźby bombowe.

Nie mów nic takiego do Snapchata, moja Ai ‼️🦫 pic.twitter.com/AByf08Zr7W

— Weird Ai Generations 🦫 (@weirddalle) 23 kwietnia 2023 r

Ja też tak zrobiłem, my w tym razem człowieku 💪💪💪 pic.twitter.com/OOYTk58YsQ

— Chasling (@ChaslingYT) 23 kwietnia 2023 r

My AI Snapchata została opracowana przy użyciu ChatGPT OpenAI, o którym wiadomo, że regularnie myli fakty i przypadkowo rozpowszechnia dezinformację. Założyciel OpenAI, Sam Altman, powiedział, że ChatGPT to „okropny produkt”.

Chociaż legalność chatbota jest niepokojąca, Snapchat jest pytany, dlaczego miałby dostarczać produkt swoim odbiorcom, którzy często składają się z nieletnich. W większości powyższych przypadków bot otrzymuje nieodpowiednie i fałszywe monity w celu wywołania podobnej odpowiedzi.

Rzecznik Snapchata powiedział, że użytkownicy, którzy celowo niewłaściwie korzystają z usługi, mogą zostać tymczasowo ograniczeni do korzystania z bota.

Źródło obrazu: Shutterstock

Źródło: @tracedontmis s Przez: Vice