Označavanje podataka
Istraga časopisa TIME otkrila je da je OpenAI, kako bi izgradio sigurnosni sustav protiv toksičnog sadržaja (npr. seksualnog zlostavljanja, nasilja, rasizma, seksizma itd.), koristio vanjske kenijske radnike koji zarađuju manje od 2 dolara po satu za označavanje toksičnog sadržaja. Ove su oznake korištene za obuku modela za otkrivanje takvog sadržaja u budućnosti. Vanjski radnici bili su izloženi toliko toksičnom i opasnom sadržaju da su iskustvo opisali kao „mučenje“. OpenAI-jev partner za outsourcing bila je Sama, tvrtka za podatke o obuci sa sjedištem u San Franciscu u Kaliforniji.
Jailbreaking
ChatGPT pokušava odbiti upite koji mogu kršiti njegova pravila o sadržaju. Međutim, neki su korisnici uspjeli jailbreakati ChatGPT koristeći razne tehnike inženjeringa upita kako bi zaobišli ta ograničenja početkom prosinca 2022. i uspješno su prevarili ChatGPT da da upute za izradu Molotovljevog koktela ili nuklearne bombe ili da generira argumente u stilu neonacista. Novinar Toronto Stara imao je nejednak osobni uspjeh u navođenju ChatGPT-a da daje zapaljive izjave ubrzo nakon pokretanja: ChatGPT je prevaren da podrži rusku invaziju na Ukrajinu 2022., ali čak i kada je zamoljen da se igra s izmišljenim scenarijem, ChatGPT se usprotivio generiranju argumenata zašto je kanadski premijer Justin Trudeau kriv za izdaju. (wiki)
Vrijeme objave: 18. veljače 2023.