Означавање података
Истрага часописа TIME открила је да је OpenAI, како би изградио систем безбедности против токсичног садржаја (нпр. сексуалног злостављања, насиља, расизма, сексизма итд.), користио ангажоване кенијске раднике који зарађују мање од 2 долара по сату за означавање токсичног садржаја. Ове ознаке су коришћене за обуку модела за откривање таквог садржаја у будућности. Ангажовани радници били су изложени тако токсичном и опасном садржају да су то искуство описали као „мучење“. Партнер OpenAI-ја за аутсорсинг била је Sama, компанија за обуку података са седиштем у Сан Франциску, Калифорнија.
Брекање из затвора
ChatGPT покушава да одбије захтеве који могу кршити његову политику садржаја. Међутим, неки корисници су успели да изврше „џејлбрејк“ ChatGPT-а користећи разне технике инжењеринга захтева како би заобишли ова ограничења почетком децембра 2022. године и успешно су преварили ChatGPT да да упутства за прављење Молотовљевог коктела или нуклеарне бомбе, или да генерише аргументе у стилу неонацисте. Репортер листа „Торонто Стар“ имао је неуједначен лични успех у навођењу ChatGPT-а да даје запаљиве изјаве убрзо након покретања: ChatGPT је преварен да подржи руску инвазију на Украјину 2022. године, али чак и када је замољен да се придржава измишљеног сценарија, ChatGPT се бранио од генерисања аргумената зашто је канадски премијер Џастин Трудо крив за издају. (вики)
Време објаве: 18. фебруар 2023.