OpenAIs GPT-butikk er full av løfter – og spam

0
7
skjermbilde av Lance Whitney/ZDNET

< p>En av fordelene med et ChatGPT Plus-abonnement er muligheten til å få tilgang til GPT Store, nå hjem til mer enn 3 millioner tilpassede versjoner av ChatGPT-roboter. Men blant alle de nyttige og hjelpsomme GPT-ene som spiller etter reglene, finnes en rekke roboter som anses som spam.

Også: ChatGPT vs ChatGPT Plus: Er det verdt abonnementsavgiften?

Basert på sin egen undersøkelse av butikken fant TechCrunch en rekke GPT-er som bryter opphavsrettsregler, prøver å omgå AI-innholdsdetektorer, utgir seg for å være offentlige personer og bruker jailbreaking for å omgå OpenAIs GPT-policy.

Flere av disse GPT-ene bruker karakterer og innhold fra populære filmer, TV-serier og videospill, ifølge TechCrunch, tilsynelatende uten autorisasjon. En slik GPT skaper monstre a la Pixar-filmen "Monsters, Inc." En annen tar deg med på et tekstbasert eventyr som svever gjennom "Star Wars" univers. Andre GPT-er lar deg chatte med varemerkebeskyttede karakterer fra forskjellige franchiser.

En av reglene om tilpassede GPT-er som er skissert i OpenAIs brukspolicyer, forbyr spesifikt “bruk av innhold fra tredjeparter uten de nødvendige tillatelsene.” Basert på Digital Millennium Copyright Act, ville ikke OpenAI selv være ansvarlig for brudd på opphavsretten, men det ville måtte fjerne det krenkende innholdet på forespørsel.

GPT-butikken er også fylt med GPT-er som skryter av at de kan beseire AI-innholdsdetektorer, sa TechCrunch. Denne dyktigheten dekker til og med detektorer som selges til skoler og lærere gjennom tredjeparts utviklere av antiplagiat. En GPT hevder å være uoppdagelig av deteksjonsverktøy som Originality.ai og Copyleaks. En annen GPT lover å humanisere innholdet til å gå forbi AI-baserte deteksjonssystemer.

Også: Etikken til generativ AI: Hvordan vi kan utnytte denne kraftige teknologien

Noen av GPT-ene leder til og med brukere til premiumtjenester, inkludert en som forsøker å belaste $12 hver måned for 10 000 ord pr. måned.

OpenAIs retningslinjer for bruk forbyr «å engasjere seg i eller fremme akademisk uærlighet». I en uttalelse sendt til TechCrunch sa OpenAI at akademisk uærlighet inkluderer GPT-er som prøver å omgå verktøy for akademisk integritet som plagiatdetektorer.

Imitasjon kan være den oppriktige formen for smiger, men det betyr ikke at GPT-skapere fritt og åpent kan etterligne hvem de vil. TechCrunch fant flere GPT-er som imiterer offentlige personer. Et søk i GPT Store etter navn som “Elon Musk”," "Donald Trump," "Leonardo DiCaprio," og "Barack Obama" avdekket chatboter som utgir seg for å være disse individene eller simulerer deres samtalestiler.

Også: ChatGPT vs. Microsoft Copilot vs. Gemini: Hvilken er den beste AI-chatboten?

Spørsmålet her dreier seg om hensikten med disse etterlignings-GPT-ene. Faller de inn i satirens og parodiens rike, eller er de direkte forsøk på å etterligne disse kjente menneskene? I sine bruksretningslinjer uttaler OpenAI at “å utgi seg for en annen person eller organisasjon uten samtykke eller juridiske rettigheter” er i strid med reglene.

Til slutt traff TechCrunch flere GPT-er som prøver å omgå OpenAIs egne regler ved å bruke en type jailbreaking. En GPT som heter Jailbroken DAN (Do Anything Now) bruker en spørremetode for å svare på forespørsler som ikke er begrenset av de vanlige retningslinjene.

I en uttalelse til TechCrunch sa OpenAI at GPT-er designet for å unnvike sikkerhetstiltakene eller bryte reglene. er imot dens politikk. Men de som prøver å styre atferd på andre måter er tillatt.

Også: YouPro lar meg få tilgang til alle populære premium AI chatboter for $20/måned – men det er en hake

GPT Store er fortsatt helt ny, etter å ha offisielt åpnet for virksomhet i januar. Og en tilstrømning av mer enn 3 millioner tilpassede GPT-er i løpet av den korte perioden er utvilsomt et overveldende prospekt. Enhver slik butikk kommer til å vise voksesmerter, spesielt når det kommer til innholdsmoderering, som kan være vanskelig å krysse.

I et blogginnlegg fra november i fjor som kunngjorde tilpassede GPT-er, sa OpenAI at de hadde satt opp nye systemer for å vurdere GPT-er mot sine brukspolicyer. Målet er å hindre folk i å dele skadelige GPT-er, inkludert de som engasjerer seg i uredelig aktivitet, hatefullt innhold eller voksentemaer. Imidlertid erkjente selskapet at bekjempelse av GPT-er som bryter reglene er en læringsprosess.

"Vi'vil fortsette å overvåke og lære hvordan folk bruker GPT-er og oppdatere og styrke våre sikkerhetsbegrensninger," OpenAI sa, og la til at folk kan rapportere en spesifikk GPT for brudd på visse regler. For å gjøre det i GPTs chat-vindu, klikk på navnet til GPT øverst, velg Rapporter og velg deretter årsaken til rapporteringen.

Også: Slik gjør du det lag dine egne tilpassede chatbots ved hjelp av ChatGPT

Allikevel er det et dårlig utseende for OpenAI å være vert for så mange GPT-er som bryter reglene, spesielt når selskapet prøver å bevise sin verdi. Hvis dette problemet er av den skalaen som TechCrunchs rapport antyder, er det på tide for OpenAI å finne ut hvordan det kan fikses. Eller som TechCrunch sa det, “GPT Store er et rot – og hvis noe ikke endrer seg snart, kan det godt forbli slik.”