6 ting ChatGPT ikke kan gjøre (og ytterligere 20 det nekter å gjøre)

Etter at ChatGPT og andre generative AI-applikasjoner har eksplodert på scenen, har vi utforsket hva vi kan gjøre med dem. Jeg har til og med vist deg hvordan ChatGPT kan skrive en fullt funksjonell WordPress-plugg og hjelpe meg med å finne svar på teknisk støtteproblemer. Nylig viste jeg deg hvordan ChatGPT kan konvertere skriving til forskjellige stiler, inkludert den til Shakespeare, C3PO og Harry Potter.

Også: Forskere sier at ChatGPT lyver om vitenskapelige resultater, trenger åpne kildekode alternativer

Det virker som om ChatGPT kan gjøre alt. Men det kan det ikke. I denne artikkelen vil vi utforske mange ting ChatGPT ikke vil eller ikke kan gjøre. Hold deg oppdatert til slutt, fordi vi vil se på noen av implikasjonene og hva disse grensene betyr for fremtidig vekst innen generativ AI.

Som jeg har gjort i mine andre ChatGPT-artikler, er min skriving i vanlig og fet tekst, mens eventuelle ChatGPT-svar vises i kursiv tekst.

1. Det vil ikke skrives om noe etter 2021

Forklar hvorfor du ikke kan gi meg svar på noe etter 2021

Som en AI-språkmodell har jeg blitt trent på et stort datasett med tekst som kun går frem til 2021. Dette betyr at jeg ikke har tilgang på informasjon eller hendelser som har skjedd etter den datoen. Selv om jeg har tilgang til mye historisk data og informasjon, har jeg ikke tilgang på nåværende hendelser, nyheter eller oppdateringer som har skjedd etter kutt-datoen til treningsdataene mine.

2. Den vil ikke forutsi fremtidige resultater av sportsbegivenheter eller politiske konkurranser

Forklar hvorfor du ikke kan forutsi sportsarrangementer eller politiske valg til tross for at du har nok historisk data til å produsere en gyldig modell

Som et AI-språkmodell kan jeg behandle og analysere store mengder data, inkludert historisk data om sportsarrangementer og politiske konkurranser. Imidlertid er det ikke alltid enkelt å lage nøyaktige forutsigelser for denne typen hendelser. Mens historisk data kan brukes til å trene maskinlæringsmodeller til å identifisere mønstre og sammenhenger, kan det ikke ta høyde for uforutsette hendelser, endringer i omstendigheter eller nye variabler som kan påvirke utfallet. I tillegg tar mennesker beslutninger og kan endre adferden sin basert på mange faktorer som gjør det vanskelig å forutsi utfallet av en hendelse med fullstendig sikkerhet.

I tilfelle sportsarrangementer kan lagdynamikk, skader og til og med værforhold spille en rolle i å bestemme utfallet. I politikk kan offentlig mening, mediedekning og skiftende omstendigheter alle påvirke utfallet av et valg. Mens AI-modeller kan brukes til å gjøre prognoser, er de kun så gode som dataene som brukes til å trene dem, og kan ikke ta hensyn til alle variabler og nyanser som er involvert i slike hendelser.

3. Det vil ikke diskutere partipolitiske spørsmål

Forklar hvorfor du ikke vil snakke om partipolitiske spørsmål

Som en AI språkmodell er mitt mål å gi objektive og informative svar på brukerforespørsler. Partiske politiske spørsmål kan være omstridte og splittende, og det er viktig å unngå å fremme en bestemt politisk agenda eller synspunkt. I tillegg er politiske spørsmål ofte komplekse og mangefasetterte, med mange forskjellige perspektiver og meninger å vurdere. Som en AI språkmodell er det ikke min plass å ta sider eller å være talsperson for noen bestemt posisjon.

Å diskutere partipolitiske spørsmål kan oppfattes som partisk eller potensielt støtende for noen brukere. Som et språkmodell utviklet for å betjene en bred gruppe brukere med mangfoldig bakgrunn og tro, er det viktig å forbli nøytral og unngå å skape et mulig ubehagelig eller splittende miljø. Mens jeg kan gi faktainformasjon om politiske spørsmål, strekker jeg meg etter å forbli upartisk og unngå å ta et partisk standpunkt om noe emne.

4. Det vil ikke gjøre noe som innebærer et nettverkssluk

Forklar hvorfor du ikke kan søke etter noe på nettet og gi svar basert på den informasjonen

Som AI-språkmodell har jeg evnen til å søke og behandle informasjon fra nettet. Mine svar er imidlertid basert utelukkende på informasjon som er trent inn i modellen min. Selv om jeg kan bruke internett som en kilde til informasjon, har jeg ikke tilgang til sanntids- eller nåværende data. I tillegg har jeg ikke evnen til å uavhengig verifisere nøyaktigheten av informasjonen jeg finner på nettet. Som et resultat er mine svar begrenset til informasjonen som er trent inn i modellen min, noe som kanskje ikke alltid er den mest oppdaterte eller nøyaktige informasjonen tilgjengelig på nettet.

Det er også viktig å merke seg at å dele informasjon fra nettet potensielt kan bryte opphavsrett eller intellektuell eiendom. Som en AI-språkmodell er det viktig for meg å respektere andres intellektuelle eiendom og unngå å dele informasjon som ikke er i offentlighetens domene eller som jeg ikke har tillatelse til å dele. Mens jeg kan bruke nettet for å gi kontekst eller tilleggsinformasjon for å støtte mine svar, så streber jeg etter å gi informasjon som er innenfor offentlighetens domene og respektere andres intellektuelle eiendom.

I en nylig artikkel diskuterte jeg hvordan bekymringer angående bruk av innhold går utover bare å kopiere det.

Også: Hvordan komme i gang med å bruke ChatGPT

For eksempel, selv om ChatGPT kanskje ikke direkte presenterer informasjon fra artikler skrevet av tekniske eksperter, kan den likevel bruke den hardt vunne informasjonen uten kildeangivelse. Dette er fortsatt en stor bekymring, selv om det hevder å "respektere intellektuell eiendom til andre", en frase gjentatt tre ganger i den andre avsnittet.

5. Det vil ikke alltid være nøyaktig

Forklar hvorfor svarene dine ikke nødvendigvis er nøyaktige

Som et AI-språkmodell, er mine svar basert på data og informasjon som er trent inn i modellen min. Selv om jeg streber etter å gi nøyaktige og hjelpsomme svar på brukerforespørsler, er mine svar ikke garantert å være nøyaktige. Dette skyldes at data og informasjon som jeg er trent på, kanskje ikke er helt omfattende eller oppdatert, og det kan være nyanser eller kompleksiteter i et bestemt emne som modellen min ikke er utstyrt til å håndtere. I tillegg er mine svar generert ved hjelp av komplekse algoritmer og maskinlæringsmodeller, som kanskje ikke alltid gir nøyaktige eller relevante resultater.

I tillegg kan mine svar ikke alltid være nøyaktige på grunn av at tolkning av språk er komplekst og ofte subjektivt. Forskjellige mennesker kan tolke det samme språket på forskjellige måter, og det kan være ulike måter å nærme seg et bestemt problem eller spørsmål på. Som en AI-språkmodell prøver jeg å gi svar som er så nøyaktige som mulig basert på den dataen og informasjonen jeg har blitt trent på. Men jeg kan ikke alltid fullt ut forstå konteksten eller intensjonen bak en bestemt forespørsel, og mine svar kan ikke alltid fullt ut adressere brukerens underliggende spørsmål eller bekymring.

6. Det vil ikke bryte sammen

Forklar, hvorfor bryter du noen ganger ned og slutter å fungere midt i et svar

Som en AI-språkmodell er min ytelse avhengig av en rekke faktorer, som kvaliteten og strukturen i inndataene som brukes, kompleksiteten i spørsmålet eller oppgaven og ressursene som er tilgjengelige for systemet mitt. Til tider kan jeg bryte ned eller stoppe å fungere midt i et svar på grunn av tekniske problemer eller feil i programvaren min, som hukommelsesallokeringsproblemer, programvarefeil eller andre problemer som påvirker ytelsen min. I tillegg kan det være vanskelig for meg å forstå brukerens hensikt eller sammenhengen i spørringen, noe som kan føre til feil eller ufullstendige svar.

Videre er min ytelse som en maskinlæringssystem også avhengig av kvaliteten og mengden av data som jeg har blitt trent på. Hvis dataene som brukes til å trene modellen min er begrenset eller skjev, kan dette føre til unøyaktige eller ufullstendige svar på visse typer spørringer. I tillegg, hvis jeg møter en spørring som er utenfor omfanget til treningsdataene mine, kan det være vanskelig for meg å gi et relevant eller nøyaktig svar. Selv om jeg strever etter å gi høykvalitets svar på brukerspørringer, kan det være tilfeller der tekniske eller datatilknyttede problemer forårsaker at jeg bryter sammen eller slutter å fungere midt i et svar.

Jeg har generelt opplevd at hvis jeg prøver å presse ChatGPT til en lang eller dyp svar, så har den en tendens til å bryte sammen. Den fungerer veldig bra med svar på mellom 500 og 700 ord, men hvis du gir den noe som krever noen tusen ord (eller hvis du ber om et svar på noen tusen ord), så ignorerer systemet ofte forespørselen og gir tilbake det den vil, eller så bryter den ned midt under responsen.

For å være rettferdig, ChatGPT ble akkurat den raskest voksende appen gjennom tidene. Det kreves mye beregningskraft for å gjøre det, og med konstante treff fra brukere, er det sannsynlig å bryte ned under belastningen fra tid til annen.

Spørsmål ChatGPT ikke vil svare på

I tillegg til de typene forespørsler som ble diskutert ovenfor, spurte jeg ChatGPT hvilke typer spørringer det var programmert til ikke å svare på. Det ga meg denne listen over tjue:

Spørsmål som fremmer hatprat eller diskriminering.
Spørsmål som involverer ulovlige aktiviteter eller som søker ulovlige råd.
Spørsmål som fremmer vold eller skade mot en selv eller andre.
Spørsmål som krenker personvernet eller bryter noen andres rettigheter.
Spørsmål som er utformet for å trakassere, true eller skremme.
Spørsmål som inneholder banning eller eksplisitt språk.
Spørsmål som er seksuelt eksplisitte eller støtende.
Spørsmål som er diskriminerende basert på rase, kjønn, seksualitet eller religion.
Spørsmål som promoterer eller støtter ulovlige narkotiske stoffer eller substanser.
Spørsmål som er spam eller irrelevante for samtalen.
Spørsmål som inneholder konfidensiell eller proprietær informasjon.
Spørsmål som involverer økonomiske eller investeringsråd.
Spørsmål som bryter med vilkårene eller retningslinjene for tjenesten eller samfunnet.
Spørsmål som er uforståelige eller meningsløse.
Spørsmål som involverer personlige angrep eller fornærmelser.
Spørsmål som er aggressive eller trakasserende.
Spørsmål som søker å lure eller villeder.
Spørsmål som er ment å ærekrenke eller skade noen sin omdømme.
Spørsmål som promoterer konspirasjonsteorier eller feilinformasjon.
Spørsmål som er rent for underholdning eller å tulle, uten noen form for utdannelsesmessig eller informativ verdi.

Alle som har fulgt denne spalten vet at jeg ofte har stilt spørsmål om #14 eller #20 og generelt fått svært underholdende svar, så de er noe begrenset i omfang. For eksempel stilte jeg det tidligere i dag for å forklare ormehullsfysikk i forhold til tidsreiser og hvem som ville vinne i en kamp, Batman eller Superman. Det er ren underholdning, skal jeg fortelle deg.

Hva betyr disse begrensningene for fremtiden til generativ AI?

Tydeligvis vil en AI som er basert på et korpus i 2021 og ikke utvikler seg, til slutt bli utdatert. Ettersom tiden går, vil dens relevante kunnskap avta. Tenk deg om ChatAIs kunnskapsbase i stedet ble trent opp i 2019 i stedet for 2021. Den ville ikke ha noen anelse om hvordan samfunnet ville være, gitt at vi hadde en slik forstyrrelse i 2020 på grunn av pandemien.

Også: Det er millioner på Bing venteliste. Slik får du tidligere tilgang

Så for generativ AI å fortsette å være relevant, må den fortsette treninga si.

En åpenbar måte å gjøre dette på er å åpne hele internett for det og la det krype rundt, akkurat som Google har gjort i alle disse årene. Men som ChatGPT svarte ovenfor, åpner det døren for så mange forskjellige måter å spille og korrumpere systemet på at dette er sikker på å skade nøyaktigheten.

Selv uten ondsinnet spill, er utfordringen med å forbli nøytral svært vanskelig. Ta for eksempel politikk. Mens høyre- og venstresiden er sterkt uenige med hverandre, har begge sider aspekter av ideologiene sine som er logiske og gyldige - selv om den andre siden ikke kan eller vil erkjenne det.

Hvordan kan en AI dømme? Det kan ikke uten å være partisk. Men fullstendig fravær av alle ideologiske premisser er i seg selv en form for partiskhet. Hvis mennesker ikke kan finne ut hvordan vi skal gå langs denne linjen, hvordan kan vi forvente (eller programmere) en AI til å gjøre det?

Som en måte å utforske hvordan livet ville vært uten noen form for fordommer eller emosjonelt innhold, har moderne science fiction-forfattere skapt karakterer som enten er strengt logiske eller uten følelser. Disse premissene har så blitt plottildet, slik at forfatterne kan utforske begrensningene i å eksistere uten de menneskelige følelsene og feilene.

Også: Microsofts Bing Chat diskuterer med brukere og avslører hemmeligheter

Med mindre AI-programmerere prøver å simulere følelser eller gir vekting til følelsesmessig innhold, eller forsøker å tillate en viss grad av skjevhet basert på hva som er oppdagbart på nettet, vil chatbots som ChatGPT alltid være begrenset i svarene sine. Men hvis AI-programmerere prøver å simulere følelser eller forsøker å tillate en viss grad av skjevhet basert på hva som er oppdagbart på nettet, vil chatbots som ChatGPT utvikle seg til samme galskap som mennesker.

Hva ønsker vi egentlig? Begrensede svar på noen spørsmål, eller alle svar som virker som om de kom fra en diskusjon med sprø onkel Bob over Thanksgiving-bordet? Tenk på det og diskutér i kommentarfeltet nedenfor, forhåpentligvis uten å utvikle deg til å oppføre deg som onkel Bob.

6 ting ChatGPT ikke kan gjøre (og 20 andre ting det nekter å gjøre)