OpenAI's grundmodeller, herunder modellerne bag ChatGPT, udvikles ved hjælp af tre primære informationskilder: (1) oplysninger, der er offentligt tilgængelige på internettet, (2) oplysninger, som vi får adgang til gennem samarbejde med tredjeparter, og (3) oplysninger, som vores brugere, menneskelige trænere og forskere leverer eller genererer.
Udviklingen af grundmodeller som dem, der bruges i ChatGPT, omfatter flere faser, herunder klargøring af træningsdata, fortræning og eftertræning samt løbende evaluering og forbedring, efter at modellerne er taget i brug. Forskellige typer oplysninger kan bruges i disse faser til forskellige formål, herunder at forbedre modellernes ydeevne, pålidelighed og sikkerhed.
Denne artikel giver et overblik over de oplysninger, vi bruger til at udvikle disse modeller, hvordan vi indsamler og bruger oplysningerne i overensstemmelse med databeskyttelseslovgivningen, og de sikkerhedsforanstaltninger, vi anvender gennem hele træningsprocessen. Du kan læse mere om, hvordan vi indsamler og bruger oplysninger fra brugere af vores tjenester, og hvordan du fravælger, at dine ChatGPT-samtaler bruges til at forbedre vores modeller, i vores privatlivspolitik og denne artikel i hjælpecentret.
Hvad er ChatGPT, og hvordan fungerer det?
ChatGPT er en tjeneste baseret på kunstig intelligens, som du kan få adgang til via internettet eller en app. Du kan bruge ChatGPT til en lang række opgaver, blandt andet at organisere og opsummere oplysninger, få hjælp til oversættelse, programmering, research og analyse, udføre opgaver med flere trin på tværs af værktøjer, analysere eller generere billeder, finde kreativ inspiration og idéer samt andre hverdagsaktiviteter. ChatGPT er designet til at forstå og svare på brugernes spørgsmål og instruktioner ved at lære mønstre fra store mængder information, herunder tekst, billeder, lyd og video.
Under træningen analyserer modellen sammenhænge i disse data – for eksempel hvordan ord typisk optræder sammen i en given kontekst – og bruger denne forståelse til at forudsige det mest sandsynlige næste ord, når den genererer et svar, ét ord ad gangen. Tekst kan omdannes til mindre enheder, som nogle gange kaldes »tokens«, og som kan repræsentere hele ord, dele af ord eller tegnsætning. Tokens er de byggesten i teksten, som modellen behandler. På samme måde lærer modeller, der genererer andre former for indhold, såsom billeder, mønstre i, hvordan pixels forholder sig til hinanden og til de tilhørende billedtekster i træningsdataene.
Under modellens læringsproces (kaldet »træning«) kan den for eksempel få til opgave at fuldføre en sætning som: »I stedet for at dreje til venstre drejede hun ___.« Tidligt i træningen er dens svar i høj grad tilfældige. Men efterhånden som modellen behandler og lærer af store mængder tekst, bliver den bedre til at genkende mønstre og forudsige det mest sandsynlige næste ord. Denne proces gentages med millioner af sætninger for at forfine dens forståelse og forbedre dens præcision.
Fordi der er flere plausible måder at fuldføre en sætning på – såsom »I stedet for at dreje til venstre drejede hun til højre«, »rundt« eller »tilbage« – er der et iboende element af tilfældighed i modellens svar. Derfor kan det samme spørgsmål give forskellige svar, når det stilles flere gange.
Maskinlæringsmodeller består af store sæt af tal, som kaldes »vægte« eller »parametre«, samt kode, der fortolker og bruger disse tal. Disse modeller gemmer eller opbevarer ikke kopier af de data, de trænes på. I stedet justeres værdierne af modellens parametre en smule, efterhånden som den lærer, så de afspejler de mønstre, den har identificeret. I det tidligere eksempel gik modellen fra at forudsige tilfældige ord til at lave mere præcise forudsigelser – ikke ved at gemme træningssætningerne, men ved at opdatere sine interne parametre. Modellen opbevarer ikke kopier af de sætninger, billeder eller den lyd, den behandler under træningen. ChatGPT »kopierer og indsætter« ikke fra sine træningsdata – ligesom en lærer, der efter grundige studier kan forklare begreber ud fra sin forståelse af sammenhængene mellem idéer uden at huske eller gengive det oprindelige materiale ordret. Når modellen genererer et svar på en brugers anmodning, bruger den disse indlærte vægte til at forudsige og skabe nyt indhold.
Hvilken type oplysninger bruges til at træne ChatGPT?
Når det gælder offentligt tilgængeligt internetindhold, bruger vi kun oplysninger, der er frit og åbent tilgængelige på internettet. Det kan omfatte offentligt tilgængelige websider, offentlige fora, offentlige blogs, offentlige opslag og andet offentligt tilgængeligt indhold på nettet. Hvis du for eksempel deltager i et offentligt tilgængeligt diskussionsforum på nettet eller offentliggør et blogindlæg eller et andet opslag, kan vi bruge dette offentligt tilgængelige indhold til at træne modeller. Vi træffer dog foranstaltninger for at begrænse behandlingen af personoplysninger i vores træningsproces. Når vi indsamler offentligt tilgængeligt internetindhold, indsamler vi ikke bevidst data fra kilder, som vi ved er bag betalingsmure, eller fra det mørke net. Derudover bruger vi filtre til at fjerne materiale, som vi ikke ønsker, at vores modeller skal lære af, såsom hadefulde ytringer, voksenindhold, websteder, der samler personoplysninger, og spam. De resterende oplysninger bruges derefter til at træne vores modeller.
Webstedsejere kan styre, om offentligt tilgængeligt indhold fra deres websteder må tilgås til brug i træning, ved at bruge standardværktøjer som robots.txt til at blokere GPTBot, der kan gennemgå offentligt tilgængeligt indhold for at hjælpe med at træne vores modeller. Vi tilbyder vejledning, der hjælper webstedsejere med at styre, hvordan deres websteder og indhold interagerer med vores AI-systemer.
Vi bruger også oplysninger fra eksterne samarbejdspartnere til at træne og forbedre vores modeller. Det kan omfatte oplysninger i datasæt, som vi får adgang til gennem aftaler med tredjeparter, samt oplysninger, der leveres eller genereres af menneskelige trænere og forskere, når det er tilladt i henhold til vores politikker og aftaler. Det er med til at forbedre vores modellers kvalitet, sikkerhed og ydeevne. Disse kilder kan omfatte tekst, billeder, lyd, video eller andre datatyper, afhængigt af datasættet.
Vi bruger også i stigende grad syntetiske data i nogle træningsprocesser. Vi kan for eksempel bruge oplysninger og vores modeller til at generere syntetiske prompts, flersprogede eksempler eller andet træningsmateriale. Syntetiske data kan hjælpe med at forbedre modellernes ydeevne, blandt andet ved at supplere træningsdata på områder, hvor data er sparsomme eller skævt fordelt, og kan også understøtte tilgange til modeludvikling, der styrker beskyttelsen af privatlivet.
Bruges personoplysninger til at træne ChatGPT?
En betydelig del af indholdet på nettet omhandler mennesker, så vores træningsdata kan utilsigtet indeholde personoplysninger. Vi træffer dog foranstaltninger for at begrænse behandlingen af personoplysninger i vores træningsproces.
Vi bruger træningsdata til at udvikle modellens evner – såsom forudsigelse, ræsonnering og problemløsning – ikke til at opbygge profiler af enkeltpersoner, kontakte dem eller tilpasse annoncer til dem.
I nogle tilfælde kan modeller lære af personoplysninger for at forstå, hvordan elementer som navne og adresser fungerer i sproget, eller for at genkende offentlige personer og kendte enheder. Det hjælper modellen med at generere mere præcise svar, der passer bedre til sammenhængen.
Hvordan beskyttes personoplysninger under træningen?
Vi arbejder aktivt på at begrænse behandlingen af personoplysninger under træningen. For eksempel udelukker vi kilder, som er kendt for at samle store mængder personoplysninger, bruger filtrering til at begrænse mængden af personoplysninger i træningsprocessen og træffer foranstaltninger til at identificere og fjerne dubleret indhold for at mindske risikoen for, at træningsdata bliver gentaget. Derudover træner vi vores modeller til at undgå at besvare anmodninger om private eller følsomme oplysninger om enkeltpersoner.
Hvor længe vi opbevarer oplysninger
Vi opbevarer kun oplysninger i træningsdata, så længe det med rimelighed er nødvendigt til de formål, der er beskrevet i denne artikel og i vores privatlivspolitik, herunder at udvikle og forbedre vores modeller og til relaterede videnskabelige forskningsformål. Vi gennemgår jævnligt opbevaringen for at sikre, at den fortsat er nødvendig. Opbevaringsperioden varierer afhængigt af typen af oplysninger, og hvordan de bruges. Når vi fastlægger opbevaringsperioden, tager vi hensyn til faktorer såsom vores formål med at behandle oplysningerne, oplysningernes mængde, art og følsomhed, den potentielle risiko for skade ved uautoriseret brug eller videregivelse og eventuelle retlige forpligtelser, som vi er underlagt.
Hvordan overholder udviklingen af ChatGPT databeskyttelseslovgivningen?
Vi bruger træningsoplysninger på lovlig vis. Vores grundmodeller understøtter en lang række nyttige anvendelser, herunder tilgængelighedsværktøjer, kundesupport, softwareudvikling, individuelt tilpasset undervisning og videnskabelig forskning. Disse evner afhænger af store mængder træningsdata, herunder offentligt tilgængelige oplysninger og oplysninger fra eksterne samarbejdspartnere. Vi anvender sikkerhedsforanstaltninger gennem hele træningsprocessen, herunder tiltag, der skal begrænse behandlingen af personoplysninger i træningsprocessen og mindske risici, som beskrevet i denne artikel. Vores indsamling og brug af personoplysninger, der indgår i træningsoplysningerne, er baseret på legitime interesser i henhold til databeskyttelseslovgivning som GDPR. Det omfatter at træne og forbedre vores modeller til gavn for brugerne og samfundet som helhed i tråd med vores mission om at sikre, at kunstig generel intelligens kommer alle til gode, som forklaret nærmere i vores privatlivspolitik. Vi har gennemført en konsekvensanalyse vedrørende databeskyttelse for at bidrage til at sikre, at vi indsamler og bruger disse oplysninger lovligt og ansvarligt.
Hvornår oplysninger kan blive delt eller overført
Vi »sælger« ikke personoplysninger og videregiver kun personoplysninger i træningsdata under de begrænsede omstændigheder, der er beskrevet i vores privatlivspolitik. Vi kan for eksempel dele oplysninger med tilknyttede selskaber, leverandører og tjenesteudbydere, som understøtter udvikling, test og forbedring af vores modeller. Vi kan også videregive oplysninger, hvis vi i god tro mener, at det er nødvendigt for at overholde en retlig forpligtelse eller for at beskytte vores egne, vores brugeres, medarbejderes eller offentlighedens rettigheder, tryghed og sikkerhed, som beskrevet i vores privatlivspolitik.
Da vores infrastruktur er global, kan personoplysninger i træningsdata blive behandlet i lande uden for EØS, Schweiz eller Storbritannien (herunder i USA). Når det sker, anvender vi passende garantier, såsom afgørelser om et tilstrækkeligt beskyttelsesniveau eller standardkontraktbestemmelser, som beskrevet i vores privatlivspolitik.
Dine rettigheder, og hvordan du udøver dem
Vi besvarer indsigelser og lignende anmodninger om udøvelse af rettigheder. Som følge af at have lært sprog kan ChatGPT's svar nogle gange indeholde personoplysninger om personer, hvis personoplysninger optræder flere gange på det offentligt tilgængelige internet (for eksempel offentlige personer). Personer i visse jurisdiktioner kan gøre indsigelse mod vores modellers behandling af deres personoplysninger eller fremsætte andre anmodninger om udøvelse af deres rettigheder som registrerede via vores privatlivsportal. Du kan også udøve disse rettigheder ved at kontakte privacy@openai.com.
For at hjælpe os med at vurdere og besvare din anmodning skal du give os tilstrækkelige oplysninger til, at vi kan forstå, hvilke personoplysninger den vedrører. Det kan være dit navn, relevante URL'er, konkrete eksempler på modeloutput eller andre detaljer, der hjælper med at identificere problemet. I nogle tilfælde kan vi bede dig om at bekræfte din identitet eller bekræfte, at oplysningerne vedrører dig, før vi kan handle på din anmodning. Du kan finde flere oplysninger om, hvordan du indsender disse anmodninger, herunder anbefalinger og oplysninger om, hvordan anmodningerne gennemgås, i vores artikel i Hjælp om fjernelse af personoplysninger fra ChatGPT. Vi gennemgår anmodninger i overensstemmelse med gældende databeskyttelseslovgivning og svarer inden for de gældende lovbestemte frister.
Vær opmærksom på, at nogle rettigheder i henhold til databeskyttelseslovgivningen ikke nødvendigvis er absolutte. For eksempel kan vi være ude af stand til at imødekomme en anmodning, hvis vi ikke kan verificere de relevante oplysninger, hvis anmodningen ikke vedrører personoplysninger, der behandles af OpenAI, hvis en undtagelse finder anvendelse, eller hvis vi har en anden lovlig grund til ikke at imødekomme den. Anmodninger vurderes fra sag til sag og kan indebære en afvejning af retten til privatliv over for andre vigtige hensyn, såsom ytringsfrihed og offentlighedens interesse.
Vi bestræber os dog på at prioritere beskyttelsen af personoplysninger og overholde al gældende databeskyttelseslovgivning. Hvis du mener, at vi ikke har håndteret et problem tilstrækkeligt, har du ret til at indgive en klage til din lokale tilsynsmyndighed.
Du kan finde flere oplysninger om OpenAI's praksis vedrørende de personoplysninger, vi indsamler fra eller om dig, når du bruger vores websted, apps og tjenester, i vores privatlivspolitik.