Modelele de bază ale OpenAI, inclusiv cele care stau la baza ChatGPT, sunt dezvoltate folosind trei surse principale de informații: (1) informații disponibile public pe internet, (2) informații la care obținem acces prin parteneriate cu terți și (3) informații furnizate sau generate de utilizatorii noștri, de instructori umani și de cercetători.
Dezvoltarea modelelor de bază precum cele folosite în ChatGPT presupune mai multe etape, inclusiv pregătirea datelor de instruire, pre-instruirea și post-instruirea, precum și evaluarea și îmbunătățirea continuă după implementare. În aceste etape pot fi folosite diferite tipuri de informații în diverse scopuri, inclusiv pentru îmbunătățirea performanței, fiabilității și siguranței modelelor.
Acest articol prezintă pe scurt informațiile pe care le folosim pentru a contribui la dezvoltarea acestor modele, modul în care colectăm și utilizăm aceste informații în conformitate cu legislația privind protecția datelor și măsurile de protecție pe care le aplicăm pe tot parcursul procesului de instruire. Pentru a înțelege cum colectăm și folosim informațiile de la utilizatorii serviciilor noastre, inclusiv cum poți refuza utilizarea conversațiilor tale din ChatGPT pentru îmbunătățirea modelelor noastre, consultă Politica noastră de confidențialitate și acest articol din centrul de asistență.
Ce este ChatGPT și cum funcționează?
ChatGPT este un serviciu bazat pe inteligență artificială, pe care îl poți accesa pe internet sau prin aplicație. Poți folosi ChatGPT pentru o gamă largă de sarcini, inclusiv organizarea și rezumarea informațiilor, asistență la traducere, programare, cercetare și analiză, realizarea unor sarcini în mai mulți pași folosind diverse instrumente, analiza sau generarea imaginilor, stimularea creativității și a ideilor, precum și alte activități cotidiene. ChatGPT este conceput să înțeleagă și să răspundă la întrebările și instrucțiunile utilizatorilor, învățând tipare din cantități mari de informații, inclusiv text, imagini, conținut audio și video.
În timpul instruirii, modelul analizează relațiile din aceste date, cum ar fi modul în care cuvintele apar de obicei împreună în context, și folosește ceea ce a înțeles pentru a prezice cel mai probabil cuvânt următor atunci când generează un răspuns, cuvânt cu cuvânt. Textul poate fi convertit în unități mai mici, numite uneori „tokenuri”, care pot reprezenta cuvinte întregi, părți de cuvinte sau semne de punctuație. Tokenurile sunt unitățile de bază ale textului pe care le procesează modelul. În mod similar, modelele care generează alte forme de conținut, precum imagini, învață tipare ale relațiilor dintre pixeli și dintre aceștia și descrierile asociate din datele de instruire.
De exemplu, în timpul procesului de învățare al modelului (numit „instruire”), i se poate cere să completeze o propoziție precum: „În loc să vireze la stânga, ea a virat ___.” La începutul instruirii, răspunsurile sale sunt în mare parte aleatorii. Totuși, pe măsură ce modelul procesează un volum mare de text și învață din acesta, devine mai bun la recunoașterea tiparelor și la prezicerea celui mai probabil cuvânt următor. Acest proces se repetă pentru milioane de propoziții, pentru a-i aprofunda înțelegerea și a-i îmbunătăți precizia.
Deoarece există mai multe moduri plauzibile de a completa o propoziție, precum „În loc să vireze la stânga, ea a virat la dreapta”, „a întors” sau „s-a întors din drum”, modul în care răspunde modelul are o componentă inerent aleatorie. Prin urmare, aceeași întrebare poate primi răspunsuri diferite atunci când este adresată de mai multe ori.
Modelele de învățare automată constau în seturi mari de numere, numite „ponderi” sau „parametri”, împreună cu codul care interpretează și folosește aceste numere. Aceste modele nu stochează și nu păstrează copii ale datelor folosite pentru instruirea lor. În schimb, pe măsură ce un model învață, valorile parametrilor săi sunt ajustate ușor pentru a reflecta tiparele pe care le-a identificat. În exemplul anterior, modelul a progresat de la prezicerea unor cuvinte aleatorii la predicții mai exacte, nu prin stocarea propozițiilor de instruire, ci prin actualizarea parametrilor săi interni. Modelul nu păstrează copii ale propozițiilor, imaginilor sau conținutului audio pe care le procesează în timpul instruirii. ChatGPT nu „copiază și lipește” din datele sale de instruire, la fel cum un profesor, după un studiu aprofundat, poate explica concepte înțelegând relațiile dintre idei, fără a memora sau a reproduce cuvânt cu cuvânt materialele originale. Când generează un răspuns la o solicitare a utilizatorului, modelul folosește aceste ponderi învățate pentru a face predicții și a crea conținut nou.
Ce tip de informații sunt folosite pentru instruirea ChatGPT?
În ceea ce privește conținutul disponibil public pe internet, folosim doar informații care pot fi accesate liber și gratuit. Acestea pot include pagini web, forumuri, bloguri, postări și alte tipuri de conținut online disponibile public. De exemplu, dacă participi la un forum de discuții online disponibil public sau publici un articol pe blog ori o altă postare publică, putem folosi acel conținut accesibil public pentru instruirea modelelor. Totuși, luăm măsuri pentru a reduce prelucrarea informațiilor cu caracter personal în procesul de instruire. Atunci când colectăm conținut disponibil public pe internet, nu colectăm în mod intenționat date din surse despre care se știe că sunt accesibile doar contra cost sau de pe dark web. În plus, aplicăm filtre pentru a elimina materialele din care nu dorim ca modelele noastre să învețe, precum discursul instigator la ură, conținutul pentru adulți, site-urile care agregă informații cu caracter personal și spamul. Informațiile rămase sunt apoi folosite pentru instruirea modelelor noastre.
Proprietarii site-urilor pot decide dacă permit accesarea conținutului lor disponibil public în scopul instruirii, folosind mecanisme web standard, precum robots.txt, pentru a bloca GPTBot. Acesta poate parcurge conținutul disponibil public pentru a contribui la instruirea modelelor noastre. Oferim îndrumări pentru a ajuta proprietarii site-urilor să gestioneze modul în care site-urile și conținutul lor interacționează cu sistemele noastre de IA.
De asemenea, folosim informații de la parteneri terți pentru a contribui la instruirea și îmbunătățirea modelelor noastre. Acestea pot include informații din seturi de date pe care le accesăm în baza unor acorduri cu terți, precum și informații furnizate sau generate de instructori umani și cercetători, în măsura permisă de politicile și acordurile noastre. Acest lucru contribuie la îmbunătățirea calității, siguranței și performanței modelelor noastre. Aceste surse pot include text, imagini, conținut audio, video sau alte tipuri de date, în funcție de setul de date.
De asemenea, folosim tot mai mult date sintetice în unele procese de instruire. De exemplu, putem folosi informații și modelele noastre pentru a genera prompturi sintetice, exemple multilingve sau alte materiale de instruire. Datele sintetice pot contribui la îmbunătățirea performanței modelelor, inclusiv prin completarea datelor de instruire în domenii în care acestea sunt puține sau distribuite neuniform. Totodată, pot sprijini abordări care sporesc protecția vieții private în dezvoltarea modelelor.
Sunt folosite informații cu caracter personal pentru instruirea ChatGPT?
O parte semnificativă a conținutului online cuprinde informații despre persoane, astfel că datele noastre de instruire pot include incidental informații cu caracter personal. Totuși, luăm măsuri pentru a reduce prelucrarea informațiilor cu caracter personal în procesul de instruire.
Folosim datele de instruire pentru a dezvolta capacitățile modelului, precum predicția, raţionamentul și rezolvarea problemelor, nu pentru a crea profiluri ale persoanelor, a le contacta sau a le personaliza reclamele.
În unele cazuri, modelele pot învăța din informații cu caracter personal pentru a înțelege rolul unor elemente precum numele și adresele în limbaj sau pentru a recunoaște persoane publice și entități cunoscute. Acest lucru ajută modelul să genereze răspunsuri mai exacte și adecvate contextului.
Cum sunt protejate informațiile cu caracter personal în timpul instruirii?
Luăm măsuri active pentru a limita prelucrarea informațiilor cu caracter personal în timpul instruirii. De exemplu, excludem sursele despre care se știe că agregă cantități mari de date cu caracter personal, aplicăm filtre pentru a reduce informațiile cu caracter personal din procesul de instruire și luăm măsuri pentru a identifica și elimina conținutul duplicat, reducând astfel riscul de reproducere a datelor de instruire. În plus, instruim modelele noastre să evite să răspundă solicitărilor de informații private sau sensibile despre persoane.
Cât timp păstrăm informațiile
Păstrăm informațiile din datele de instruire doar atât timp cât este necesar în mod rezonabil pentru scopurile descrise în acest articol și în Politica noastră de confidențialitate, inclusiv pentru dezvoltarea și îmbunătățirea modelelor noastre și pentru cercetarea științifică aferentă. Reevaluăm periodic necesitatea păstrării informațiilor, iar durata de păstrare variază în funcție de tipul informațiilor și de modul în care sunt folosite. Când stabilim durata de păstrare, luăm în considerare factori precum scopul prelucrării informațiilor, cantitatea, natura și sensibilitatea acestora, riscul potențial de prejudicii în urma utilizării sau divulgării neautorizate și orice obligații legale care ne revin.
Cum respectă dezvoltarea ChatGPT legislația privind protecția datelor?
Folosim informațiile pentru instruire în mod legal. Modelele noastre de bază susțin o gamă largă de aplicații utile, inclusiv instrumente de accesibilitate, asistență pentru clienți, dezvoltare software, educație personalizată și cercetare științifică. Aceste capacități depind de volume mari de date pentru instruire, inclusiv informații disponibile public și informații de la parteneri terți. Aplicăm măsuri de protecție pe tot parcursul procesului de instruire, inclusiv măsuri menite să reducă prelucrarea informațiilor cu caracter personal în acest proces și să atenueze riscurile, așa cum este descris în acest articol. Colectarea și utilizarea informațiilor cu caracter personal incluse în informațiile pentru instruire se bazează pe interese legitime, în temeiul legislației privind protecția datelor, precum RGPD. Aceste interese includ instruirea și îmbunătățirea modelelor noastre în beneficiul utilizatorilor și al societății în ansamblu, în acord cu misiunea noastră de a ne asigura că inteligența generală artificială aduce beneficii tuturor, așa cum explicăm mai detaliat în Politica noastră de confidențialitate. Am efectuat o evaluare a impactului asupra protecției datelor pentru a ne asigura că aceste informații sunt colectate și utilizate în mod legal și responsabil.
Când pot fi partajate sau transferate informațiile
Nu „vindem” informații cu caracter personal și divulgăm informațiile cu caracter personal din datele de instruire doar în situațiile limitate descrise în Politica noastră de confidențialitate. De exemplu, putem partaja informații cu entități afiliate, furnizori și prestatori de servicii care sprijină dezvoltarea, testarea și îmbunătățirea modelelor noastre. De asemenea, putem divulga informații dacă avem convingerea de bună-credință că acest lucru este necesar pentru a respecta o obligație legală sau pentru a proteja drepturile, siguranța și securitatea noastră și pe cele ale utilizatorilor, angajaților sau publicului, așa cum este descris în Politica noastră de confidențialitate.
Întrucât infrastructura noastră este globală, informațiile cu caracter personal din datele de instruire pot fi prelucrate în țări din afara SEE, Elveției sau Regatului Unit (inclusiv în Statele Unite). În astfel de cazuri, aplicăm garanții adecvate, precum decizii privind caracterul adecvat al nivelului de protecție sau clauze contractuale standard, așa cum este descris în Politica noastră de confidențialitate.
Drepturile tale și cum le poți exercita
Răspundem cererilor de exercitare a dreptului la opoziție și a altor drepturi similare. Ca urmare a învățării limbajului, răspunsurile ChatGPT pot include uneori informații cu caracter personal despre persoane ale căror informații apar în mod repetat în conținutul public de pe internet (de exemplu, persoane publice). Persoanele din anumite jurisdicții se pot opune prelucrării informațiilor lor cu caracter personal de către modelele noastre sau pot depune alte cereri de exercitare a drepturilor persoanelor vizate prin Portalul nostru de confidențialitate. De asemenea, îți poți exercita aceste drepturi contactându-ne la privacy@openai.com.
Pentru a ne ajuta să evaluăm cererea ta și să răspundem, te rugăm să ne furnizezi suficiente informații pentru a înțelege la ce informații cu caracter personal se referă cererea, cum ar fi numele tău, adrese URL relevante, exemple concrete de răspunsuri ale modelului sau alte detalii care ajută la identificarea problemei. În unele cazuri, înainte de a putea lua măsuri, îți putem cere să îți verifici identitatea sau să confirmi că informațiile se referă la tine. Mai multe informații despre depunerea acestor cereri, inclusiv bune practici și modul în care sunt analizate, sunt disponibile în articolul nostru din Centrul de asistență despre eliminarea datelor cu caracter personal din ChatGPT. Analizăm cererile în conformitate cu legislația aplicabilă privind protecția datelor și răspundem în termenele legale aplicabile.
Reține că, potrivit legislației privind protecția datelor, este posibil ca unele drepturi să nu fie absolute. De exemplu, este posibil să nu putem da curs unei cereri dacă nu putem verifica informațiile relevante, dacă cererea nu se referă la informații cu caracter personal prelucrate de OpenAI, dacă se aplică o excepție sau dacă avem un alt motiv legal pentru a nu-i da curs. Cererile sunt evaluate de la caz la caz, iar evaluarea poate presupune punerea în balanță a dreptului la viață privată cu alte considerente importante, precum libertatea de exprimare și interesul public.
Totuși, ne străduim să acordăm prioritate protecției informațiilor cu caracter personal și să respectăm întreaga legislație aplicabilă privind protecția datelor. Dacă consideri că nu am soluționat în mod adecvat o problemă, ai dreptul să depui o plângere la autoritatea locală de supraveghere.
Pentru mai multe informații despre practicile OpenAI privind informațiile cu caracter personal pe care le colectăm de la tine sau despre tine atunci când folosești site-ul, aplicațiile și serviciile noastre, consultă Politica noastră de confidențialitate.