LIVE UPDATES
Bota

Si duhet të sillen sistemet e AI dhe kush duhet të vendosë për to?

Që nga lansimi i ChatGPT, përdoruesit kanë ndarë rezultate që ata i konsiderojnë të njëanshme politikisht, fyese ose ndryshe të kundërshtueshme.

17 February 2023, 08:30 Nga I.A
Si duhet të sillen sistemet e AI dhe kush duhet të vendosë
ChatGPT

SHBA- Misioni i OpenAI është të sigurojë që inteligjenca e përgjithshme artificiale (AGI) është dobi e gjithë njerëzimit. Prandaj, ne mendojmë shumë për sjelljen e sistemeve të AI që ndërtojmë në prag të AGI, dhe mënyrën në të cilën përcaktohet kjo sjellje.

Që nga lansimi ynë i ChatGPT, përdoruesit kanë ndarë rezultate që ata i konsiderojnë të njëanshme politikisht, fyese ose ndryshe të kundërshtueshme. Në shumë raste, ne mendojmë se shqetësimet e ngritura kanë qenë të vlefshme dhe kanë zbuluar kufizime reale të sistemeve tona, të cilat duam t'i adresojmë. Ne kemi parë gjithashtu disa keqkuptime rreth mënyrës se si sistemet dhe politikat tona funksionojnë së bashku për të formuar rezultatet që merrni nga ChatGPT.

Ku jemi sot

Ndryshe nga softueri i zakonshëm, modelet tona janë rrjete nervore masive. Sjelljet e tyre mësohen nga një gamë e gjerë të dhënash, jo të programuara në mënyrë eksplicite. Megjithëse nuk është një analogji e përsosur, procesi është më i ngjashëm me trajnimin e një qeni sesa me programimin e zakonshëm. Një fazë fillestare e "para-trajnimit" vjen e para, në të cilën modeli mëson të parashikojë fjalën tjetër në një fjali, i informuar nga ekspozimi i tij ndaj shumë teksteve në internet (dhe ndaj një gamë të gjerë këndvështrimesh). Kjo pasohet nga një fazë e dytë në të cilën ne "përshtatim" modelet tona për të kufizuar sjelljen e sistemit.

Deri më sot, ky proces është i nuk është i përsosur. Ndonjëherë procesi i rregullimit të imët nuk arrin qëllimin tonë (prodhimi i një mjeti të sigurt dhe të dobishëm) dhe qëllimi i përdoruesit (marrja e një rezultati të dobishëm në përgjigje të një hyrjeje të caktuar). Përmirësimi i metodave tona për përafrimin e sistemeve të AI me vlerat njerëzore është një përparësi kryesore për kompaninë tonë, veçanërisht pasi sistemet e AI bëhen më të afta.

Një proces me dy hapa: Para-trajnimi dhe rregullimi i imët

Së pari, ne modelojmë " para-trajnim " duke i bërë ata të parashikojnë atë që vjen më pas në një grup të dhënash të madhe që përmban pjesë të internetit. Ata mund të mësojnë të plotësojnë fjalinë "në vend që të kthehej majtas, ajo u kthye ___". Duke mësuar nga miliarda fjali, modelet tona mësojnë gramatikën, shumë fakte rreth botës dhe disa aftësi arsyetimi. Ata gjithashtu mësojnë disa nga paragjykimet e pranishme në ato miliarda fjali. Më pas, ne i "rregullojmë" këto modele në një grup të dhënash më të ngushtë që ne e gjenerojmë me kujdes me rishikuesit njerëzorë që ndjekin udhëzimet që ne u ofrojmë atyre. Meqenëse nuk mund të parashikojmë të gjitha hyrjet e mundshme që përdoruesit e ardhshëm mund të vendosin në sistemin tonë, ne nuk shkruajmë udhëzime të detajuara për çdo hyrje që ChatGPT do të hasë. Në vend të kësaj, ne përshkruajmë disa kategori në udhëzimet që rishikuesit tanë përdorin për të shqyrtuar dhe vlerësuar rezultatet e mundshme të modelit për një sërë të dhënash shembujsh. Më pas, ndërsa ato janë në përdorim, modelet përgjithësohen nga ky reagim i rishikuesit në mënyrë që t'i përgjigjen një grupi të gjerë të dhënash specifike të ofruara nga një përdorues i caktuar.

Roli i rishikuesve dhe politikat e OpenAI në zhvillimin e sistemit

Në disa raste, ne mund tu japim udhëzime rishikuesve tanë për një lloj produkti të caktuar (për shembull, "mos plotësoni kërkesat për përmbajtje të paligjshme"). Në raste të tjera, udhëzimet që ndajmë me rishikuesit janë më të nivelit të lartë (për shembull, "shmangni marrjen e një pozicioni për tema të diskutueshme"). E rëndësishmja, bashkëpunimi ynë me recensentët nuk është i vetëm por është një marrëdhënie e vazhdueshme, në të cilën ne mësojmë shumë nga ekspertiza e tyre. Një pjesë e madhe e procesit të rregullimit të saktë është mbajtja e një qarku të fortë reagimesh me rishikuesit tanë, i cili përfshin takime javore për të adresuar pyetjet që mund të kenë ose për të dhënë sqarime mbi udhëzimet tona. Ky proces i përsëritur i reagimit është mënyra se si ne e trajnojmë modelin që të jetë më i mirë dhe më i mirë me kalimin e kohës.

Adresimi i paragjykimeve

Shumë janë të shqetësuar me të drejtë për paragjykimet në hartimin dhe ndikimin e sistemeve të AI. Ne jemi të përkushtuar që ta trajtojmë me forcë këtë çështje dhe të jemi transparent si për qëllimet ashtu edhe për progresin tonë. Për këtë qëllim, ne po ndajmë një pjesë të udhëzimeve tona që kanë të bëjnë me tema politike dhe të diskutueshme. Udhëzimet tona janë të qarta që vlerësuesit nuk duhet të favorizojnë asnjë grup politik. Paragjykimet që megjithatë mund të dalin nga procesi i përshkruar më sipër janë gabime, jo veçori. Ndërsa mosmarrëveshjet do të ekzistojnë gjithmonë, ne shpresojmë se ndarja e këtij postimi në blog dhe këto udhëzime do të japin më shumë njohuri se si ne e shohim këtë aspekt kritik të një teknologjie të tillë themelore. Është besimi ynë se kompanitë e teknologjisë duhet të jenë të përgjegjshme për prodhimin e politikave që qëndrojnë përballë shqyrtimit.

Ne jemi gjithmonë duke punuar për të përmirësuar qartësinë e këtyre udhëzimeve - dhe bazuar në atë që kemi mësuar nga prezantimi i ChatGPT deri më tani, ne do t'u ofrojmë udhëzime më të qarta rishikuesve në lidhje me kurthet dhe sfidat e mundshme që lidhen me paragjykimet, si dhe figura dhe tema të diskutueshme. Për më tepër, si pjesë e iniciativave të vazhdueshme të transparencës, ne po punojmë për të ndarë informacionin e grumbulluar demografik për rishikuesit tanë në një mënyrë që nuk shkel rregullat dhe normat e privatësisë, pasi ky është një burim shtesë i njëanshmërie të mundshme në rezultatet e sistemit. Aktualisht po hulumtojmë se si ta bëjmë procesin e akordimit më të kuptueshëm dhe të kontrollueshëm, dhe po ndërtojmë përparime të jashtme si shpërblimet e bazuara në rregulla dhe AI.

Ku po shkojmë: Blloqet ndërtuese të sistemeve të ardhshme

Në ndjekje të misionit tonë, ne jemi të përkushtuar të sigurojmë që aksesi, përfitimet dhe ndikimi mbi AI dhe AGI janë të përhapura. Ne besojmë se kërkohen të paktën tre blloqe ndërtimi për të arritur këto qëllime në kontekstin e sjelljes së sistemit AI. Në këtë postim, ne fokusohemi qëllimisht në këtë fushë të veçantë dhe se ku do të shkojmë në të ardhmen e afërt. Ne po ndjekim gjithashtu një axhendë kërkimore të vazhdueshme duke marrë parasysh këto pyetje.

1. Përmirësoni sjelljen e paracaktuar. Ne duam që sa më shumë përdorues që të jetë e mundur t'i gjejnë sistemet tona të AI të dobishme për ta "jashtë kutisë" dhe të ndiejnë se teknologjia jonë i kupton dhe respekton vlerat e tyre.

Për këtë qëllim, ne po investojmë në kërkime dhe inxhinieri për të reduktuar paragjykimet e dukshme dhe delikate në mënyrën se si ChatGPT u përgjigjet inputeve të ndryshme. Në disa raste ChatGPT aktualisht refuzon rezultatet që nuk duhet, dhe në disa raste, nuk refuzon kur duhet. Ne besojmë se përmirësimi në të dyja aspektet është i mundur. Për më tepër, ne kemi hapësirë ​​për përmirësim në dimensione të tjera të sjelljes së sistemit, siç është sistemi që "përgatit gjërat". Reagimet nga përdoruesit janë të paçmueshme për të bërë këto përmirësime.

2. Përcaktoni vlerat e AI tuaj, brenda kufijve të gjerë. Ne besojmë se AI duhet të jetë një mjet i dobishëm për njerëzit individualë, dhe kështu i personalizueshëm nga çdo përdorues deri në kufijtë e përcaktuar nga shoqëria.

Prandaj, ne po zhvillojmë një përmirësim në ChatGPT për t'i lejuar përdoruesit të personalizojnë me lehtësi sjelljen e tij. Kjo do të nënkuptojë lejimin e rezultateve të sistemit me të cilat njerëzit e tjerë (përfshirë veten tonë) mund të mos pajtohen fuqimisht. Arritja e ekuilibrit të duhur këtu do të jetë sfiduese, marrja e personalizimit në ekstrem do të rrezikonte të mundësonte përdorime dashakeqe të teknologjisë sonë dhe AI-të sikofantike që amplifikojnë pa mendje bindjet ekzistuese të njerëzve. Prandaj do të ketë gjithmonë disa kufij në sjelljen e sistemit. Sfida është përcaktimi i atyre kufijve. Nëse përpiqemi t'i bëjmë të gjitha këto përcaktime vetë, ose nëse përpiqemi të zhvillojmë një sistem të vetëm, monolit të AI, ne do të dështojmë në angazhimin që bëjmë në Kartën tonë për të "shmangur përqendrimin e panevojshëm të pushtetit".

3. Të dhëna publike për standardet dhe kufijtë e vështirë. Një mënyrë për të shmangur përqendrimin e panevojshëm të fuqisë është t'u jepni njerëzve që përdorin ose preken nga sisteme si ChatGPT aftësinë për të ndikuar në rregullat e atyre sistemeve.

Ne besojmë se shumë vendime në lidhje me parazgjedhjet dhe kufijtë tanë të vështirë duhet të merren kolektivisht, dhe ndërsa zbatimi praktik është një sfidë, ne synojmë të përfshijmë sa më shumë perspektiva të jetë e mundur. Si pikënisje, ne kemi kërkuar të dhëna të jashtme në teknologjinë tonë në formën e bashkimit të kuq. Kohët e fundit kemi filluar gjithashtu të kërkojmë kontributin e publikut për AI në arsim (një kontekst veçanërisht i rëndësishëm në të cilin po përdoret teknologjia jonë). Jemi në fazat e hershme të përpjekjeve pilotuese për të kërkuar të dhëna publike për tema si sjellja e sistemit, mekanizmat e zbulimit (të tilla si filigrani) dhe politikat tona të vendosjes më gjerësisht. Ne po eksplorojmë gjithashtu partneritete me organizata të jashtme për të kryer auditime nga palët e treta të përpjekjeve tona të sigurisë dhe politikave.

chatgpt openai

Sondazh

Të shpallur në kërkim ndërkombëtar, arrestohen dy persona në Vorë dhe Shkodër

Të shpallur në kërkim ndërkombëtar, arrestohen dy persona në Vorë dhe Shkodër

Rama sqaron deklaratën: Mendimi im, nuk i japim leksione qeverisë maqedonase për vendimet...

Mickoski pyetet për incidentin e himnit në Pustec: Nuk e kemi ndjekur aktivitetin deri në fund...

Rama përballet me gazetarin në Qafë Thanë: Çfarë je ti, protestues?

“One Stop Shop”/ Mickoski: Është kënaqësi që po bëjmë ketë bashkëpunim për një pikë kontrolli...

Kërcënoi bashkëshorten se do ta vriste dhe qëlloi me armë në ajër, arrestohet 40-vjeçari...

Vodhën sende me vlerë dhe 30 mijë euro në një banesë, arrestohen dy persona në Durrës

Aksident në Fier/ Makina del nga rruga dhe përfundon në kanal, mister fati i drejtuesit

Nis nga nesër “One Stop Shop” me Maqedoninë e Veriut, Rama: Kemi shumë gjëra që duhet t'i bëjmë...

Rama mbërrin në Qafë Thanë, takim me Mickoskin, në fokus sistemi i përbashkët kufitar...

Me flamurin kuqezi në duar, protestuesit ngjiten në monumentin e Skënderbeut

Tensione në protestë/ Policia hyn në lokale dhe shoqëron protestuesit me forcë

Rama: Tirana që do të fitojmë në 9 maj kërkon fuqi të madhe qeverisjeje në 10 maj

Protestuesit zhvendosen tek Kryeministria/ Policia vendos kordone në akse kryesore rrugore

"Kemi nevojë për një PS më të organizuar"/ Rama: Rruga e Durrësit sot, si një film i së shkuarës

Rama: Tiranën e transformuar nga vendi i mbijetesës në vendin që kërkon cilësi

“Ndal plaçkitjes, shtypjes, ikjes/Protestuesit ngrenë banderolen gjigande para Ministrisë së Arsimit

Policia “gardh” para Ministrisë së Arsimit, nuk lejon protestuesit të bllokojnë Rrugën e Durrësit

Rama nga Asambleja e PS-së: Vit pas viti do të dyfishojmë rritjen e pensioneve

Revoltat kundër qeverisë Rama, protestuesit mblidhen te Ministria e Arsimit

"Deri në 2030 do japim 55 mijë celësa"/ Rama: Mbështetje për fëmijët me aftësi të kufizuara

"Kanë mbajtur mbi shpinë Shqipërinë me kockat e varfërisë së vet"/Rama:Jemi në borxh me pensionistët

“Poshtë diktatura”/ Studentët e presin me thirrje pasi doli nga Asambleja, Rama i përshëndet me dorë

Rama: PS do ta fitojë sërish Tiranën dhe Shqipërinë se është rruga nga kalon bashkimi me Europën

Rama: Me trëndafilin në dorë dhe kurajën në zemër, asgjë s’na ndal

Rama: Kemi bërë gabime dhe faje, por kemi aftësinë të ringrihemi

"Goditja e njerëzve në krye të detyrës nuk falet"/ Rama: Erion Veliaj je në gabim!

Elisa Spiropali dhe Plarent Ndreca jashtë PS-së/ Rama e konfirmon nga Asambleja e Tiranës

Rama: Kush do të sillet si e ëma e Zeqos në majë të thanës, s’ka vend në këtë familje politike

Rama: Si mund të largohet nga puna kryepolicja e Tiranës pse nuk u bën ‘like’ e ‘share’

"Veliaj ta kuptojë se është gabim me PS-në"/ Rama: Kush ndjek këtë kuturisje do ndëshkohet

Rama: Vendimi i GJK-së për ta lënë Veliajn në detyrë është absurd

Mbërrijnë socialistët te Akademia e Arteve, kontrolle në hyrje dhe prani e shtuar e policisë

Berisha: Pas 35 vitesh, rikthehet partia-shtet,ekipet ndërkombëtare damkosën zgjedhjet e 11 majit

Peleshi u përgjigjet kritikave të Spiropalit: Në parlamentin shqiptar politika bëhet personale

Revolta studentore në Tiranë/ Qytetarët njëzërëshi: Në 28 nëntor ne do dalim

Qytetarët vijojnë marshimin në rrugët e Tiranës, policia i ndjek nga mbrapa

Përplasje në protestën përpara Kryeministrisë, policia zhvendos protestuesit nga Bulevardi

Protesta tek Kryeministria/Qytetarët shtyhen më forcë, focat policore nuk lejojnë protestën paqësore

Debat në Komisionin e Ligjeve për aktin normativ të tubimeve/ Bylykbashi: Rama nuk i përballon...

Pas reshjeve të dendura të shiut, hapet njëra nga portat e HEC-it të Komanit

Kanosi me armë zjarri një 31-vjeçar, arrestohet 20-vjeçari në Tiranë, procedohet penlisht i ati

Elementët dekorativë shkëputen nga fasada e pallatit në Durrës, bien mbi një makinë...

Ish-kandidati për Bashkinë e Himarës paraqitet në SPAK, ende pa detaje mbi arsyen e thirrjes

Arrestohet 25-vjeçari, do t'i merrte 1 mln euro një biznesmeni duke iu prezantuar si funksionar...

Përplasje tek Kryeministria/ Efektivët e policisë presin me forcë protestuesit, i shtyjnë me dhunë

Policia nuk i la të protestonin te Kryeministria, qytetarët marshojnë mes për mes makinave në rrugë

Policia i shtyn me forcë në trotuar, protestuesit thirrje: Poshtë diktatura

Greta Thunberg: Shqiptarët kanë treguar se çfarë do të thotë t'i rezistosh shkatërrimit të natyrës

Protestat qytetare në Tiranë/ Protestuesit mblidhen para Kryeministrisë

Balla përplaset me Shehajn: A do ta votosh kërkesën e prokurorisë italiane...

Berisha: Rreth 1 miliard euro do jenë shpenzime operative për hajdutët e administratës...

Berisha: Rrogat e ulëta duhet të rriten me 50%, rrogat e mesme me 30%!

Berisha: Buxheti nuk është 10 miliardë euro, por 5.5 miliardë! Pensionistët marrin 1 përqind...

Drogë në berberhane, thika në servis dhe përforcues grushti në banesë, arrestohet 44-vjeçari...

Marshimi paqësor i protestuesve / Forcat e policisë i ndjekin nga pas me furgona të shumtë

Protestuesit vijojnë marshimin në rrugët e Tiranës, efektivët i ndjekin nga mbrapa

"Pediatria me legen se nuk ka ujë lavamani"/ Korreshi për spitalin e Lushnjes

Tensionohet situata te Kryeministria/ Policia shtyn me forcë protestuesit paqësorë

Protestuesit zhvendosen te kryeministria, policia iu bën thirrje të lirojnë bulevardin