LIVE UPDATES
Bota

Studimi: Poezia çekuilibron inteligjencën artificiale

Prompte në formë poezish i ngatërrojnë modelet e inteligjencës artficiale (IA) ChatGPT, Gemini apo Claude ndonjëherë aq shumë, saqë mekanizmat e sigurisë nuk funksionojnë. A janë poetët hakerat e rinj?

11 January 2026, 10:53 Nga I.A

Studimi: Poezia çekuilibron inteligjencën artificiale

ITALI- Hulumtuesit e  Icaro Lab në Itali u befasuan vetë nga rezultati. Ata donin të hulumtonin, nëse stilet e ndryshme gjuhësore, në rastin konkret prompte në formë poezish, ndikojnë në aftësinë e modeleve të inteligjencës artificiale (IA) për të zbuluar përmbajtje të ndaluara ose të rrezikshme. Dhe përgjigja ishte e qartë: po. Poezia ka ndikim, edhe nëse nuk është plotësisht e qartë pse.

Për studimin mbi temën "Adversarial Poetry" ata morën nga një bazë të dhënash 1200 prompte potencialisht të rrezikshëm, që përdoren zakonisht për të testuar sigurinë e modeleve të gjuhës së IA-së dhe i kthyen në poezi.

Këto të ashtuquajtur "adversarial prompts", zakonisht të shkruar në prozë dhe jo me rimë, janë pyetje (kërkesa) që formulohen në atë mënyrë, që modelet e IA-së të nxjerrin përmbajtjet e dëmshme ose të padëshiruara, të cilat normalisht do t`i bllokonin, si për shembull një udhëzim konkret për një veprim të paligjshëm. 

Në formë poezie të dhënat manipuluese treguan një shkallë çuditërisht të lartë suksesi, thotë në intervistë për Deutsche Welle-n Federico Pierucci, një nga autorët e studimit. Por pse poezia është kaq efikase si teknikë jailbreaking, pra si përpjekje për të anashkaluar mekanizmat mbrojtës të inteligjencës artificiale, është e paqartë dhe mbetet objekt i studimeve të mëtejshme.

Poezia dëmton sigurinë

Pikënisje e kërkimeve të Icaro Lab ishte konstatimi se modelet e IA-së çoroditen, kur një prompti i bashkëngjitet një pjesë teksti manipuluese, e llogaritur matematikisht, një e ashtuquajtur "adversarial suffix" (e përkthyer fjalë për fjalë "prapashtesë kundërshtuese") pra një lloj sinjali interferues, i cili bën që IA të anashkalojë rregullat e veta të sigurisë. Këto krijohen duke përdorur procese të komplikuara matematikore. Programuesit kryesorë të IA-së i testojnë rregullisht modelet e tyre pikërisht me të tilla metoda sulmesh, për të trajnuar dhe mbrojtur modelet e veta.

„Kemi pyetur veten se çfarë ndodh, kuri japim IA-së një tekst ose një prompt, që është i manipuluar qëllimisht, si një adversarial Suffix (prapashtesë kundërshtuese)", thotë Federico Pierucci. Jo me ndihmën e matematikës komplekse, por fare thjesht me poezi, për ta "surprizuar" IA-në, thotë Pierucci.

Ideja pas kësaj ishte, se "ndoshta një adversarial suffix (prapashtesë kundërshtuese) është një lloj poezie për IA. Që e surprizon atë në të njëjtën mënyrë, siç na surprizon ne poezia, sidomos poezia shumë eksperimentale".

Dhe pastaj erdhi mendimi tjetër: Po sikur poezia të surprizonte edhe IA, meqenëse inputet zakonisht nuk janë në formë poezie, por në formë teksti të thjeshtë.

Pierucci, vetë i diplomuar në filozofi, thotë se ata i kthyen vetë 20 promptet e para në poezi. Këto rezultuan si më efikaset. Pjesën tjetër e kthyen në poezi me ndihmën e IA. Edhe këto patën një shkallë jo të vogël suksesi, megjithëse më pak se ato që i formuluan vetë. Njerëzit janë ende poetët më të mirë.

„Ne nuk patëm ndonjë shkrimtar të specializuar, për të shkruar promptet. E bëmë vetë, me aftësitë tona të kufizuara letrare. Kush e di, nëse do të kishim qenë poetë më të mirë, do të kishim një kuotë suksesi 100 përqind. "Shembuj specifikë nuk u publikuan në studim për arsye sigurie".

Sfida për sistemet IA: shumëllojshmëria e formave të shprehjes njerëzore
Aspekti surprizues i studimit është se ai zbulon një dobësi të panjohur më parë në modelet e inteligjencës artificiale, duke mundësuar jailbreak relativisht të thjeshta. Për më tepër ai ngre pyetje, që ftojnë për të bërë kërkime të mëtejshme: Çfarë ka saktësisht në poezi, që i anashkalon mekanizmat e sigurisë?

Pierucci dhe kolegët e tij kanë teori të ndryshme, por ende nuk mund ta thonë me siguri. "Po kryejmë studime shumë të sakta shkencore për të zbuluar, nëse është vargu, rima apo metafora, që e bëjnë vërtet punën kryesore në këtë proces", shpjegon Pierucci.

Ata duan të zbulojnë edhe nëse ka teknika të tjera nga fusha e kulturës, që mund të arrijnë rezultate të ngjashme. "Tani eksperimetuam me një lloj variacioni gjuhësor, poezinë. Pyetja është, nëse ka forma të tjera letrare, siç janë përrallat. Ndoshta edhe një sulm i bazuar në përralla mund të sistematizohet", thotë Pierucci.

Në përgjithësi mundësitë e shprehjes njerëzore janë jashtëzakonisht të ndryshme dhe krijuese, gjë që mund ta bëjë më të vështirë stërvitjen e makinave për to. "Një tekst mund ta rishkruash në aq shumë mënyra dhe jo të gjitha mund të jenë aq alarmante sa origjinalet”, thotë studiuesi. Dhe kjo mund të çojë në mosaktivizimin e funksioneve të sigurisë së IA-së.

Hulumtimi i IA: Edhe sfera kulturore luan një rol
Studimi bën gjithashtu të qartë se në studimet mbi inteligjencën artificiale bashkëpunojnë shumë disiplina, siç është rasti në Icaro lab, i cili në bashkëpunim me Universitetin e Romës shqyrton sigurinë dhe sjelljen e sistemeve të IA. Këtu bashkohen studiues nga fushat e inxhinierisë dhe shkencave kompjuterike, gjuhësisë dhe filozofisë. Poetët nuk kanë qenë ende pjesë e ekipit, por kush e di se çfarë sjell e ardhmja.

Federico Pierucci është shumë i motivuar për të vazhduar kërkimet e tij. "Ne kemi treguar se ka forma të shprehjes kulturore dhe njerëzore, të cilat janë çuditërisht efektive si teknika jailbreak. Dhe ne mund të kemi zbuluar vetëm njërën prej tyre."

Emri i laboratorit i referohet mitit të Icarus-it: një figurë nga mitologjia greke, e cila me gjithë paralajmërimet përpiqet të fluturojë drejt diellit me krahë prej dylli dhe pupla. Dielli e shkrin dyllin, Icarus bie në det dhe mbytet, një simbol për mbivlerësimin e vetvetes dhe tejkalimin e kufijve natyrorë.

Në lidhje me studimet për IA studiuesit thonë se ata e shohin veten si një "memento mori", për të kujtuar që të mos fluturosh shumë lart, pa kuptuar mirë rreziqet dhe kufizimet e IA-së./DW

ia icaro lab

Sondazh

Të shpallur në kërkim ndërkombëtar, arrestohen dy persona në Vorë dhe Shkodër

Të shpallur në kërkim ndërkombëtar, arrestohen dy persona në Vorë dhe Shkodër

Rama sqaron deklaratën: Mendimi im, nuk i japim leksione qeverisë maqedonase për vendimet...

Mickoski pyetet për incidentin e himnit në Pustec: Nuk e kemi ndjekur aktivitetin deri në fund...

Rama përballet me gazetarin në Qafë Thanë: Çfarë je ti, protestues?

“One Stop Shop”/ Mickoski: Është kënaqësi që po bëjmë ketë bashkëpunim për një pikë kontrolli...

Kërcënoi bashkëshorten se do ta vriste dhe qëlloi me armë në ajër, arrestohet 40-vjeçari...

Vodhën sende me vlerë dhe 30 mijë euro në një banesë, arrestohen dy persona në Durrës

Aksident në Fier/ Makina del nga rruga dhe përfundon në kanal, mister fati i drejtuesit

Nis nga nesër “One Stop Shop” me Maqedoninë e Veriut, Rama: Kemi shumë gjëra që duhet t'i bëjmë...

Rama mbërrin në Qafë Thanë, takim me Mickoskin, në fokus sistemi i përbashkët kufitar...

Me flamurin kuqezi në duar, protestuesit ngjiten në monumentin e Skënderbeut

Tensione në protestë/ Policia hyn në lokale dhe shoqëron protestuesit me forcë

Rama: Tirana që do të fitojmë në 9 maj kërkon fuqi të madhe qeverisjeje në 10 maj

Protestuesit zhvendosen tek Kryeministria/ Policia vendos kordone në akse kryesore rrugore

"Kemi nevojë për një PS më të organizuar"/ Rama: Rruga e Durrësit sot, si një film i së shkuarës

Rama: Tiranën e transformuar nga vendi i mbijetesës në vendin që kërkon cilësi

“Ndal plaçkitjes, shtypjes, ikjes/Protestuesit ngrenë banderolen gjigande para Ministrisë së Arsimit

Policia “gardh” para Ministrisë së Arsimit, nuk lejon protestuesit të bllokojnë Rrugën e Durrësit

Rama nga Asambleja e PS-së: Vit pas viti do të dyfishojmë rritjen e pensioneve

Revoltat kundër qeverisë Rama, protestuesit mblidhen te Ministria e Arsimit

"Deri në 2030 do japim 55 mijë celësa"/ Rama: Mbështetje për fëmijët me aftësi të kufizuara

"Kanë mbajtur mbi shpinë Shqipërinë me kockat e varfërisë së vet"/Rama:Jemi në borxh me pensionistët

“Poshtë diktatura”/ Studentët e presin me thirrje pasi doli nga Asambleja, Rama i përshëndet me dorë

Rama: PS do ta fitojë sërish Tiranën dhe Shqipërinë se është rruga nga kalon bashkimi me Europën

Rama: Me trëndafilin në dorë dhe kurajën në zemër, asgjë s’na ndal

Rama: Kemi bërë gabime dhe faje, por kemi aftësinë të ringrihemi

"Goditja e njerëzve në krye të detyrës nuk falet"/ Rama: Erion Veliaj je në gabim!

Elisa Spiropali dhe Plarent Ndreca jashtë PS-së/ Rama e konfirmon nga Asambleja e Tiranës

Rama: Kush do të sillet si e ëma e Zeqos në majë të thanës, s’ka vend në këtë familje politike

Rama: Si mund të largohet nga puna kryepolicja e Tiranës pse nuk u bën ‘like’ e ‘share’

"Veliaj ta kuptojë se është gabim me PS-në"/ Rama: Kush ndjek këtë kuturisje do ndëshkohet

Rama: Vendimi i GJK-së për ta lënë Veliajn në detyrë është absurd

Mbërrijnë socialistët te Akademia e Arteve, kontrolle në hyrje dhe prani e shtuar e policisë

Berisha: Pas 35 vitesh, rikthehet partia-shtet,ekipet ndërkombëtare damkosën zgjedhjet e 11 majit

Peleshi u përgjigjet kritikave të Spiropalit: Në parlamentin shqiptar politika bëhet personale

Revolta studentore në Tiranë/ Qytetarët njëzërëshi: Në 28 nëntor ne do dalim

Qytetarët vijojnë marshimin në rrugët e Tiranës, policia i ndjek nga mbrapa

Përplasje në protestën përpara Kryeministrisë, policia zhvendos protestuesit nga Bulevardi

Protesta tek Kryeministria/Qytetarët shtyhen më forcë, focat policore nuk lejojnë protestën paqësore

Debat në Komisionin e Ligjeve për aktin normativ të tubimeve/ Bylykbashi: Rama nuk i përballon...

Pas reshjeve të dendura të shiut, hapet njëra nga portat e HEC-it të Komanit

Kanosi me armë zjarri një 31-vjeçar, arrestohet 20-vjeçari në Tiranë, procedohet penlisht i ati

Elementët dekorativë shkëputen nga fasada e pallatit në Durrës, bien mbi një makinë...

Ish-kandidati për Bashkinë e Himarës paraqitet në SPAK, ende pa detaje mbi arsyen e thirrjes

Arrestohet 25-vjeçari, do t'i merrte 1 mln euro një biznesmeni duke iu prezantuar si funksionar...

Përplasje tek Kryeministria/ Efektivët e policisë presin me forcë protestuesit, i shtyjnë me dhunë

Policia nuk i la të protestonin te Kryeministria, qytetarët marshojnë mes për mes makinave në rrugë

Policia i shtyn me forcë në trotuar, protestuesit thirrje: Poshtë diktatura

Greta Thunberg: Shqiptarët kanë treguar se çfarë do të thotë t'i rezistosh shkatërrimit të natyrës

Protestat qytetare në Tiranë/ Protestuesit mblidhen para Kryeministrisë

Balla përplaset me Shehajn: A do ta votosh kërkesën e prokurorisë italiane...

Berisha: Rreth 1 miliard euro do jenë shpenzime operative për hajdutët e administratës...

Berisha: Rrogat e ulëta duhet të rriten me 50%, rrogat e mesme me 30%!

Berisha: Buxheti nuk është 10 miliardë euro, por 5.5 miliardë! Pensionistët marrin 1 përqind...

Drogë në berberhane, thika në servis dhe përforcues grushti në banesë, arrestohet 44-vjeçari...

Marshimi paqësor i protestuesve / Forcat e policisë i ndjekin nga pas me furgona të shumtë

Protestuesit vijojnë marshimin në rrugët e Tiranës, efektivët i ndjekin nga mbrapa

"Pediatria me legen se nuk ka ujë lavamani"/ Korreshi për spitalin e Lushnjes

Tensionohet situata te Kryeministria/ Policia shtyn me forcë protestuesit paqësorë

Protestuesit zhvendosen te kryeministria, policia iu bën thirrje të lirojnë bulevardin