Naujausiai dirbtinio intelekto modelių kartai atveriant vis daugiau saugumo spragų pasauliniame tinkle, tik laiko klausimas, kada tuo jų gebėjimu kas nors pasinaudos.

Pasaulio ekonomikos forumo duomenimis, per dvejus metus iki 2025-ųjų pasaulinis kassavaitinių kibernetinių atakų skaičius šoktelėjo 58 proc. Didžiulę dalį šio augimo lėmė dirbtinis intelektas (DI).

Vien 2025 metais atakų, kuriose naudotas DI, skaičius išaugo net 89 proc. Labiausiai prie šio šuolio prisidėjo patobulėjusios „fišingo“ (angl. phishing), arba sukčiavimo, atakos, kai nusikaltėliai naudoja apgaulingus elektroninius laiškus, skambučius ar SMS žinutes, kad išviliotų jūsų banko duomenis ar kitą jautrią informaciją. Tačiau galėjo įvykti ir daug rimtesnių, pamatinių permainų.

Išsigando sukūrę monstrą

Kai JAV dirbtinio intelekto tyrimų ir saugumo įmonė „Anthropic“ – „Claude“ DI modelių kūrėja – pranešė sukūrusi galingą naują eksperimentinį modelį „Claude Mythos Preview“, per internetą nuvilnijo siaubo banga. „Mythos“ pasirodė esąs toks galingas, kad pati bendrovė nusprendė, jog dabartinės formos jį išleisti į viešumą būtų per daug pavojinga.

Anot kūrėjų, šis modelis geba aptikti programinės įrangos saugumo spragas, kurių nepastebėjo nei kibernetinio saugumo specialistai, nei ankstesni DI modeliai. Todėl užuot jį viešinusi, „Anthropic“ paskelbė inicijuojanti projektą „Glasswing“ – naują iniciatyvą, vienijančią daugiau nei 40 didžiausių pasaulio programinės įrangos ir interneto infrastruktūros įmonių.

Jų tikslas – panaudoti „Claude Mythos Preview“ spragoms surasti ir ištaisyti anksčiau, nei piktų tikslų turintys asmenys sukurs panašių gebėjimų DI modelius ir pradės jais piktnaudžiauti.

Pandoros skrynia atidaryta

„Anthropic“ teigimu, jų modelis jau aptiko tūkstančius itin didelio pavojingumo saugumo spragų, įskaitant trūkumus visose pagrindinėse operacinėse sistemose ir interneto naršyklėse.

Jei tokiais gebėjimais kaip „Mythos“ pasižymintys DI modeliai pateks ne į tas rankas, pasekmės ekonomikai, visuomenės ir nacionaliniam saugumui gali būti tragiškos.

Gera žinia, kad šiuo metu galingiausi DI įrankiai yra išskirtinai gerųjų rankose. Tačiau taip bus neilgai.

Geriausieji – vadinamieji priešakinės linijos DI modeliai (angl. frontier models), ir tuo labiau tokie kaip „Mythos“, yra griežtai saugomos paslaptys. Tačiau jiems ant kulnų lipa atvirojo kodo modeliai (angl. open-source models). Šios sistemos leidžia vartotojams diegti naujoves ir eksperimentuoti su DI modeliais peržengiant jų kūrėjų nustatytas galimybių bei saugumo ribas.

Daugeliu požiūrių tai naudinga. Bet kartu kelia ir grėsmę, mat praktiškai bet kam suteikia galimybę priderinti DI nusikalstamiems tikslams. Aišku, tam reikėtų galingų kompiuterių, tačiau nė neabejojama, kad nusikaltėliai mielai į juos investuotų.

Burbulų pūtikai

Atvirojo kodo modeliai visada atsiliko nuo priešakinės linijos DI modelių, bet dabar šis atotrūkis mažėja. Remiantis nesena DI saugumo instituto ataskaita, per pastaruosius dvejus metus jis susitraukė iki maždaug šešių mėnesių.

Tai reiškia, kad mums gali būti likę mažiau nei metai, kol koks nors „Claude Mythos Preview“ ekvivalentas pateks į rankas asmeniui ar jų grupei, siekiančiai pasinaudoti interneto spragomis.

Visgi pulti į paniką nereikėtų. DI pramonė pagarsėjusi savo pomėgiu pūsti burbulus.

Tokioms įmonėms kaip „Anthropic“, „OpenAI“, „Google“, „xAI“ ir kitoms gali būti naudinga vaizduoti savo modelius geresnius, reikšmingesnius ir net pavojingesnius, nei jie yra iš tikrųjų.

Pavyzdžiui, DI kūrėjai jau ne vienerius metus trimituoja apie transformuojantį dirbtinio intelekto poveikį darbo rinkai. Bet kaip tikriausiai pastebėjote, didžioji dalis darbų iš esmės pasikeitė tik nežymiai arba išvis nepasikeitė.

Ne nusikaltėlių reikia bijoti

Tad nors gamintojai skalambija apie milžinišką proveržį, DI ekspertai išlieka skeptiški.

Pasak jų, netgi jei kita DI modelių banga iš tikrųjų bus pajėgi sugriauti visą internetą, nėra jokios garantijos, kad nusikaltėliai norės juos panaudoti būtent tam. Juk toks žingsnis niekam nebūtų labai naudingas.

Tiesa, logika, galiojanti kibernetinių nusikaltėlių grupėms, nebūtinai galios politiniams varžovams – nesvarbu, ar tai būtų valstybės, ar teroristinės organizacijos. Jie iš tiesų gali būti labiau suinteresuoti sukelti sumaištį nei gauti finansinės naudos. Tuomet DI stebėtinai lengvai gali virsti masinio naikinimo ginklu.

Vienaip ar kitaip, tai jau realybė – lenktynės dėl interneto sustiprinimo prasidėjo. Tik kuo juos baigsis, dar neaišku.

Britų kompiuterių ekspertas profesorius Piteris Bentlis labai taikliai prilygino jas naujosioms ginklavimosi varžyboms. Lyg būtume į protingiausių mokslininkų rankas įdavę visas pasaulio žinias kaip pasigaminti sprogmenų ir pasakę: pasilinksminkite! O dabar nežinome, ką pirmiausia jie paleis pelenais.

The post Ant slenksčio – kibernetinis armagedonas? appeared first on Kauno savaitė.

Tai numatančias Viešojo administravimo įstatymo pataisas antradienį Seimui pateikė Audito komiteto narys Artūras Zuokas kartu su kitais kolegomis.

Priėmus įstatymo pataisas, jo manymu, Lietuva būtų viena iš pirmųjų Europos Sąjungos (ES) valstybių, kuri aiškiai pasako, kad šalis juda link valstybės DI asistento sukūrimo.

Jei Seimas pritartų, DI įrankius būtų galima pasitelkti dokumentų ruošimui, gyventojų užklausų analizavimui, sprendimų projektavimui, grįžtamojo ryšio analizei.

Beje, projektas numato, kad galutinis automatizuotai priimtas sprendimas, jei būtų galimų klaidų ar neatitikimų, turi būti iš naujo peržiūrimas viešojo administravimo įgalioto darbuotojo. Į įstatymą taip pat siūloma įrašyti, kad DI taikymas turi būti skaidrus, pagrįstas ir vykdomas prižiūrint atsakingam darbuotojui.

„DI asistentas nekeičia žmogaus, jis nepriimtų sprendimų už valstybės tarnautojus. Jis tik atliktų pagalbinius darbus: apdorotų užklausas, rengtų dokumentų projektus, analizuotų informaciją. Tokius darbus šiandien darome rankomis, o jie „suvalgo“ milžiniškus valstybės resursus. Pasauliniai tyrimai rodo, kad pasinaudojus DI per kelis metus galima būtų sutaupyti iki 30 proc. darbo laiko“, – komentuodamas iniciatyvą Eltai sakė A. Zuokas.

Pasak jo, priėmus įstatymo pataisas būtų patobulintas šiuo metu savivaldybių ir valstybės institucijose taikomas „vieno langelio“ principas.

„Šiandien valstybinės institucijos į paklausimus atsakinėja per 20 darbo dienų. Valstybės DI asistentas leis gauti informaciją tą pačią dieną. Tai yra tikras „vieno langelio“ pakeitimas – užklausos bus apdorojamos automatiškai, iki minimumo mažinant biurokratiją. Manau, kad „vienas langelis“ jau yra vakar diena. Su šiuo įstatymo pakeitimu siūlome valstybę judėti link „vieno lan­gelio“ tobulinimo, kitaip tariant, sukurti valstybės DI asistentą“, – sako A. Zuokas.

Pasak jo, įstatymo pataisos taip pat numato galimybę DI asistentui teikti proaktyvias paslaugas.

„Tai reiškia, kad gyventojams nereikės rūpintis ir galvoti, kada reikia eiti profilaktiškai pasitikrinti pas gydytoją, kada ir kokius sumokėti mokesčius ar, sakykime, atlikti kitą pareigą, pavyzdžiui, pratęsti leidimą medžioklės ginklui. Visa tai atliks DI asistentas informuodamas jus iš anksto“, – pateikdamas projektą parlamente sakė Mišrios Seimo narių grupės narys A. Zuokas.

2024 m. duomenimis, iš 188 šalių Lietuva šiuo metu užima 33 vietą valdžios pasirengime taikyti DI.

Pernai atliktos apklausos duomenimis, 15,3 proc. viešojo sektoriaus subjektų pritaiko DI sprendimus savo veikloje.

Siūlo ir gyventojus paruošti DI iššūkiams

Projektui oponavę Seimo nariai akcentavo galimas asmens duomenų tvarkymo, gyventojų pasirengimo naudotis moderniomis technologijomis problemas.

„Džiaugiuosi žmonėmis, kurie turi vizionierišką nuotaiką ir matymą. DI iš tikrųjų yra geras įrankis, jeigu tinkamai jį naudoji ir tam esi pasiruošęs. ES priėmė Dirbtinio inte­lekto aktą, bet iš tikrųjų mūsų teisinėje sistemoje nėra apibrėžties. Vienintelė rezoliuci­ja buvo priimta Seime praeitą kadenciją dėl etiško DI naudojimo“, – pastebėjo Seimo Kultūros komiteto pirmininkas Kęstutis Vilkauskas.

Seimo liberalo Eugenijaus Gentvilo nuomone, reikėtų pagalvoti ir apie gyventojų pasirengimą dirbti su DI.

„Kaip paruošti žmones, kad jie paklaustų standartizuotai, kad DI nesutriktų ir nepradėtų šnekėti visko, ką žino?“ – Seimo salėje svarstė E. Gentvilas.

Patikrinęs, kaip savivaldybės šiuo metu naudoja DI įrankius, Seimo narys Viktoras Fiodorovas neslėpė nusivylimo.

„Kelių savivaldybių puslapiuose specialiai pasižiūrėjau dirbtinio intelekto įskiepius. Kai paklausi dėl konkretaus tarybos posėdžio sprendimo, tai jis pasiūlo pačiam nueiti ir pasiieškoti. Tai yra tik akių dūmimas, parodymas, kad esame modernūs ir tiek. Iš tikrųjų niekur nesame pajudėję į priekį, nes tų pačių IT reikalų, informacinių sistemų ir DI panaudojimo strategijos mes neturime“, – pastebėjo V. Fiodorovas.

Nepaisant tam tikro skeptiškumo, A. Zuoko iniciatyva sulaukė kolegų pritarimo pateikimo stadijoje. Ją palaikė 79 Seimo nariai, susilaikė 5. Projektą svarstys Ekonomi­kos, Valstybės valdymo ir savivaldybių komitetai. Sulaukęs Vyriausybės išvados į plenarinę salę jis sugrįš pavasarį.

Platinti, skelbti, kopijuoti Eltos informacijas ir fotoinformacijas be raštiško Eltos sutikimo draudžiama.

The post Seimas svarstys siūlymą „įdarbinti“ valstybės dirbtinio intelekto asistentą appeared first on Kauno savaitė.

Teisė nespėja paskui DI

Jis pabrėžia, kad tokio tipo turinys gali kelti sąmyšį visuomenėje, būti panaudotas propagandos arba panikos kėlimo tikslais. Todėl, pasak LRTK vadovo, didžiausia problema, kad šiuo metu nacionalinėje teisėje nėra numatyta pakankamai įgaliojimų, leidžiančių laiku nustatyti ir sugauti realistiškai atrodančių vaizdo klastočių platintojus.

„Atsidarius socialinius tinklus Lietuvoje dar neturime situacijos, kuomet kas antras įrašas yra vaizdo klastotė, tačiau dažnėjimas tikrai pastebimas. Nors mastelis dar valdomas, bet tendencija akivaizdi“, – Eltai sakė M. Martišius.

Tuo metu LRTK Ūkio subjektų veiklos priežiūros skyriaus vedėjas Andrius Katinas, kurio kasdienė veikla apima klastočių paiešką bei identifikavimą, pastebi, kad „deepfake“ turinys pats savaime nėra problema, kol jis nepažeidžia kitų asmenų ar autorių teisių.

„Reikia suprasti, kad nėra draudžiama kurti ir skelbti tokį turinį. Atsakomybė kyla tada, kai šio turinio kūrėjai pažeidžia teisę: į atvaizdą, autorių ir gretutines teises, skleidžia dezinformaciją, karo propagandą, kursto neapykantą ir t.t. Pramoginis deepfake turinys yra leidžiamas, pavyzdžiui, parodijos satyros tikslais, jeigu jis aiškiai pažymėtas kaip sukurtas su DI“, – akcentavo A. Katinas

Pašnekovas pabrėžė, kad DI pagalba padirbto turinio paiešką ir identifikavimą apsunkina didelis jo srautas, pakartotiniai įkėlimai.

„Nors pačios platformos panaikina dalį draudžiamo turinio, socialinėse platformose jis vėl atsiranda sukūrus naujas paskyras, kanalus ar vaizdo įrašus. Net ir pašalinus įrašus, jie jau būna pridarę bėdų: viešoje erdvėje sukuriamas priešiškas naratyvas, vaizdo įrašas yra pasidalinamas padidinant jo sklaidą, susidaro sniego gniūžtės efektas – kai priešiškų įrašų pagrindu kuriami antriniai, tretiniai įrašai toliau vystant neigiamus naratyvus. Žalos mastas padidėja, kai šiuos įrašus skleidžia daug sekėjų socialinėse platformose turintys vieši asmenys“, – atskleidė A. Katinas.

Tuo metu M. Martišius atkreipia dėmesį, jog sunkumų kelia ir tai, kad socialinių tinklų atstovai įstatyminės bazės nėra įpareigoti padirbto turinio platintojus atskleisti LRTK ir gali tai padaryti nebent savo iniciatyva, bendru sutarimu.

Įrankių yra, trūksta įgaliojimų

A. Katinas Eltai pabrėžė, kad ieškant padirbto turinio daug procesų galima automatizuoti, tačiau galutinį sprendimą dėl šios medžiagos kvalifikavimo, žalos ar pašalinimo visgi priima žmogus. Tai, pasak pašnekovo, reikalauja ypač daug resursų.

Savo ruožtu M. Martišius priduria, kad situaciją apsunkina ir didžiųjų socialinių tinklų kompanijų nusiteikimas – jos pažeidėjus atskleidžia ne visada, nes nėra įpareigotos to daryti.

„Mes galime kreiptis į socialinių tinklų valdytojus, bet negalime reikalauti, kad asmuo būtų identifikuotas. Kartais iš socialinių tinklų atstovų galime sulaukti tiesiog atsakymo, kad turinį įkėlė, pavyzdžiui Artur65746, tačiau, kas toliau po juo slepiasi – nėra ieškoma“, – sakė M. Martišius.

„Nors ir pavyksta pašalinti padirbtą turinį, nukreiptą į Lietuvos auditoriją, identifikuoti atsakingą asmenį yra itin sudėtinga. Toks turinys gali būti kuriamas automatizuotai ir organizuotai ne Lietuvoje, o jo kūrėjai ar užsakovai slėptis po priešiškų valstybių tarnybų stogu“, – pridūrė A. Katinas.

Savo ruožtu M. Martišius atkreipė dėmesį, kad sunkumų kelia ir tai, kad Lietuvos nacionalinėje teisėje nėra tiksliai apibrėžtų sąlygų, kam ir kada privalo būti atskleidžiamas padirbtą turinį kuriantis ar platinantis asmuo.

„Pagal socialinių tinklų vidinę tvarką, mes dažniausiai negalime identifikuoti turinį paskleidusio asmens. Jeigu įvyksta rimtas incidentas, prokuratūra ar policija duomenis tikrai gali gauti, tačiau LRTK, kuri stebi informacijos srautą, tokių įgaliojimų neturi. Galime kreiptis į socialinius tinklus prašydami geranoriškai atskleisti kūrėjus, tačiau jie nėra įpareigoti to padaryti, kartais tiesiog paklausia, ar nacionalinėje teisėje kur nors turime nurodytus reikiamus įgaliojimus“, – pasakojo M. Martišius.

Pasak jo, tai jau tampa problematiška, nes negalima reaguoti operatyviai, kol padirbtas turinys nepadarė daugiau žalos ir neišplito socialiniuose tinkluose.

Savo ruožtu A. Katinas akcentuoja, kad techninis teisės aktų įgyvendinimas turėtų būti atliekamas kartu su aktyvesne atvirųjų šaltinių žvalgyba (angl. Open Source Intelligence, OSINT) ir jos įrankių diegimu.

„LRTK jau kelis metus taiko OSINT žvalgybą rengdama tyrimus dėl draudžiamos informacijos ar autorių teisių pažeidimų, ir, bendradarbiaudama su užsienio valstybių tarnybomis, pastebi, kad specialistų lygmenyje šių žinių stinga. Nors šiuo metu yra svarstomi teisės aktų pakeitimai, kurie padėtų kovoje su klastojamu vaizdo turiniu, šie pakeitimai turi žengti koja kojon su techniniais įrankiais, jų galimybėmis, informacinių technologijų ir OSINT žiniomis“, – įsitikinęs specialistas.

Teisinėje bazėje trūksta reikiamų įgaliojimų

M. Martišiaus teigimu, į nacionalinę teisinę bazę labai svarbu įtraukti punktus, aiškiai apibrėžiančius padirbto vaizdo turinio klausimus: autorystės nustatymą, atsakomybę. Anot jo, kuomet kreipiamasi į socialinių tinklų valdytojus, šie turi žinoti, kad šalies teisinė bazė apibrėžia būtinybę identifikuoti melagingo turinio skleidėjus.

„Kuomet susitvarkysime viduje, dar reikės bendradarbiauti su profesine bendruomene, Europos Sąjungos šalimis, partnerėmis, kad tokie sintetiniai, netikri vaizdai būtų lengviau atsekami, o platintojai identifikuojami, nes tai tikrai bus rimta problema ateityje, ypač technologijoms taip sparčiai tobulėjant“, – sakė jis.

Greta institucijų kovos su padirbtu turiniu, A. Katinas pabrėžia, jog ypač svarbu edukuoti vartotojus. Pasak pašnekovo, kiekvienas internete naršantis gyventojas turėtų žinoti, kad turinį būtina tikrinti, atpažinti šaltinius, kuriais galima pasitikėti. Anot jo, netolimoje ateityje vaizdo klastotės kels dar daugiau problemų ne tik tarnyboms, bet ir vartotojams, mat DI braižas atskiriamas vis sudėtingiau.

„Socialinių tinklų vartotojai turėtų filtruoti gaunamą informacinį srautą: pasitikėti platformose autorizuotais profiliais, naudotis žiniasklaidos pliuralizmu kritiškai vertinant algoritmų brukamą atsitiktinį turinį. Pastebėjus žalingą ir klastotą turinį, visada siūlome kreiptis į LRTK“, – patarė pašnekovas.

LRTK 2024 metais atliko 41 tyrimą dėl neteisėto audiovizualinio turinio, įskaitant piratines paslaugas ir propagandinius klastoto vaizdo turinio siužetus. Taikyti dirbtinio intelekto ir OSINT įrankiai, analizuota turinio kilmė, sklaida, botų aktyvumas ir pasikartojantys šablonai.

Platinti, skelbti, kopijuoti Eltos informacijas ir fotoinformacijas be raštiško Eltos sutikimo draudžiama.

The post Įspėja, kad vaizdo klastočių viešoje erdvėje tik daugės appeared first on Kauno savaitė.

„Tęstinės automatinės veido atpažinimo sistemos pradės veikti jau šį rudenį. Tai reiškia, kad laikui bėgant jos supaprastins apsipirkimą savitarnos kasose ir leis padidinti apsipirkimo greitį“, – sako įmonės „StrongPoint“ Savitarnos produkto direktorius Povilas Kepalavičius.

Kaip skelbiama pranešime, siekiant užkirsti kelią galimiems bandymams apeiti sistemą, nuolat yra atnaujinami sistemos algoritmai ir diegiamos papildomas saugumo priemonės.

„Galime nuraminti, kad išmanūs sprendimai ne šiaip sau laikomi tokiais. Amžiaus atpažinimo funkcija turi kelerių metų paklaidą, todėl sistemos rėžis yra nustatytas, kad jauniausias amžius nustatymui būtų 24–25 metai“, – sako „StrongPoint“ Savitarnos produkto direktorius.

Įmonės atstovas pažymi, kad net ir pradėjus veikti naujajai sistemai, pirkėjai galės rinktis ir įprastą amžiaus patvirtinimo būdą, kuomet tai padaro darbuotojas.

Tačiau patikina, kad automatinis veido atpažinimas įgyvendinamas laikantis griežtų asmens duomenų apsaugos reikalavimų. Šios sistemos nesaugo vartotojų veidų ilgalaikėse duomenų bazėse, o biometrinius duomenis lygina realiuoju laiku.

Platinti, skelbti, kopijuoti Eltos informacijas ir fotoinformacijas be raštiško Eltos sutikimo draudžiama.

The post Lietuvoje pirkėjų amžių tikrins dirbtinis intelektas appeared first on Kauno savaitė.