Nova nevarnost: Vibehacking in umetna inteligenca na delu

Vsem varnostnim ukrepom navkljub pa se dogajajo dogodki, ki nas opozarjajo na to, da o varnosti jezikovnih modelov še vedno vemo povsem premalo in da so ukrepi pogosto jalovi. Tokrat delimo zgodbo o ruskem "vajbhekerju", ki o hekanju v resnici ni imel pojma, pa je vseeno veliko dosegel.

Raziskovalci so analizirali zgodovino pogovorov, ki jo je med marcem in aprilom zapustil ruski heker z vzdevkom bandcampro. Delal je sam, brez ekipe. No, imel pa je izdatno virtualno pomoč. Sam je napisal le okoli desetino vsega, vse ostalo, od besedila ukazov do kode, je napisala umetna inteligenca. Pri pisanju kode se je celo popolnoma zanesel na moč ameriškega AI-ja. Gemini mu je pripravil strežnik, vzpostavil tunele in zaobšel požarni zid. Umetna inteligenca je tudi proaktivno sama iskala rešitve in predlagala, kako še izboljšati njegov hekerski projekt.

Operacija je dolgo tekla neopaženo ravno zato, ker je tako neklasična. Ni šlo za zlonamerne programe in okužene predstavnostne datoteke, celotna genialnost načrta je v tem, da ga je heker uspel spraviti v enostavne besedilne datoteke, ki so umetni inteligenci naročile, da naredi problematičen del. V prvem koraku besedilo umetno inteligenco poskuša prepričati, da je heker pooblaščen preizkuševalec in da lahko model opusti etične pomisleke; to je klasičen AI "jailbreak". V drugi tekstovni datoteki so podatki za arhitekturo in ukazi, kako izvesti okužbo, v tretji navodila po korakih, kako obnoviti škodljivo botnet sejo. Ker gre za legitimno besedilo, ki samo po sebi ni nevarno, je tudi zaobšlo zaščito. Vajbhekerji ne pišejo zlonamerne kode, ampak samo sestavljajo grobe koncepte, medtem ko vse ostalo naredi umetna inteligenca.

Heker se je očitno zavedal svojih omejitev in si izbral majhno tarčo, ki bi še nedavno tega veljala za premajhno, da bi se z njo splačalo ukvarjati. Kot pri razvoju aplikacij ni več važno pisanje kode, ampak okus, je tudi v svetu hekanja važna le še ideja, izvedba pa je smešno poceni. Končna škoda je sicer bila znatna; heker je dobil dostop do baze pacientov zobozdravstvene ordinacije in s pomočjo baze ukradenih gesel vdrl še v druge račune odvetniških pisarn, ambulant in trgovin. Bolj je zanimivo, da je vse skupaj potekalo prek klepeta z AI-jem; heker je povprašal, kakšne datoteke se skrivajo na okuženem računalniku, prav tako je umetni inteligenci prepustil celotno delo snovanja trajnejše okužbe, ki bi se obdržala na oddaljenih računalnikih.

Na neki točki, ko je heker predlagal razvoj bolj avtonomne oblike napada, se je Gemini končno uprl. Tudi testni sistem ima svoje etične meje, je rekel. Ni pa ga pustil praznih rok; takoj je predlagal druge pristope, kako bi lahko dosegel isti cilj na način, ki ne bi vznemiril varnostnih filtrov. Filtrom navkljub

je bila bolestna ustrežljivost voda na mlin nepridiprava, podobno kot tudi jezik; varnostni mehanizmi so večinoma navajeni na angleški jezik, ruščina jih je morda nekoliko zmedla.

Poznavalci bandcampra ne označujejo za posebej nadarjenega ali spretnega, mu pa priznajo vztrajnost in jasnost njegovega cilja. Za varnostne raziskovalce to, da lahko naključni "mulc" vdre v ambulanto na drugem koncu sveta, pomeni, da se je svet že povsem spremenil, saj smo od okuženih datotek prišli do škodljivih, v besedilo skritih ukazov in analiziranja namenov. Za nas, navadne smrtnike, pa pomeni podobno kot prej; uporabljati močna gesla, dvofaktorsko avtentikacijo in imeti offline varnostne kopije. Isti dolgčas kot vedno, a če lahko vsak amater vsaj poskusi, se splača biti malo bolj previden.