Izmantojot Meta viedbrilles ar AI un LLM svešinieku doksēšanai

Meta jaunākās paplašinātās realitātes (AR) brilles ar nosaukumu Orion, iespējams, pagājušajā nedēļā ir izpelnījušās ievērojamu uzmanību, taču divu Hārvardas studentu uzsāktais projekts atkal aizsina diskusijas par Meta Ray-Ban viedajām brillēm.

Ray-Ban Meta viedbrilles ir aprīkotas ar augstas izšķirtspējas (HD) kameru un integrētu skaļruni, kas ļauj lietotājiem baudīt digitālo brīvroku pieredzi. Izmantojot šīs brilles, lietotāji var zvanīt, klausīties mūziku un nemanāmi uzņemt vai tiešraidē straumēt fotoattēlus un videoklipus.

Studentu AnhPhu Nguyen un Caine Ardayfio veidotā demonstrācija atklāj, kā videomateriāls no brillēm, apvienojumā ar sejas atpazīšanas tehnoloģiju, var potenciāli atklāt svešinieku privātu informāciju publiskās vietās. Neskatoties uz to, ka pamatā esošā tehnoloģija ir pieejama gadiem ilgi, šī demonstrācija rada diskomforta sajūtu, jo īpaši tāpēc, ka daudzi cilvēki nezināja, cik viegli šāda tehnoloģija ir pieejama vidusmēra civiliedzīvotājiem. Tas ir novedis pie tā, ka daudzi lietotāji tehnoloģiju nodēvējuši par distopisku, atspoguļojot to, kā daudzi to bija iecerējuši. Tomēr šobrīd tā ir realitāte.

Ngujens vietnē X (iepriekš Twitter) ievietoja videoklipu, kurā tiek demonstrēta tehnoloģija, saukta par I-XRAY, darbībā.

Vai esam gatavi pasaulei, kurā mūsu dati tiek atklāti vienā mirklī? @CaineArdayfio un es piedāvājam atbildi, lai aizsargātu sevi šeit: https://t.co/LhxModhDpk
pic.twitter.com/Oo35TxBNtD

— AnhPhu Nguyen (@AnhPhuNguyen1) 2024. gada 30. septembris

Šī tehnoloģija izmanto kameru uz brillēm, lai tiešraidē straumētu video uz viņu Instagram kontu. Viņi ir ieprogrammējuši datora lietojumprogrammu, lai uzraudzītu straumi un izmantotu AI, lai identificētu sejas.

Kad seja ir atpazīta, tā tiek apstrādāta, izmantojot sejas atpazīšanas pakalpojumus, piemēram, PimEyes, kas attiecīgi saskaņo attēlu ar publiski pieejamiem personas fotoattēliem tiešsaistē. Pēc tam šie attēli tiek analizēti, izmantojot lielus valodu modeļus (LLM), lai iegūtu informāciju, piemēram, personas vārdu, nodarbošanos un citu informāciju. Pēc tam šos datus var saistīt ar publiski pieejamām datu bāzēm, lai atklātu tālruņu numurus un pat daļējus sociālās apdrošināšanas numurus.

Kā jau minēts iepriekš, gandrīz visas I-XRAY izmantotās tehnoloģijas ir bijušas pieejamas gadiem ilgi, ietverot kameras, sejas atpazīšanas rīkus, piemēram, PimEyes, un tādas datu bāzes kā FastPeopleSearch un Cloaked.com.

Šīs demonstrācijas satraucošo raksturu pastiprina tās neuzkrītošais un tūlītējais darbības veids. Videoklipā redzamās Ray-Ban Meta Glasses 2 atgādina standarta brilles, un, lai gan tām ir privātuma indikators, kas norāda, kad video ierakstīšana ir aktīva, to var būt grūti pamanīt spilgtā āra vidē. Līdz ar to persona, kas valkā šīs brilles, var jūs ierakstīt bez jūsu ziņas.

Turklāt informācijas vākšanas autonomais raksturs saasina nemieru. Iesaistītie LLM var automātiski, bez cilvēka iesaistīšanās, atklāt informāciju, piemēram, vārdus un personas informāciju no dažādiem tiešsaistes avotiem. Videoklipā ir ilustrēts, kā šie skolēni uz ielas nomocītu cilvēku, nejauši izmantojot savākto informāciju, lai izliktos pazīstami, it kā viņi būtu tikušies kopienas pasākumā.

Šī projekta galvenais mērķis ir uzsvērt, cik viegli svešinieki var piekļūt personiskajai informācijai mūsdienu digitālajā vidē. Studentu duets ir izvēlējies publiski neizlaist nevienu kodu, bet ir kopīgojis metodes, kā personas var aizsargāt savu privātumu. Daudzas no šīm datu bāzēm piedāvā bezmaksas pakalpojumus, kas palīdz noņemt personisko informāciju. Tomēr tas joprojām ir grūts uzdevums, lai pilnībā novērstu jūsu tiešsaistes klātbūtni. Izmantojot šos pasākumus, varat mēģināt padarīt savu informāciju nedaudz mazāk pieejamu.