E fundit!

18:05 TODAY

The start of negotiations for the abolition of roaming with the EU is approved, soon the same tariffs when traveling

The European Council announced today the approval of the o...

Beware, Artificial Intelligence can stage fake calls from your family members

2023-08-31 09:13:00, Blog CNA

Gone are the days of old scams, with "princes" offering their fortune through an e-mail address or with dubious prizes you claim to have won on the Internet, which ask for all your passwords and bank details.

Today, scams are becoming even more sophisticated and far more convincing. Thanks to the ongoing boom in artificial intelligence (AI), scammers are now able to replicate not only the voice of someone you know very well, but in some cases even their faces.

And this technology is not only available to the most tech-obsessed, but to anyone with a half-decent computer and an internet connection.

Making you believe you are on the phone with a family member who needs money, close friends who are stuck in a dangerous place or someone you work with who is asking you to send them an online amount of money, AI phone scams play on the psychology of trust and fear to convince people to send money, believing they know the person on the other end of the phone.

Beware, Artificial Intelligence can stage fake calls from your family members

But how does this technology work, and is there a way to better prepare against future scams? We spoke to Oli Baklin, professor of cyber security at the University of East Anglia, about this.

What is a deep fake?

While scams continue to appear in various forms, those of recent years tend to rely on technology known as "deepfakes". “Using an Artificial Intelligence algorithm, they create content that looks or sounds realistic.

This can be video or even just audio" - explains Bakli.

"They need very little data, and with it they can create something quite convincing, using just a standard laptop that anyone can buy," continues the expert.

Basically, deepfakes take samples of someone's looks or voice, learning how to accurately recreate their movements or voice. This can then be used to "implant" their face on someone else's body, read a certain text with their voice or a host of other malicious activities.

While the technology sounds complicated, it's actually surprisingly easy for anyone to make such a forgery themselves. All they need is a publicly available video or voice recording of you and some software that can be purchased at a very cheap price.

“The software is easily downloadable and anyone can easily create a very convincing deepfake. It takes seconds, not minutes or hours, and anyone with a little free time and access to YouTube can figure out how to do it.

That's one of the benefits and curses of the AI ??boom we're seeing right now. We have amazing technology at our disposal, which until recently was considered science fiction. Such development is excellent for innovation. But there is also a dark side, which is abuse if it falls into the wrong hands" - emphasizes Bakli.

The world of big scams

Since their first use, deepfakes have been used in malicious ways, ranging from spoofing political speeches, to creating pornographic material. But recently their use has increased significantly in the world of scams.

“Being able to get someone to do or say what you want is an incredibly powerful skill for con artists. There has been an increase in AI-generated voice scams where someone receives a phone call or even a video call from a loved one telling them they are in trouble and need money.

These are derived from data available from the Internet. They don't have to be 100 percent accurate. Relying on fear and a depressing situation, you panic and overlook any inconsistencies in the details" - declares the expert.

Ndërsa këto mashtrime mund të vijnë në forma të ndryshme, formati i zakonshëm është një telefonatë nga një numër i rastësishëm. Personi në anën tjetër, përdor falsifikimin e thellë duke pretenduar se është një anëtar i familjes tuaj apo dikush që normalisht do të mbështetej tek ju për para.

Ky lloj mashtrimi mund të marrë edhe formën e një mesazhi zanor, ku telefonuesi mund të ketë gati një tekst të parapërgatitur. Në një telefonatë me gjatësi të plotë të inskenuar nga mashtruesi, ka shpesh pauza të gjata pasi ato detyrojnë gjenerimin e zërit që të krijojë përgjigje për pyetjet që i bëhen.

Me teknologjinë bazë, këto falsifikime të thella s’kanë gjasa të jenë perfekte. Përkundrazi ato ofrojnë një version të zërit të dikujt që mund të jetë paksa si i mekur. Megjithatë, duke u mbështetur në stresin e një momenti, këta mashtrues shpresojnë që njerëzit të mos e vënë re, ose ta shpjegojnë atë me stresin që ka telefonuesi.

Si luftohet kundër “deepfakes”

Ndërsa këto lloj mashtrimesh po bëhen gjithnjë e më të zakonshme, lind pyetja se cila është mënyra më e mirë për t’u përballur me to, dhe nëse publiku mund të bëjë diçka për ta qenë më pak në shënjestër të këtyre mashtrimeve.

“Është e lehtë të jesh kritik me të tjerët kur nuk të ndodh ty, por është e vështirë kur je mashtruar në këtë formë”- thotë Bakli.

Ka pjesë të softuerit që mund të përdoren për të identifikuar një video apo audio të falsifikuar, por njeriu i zakonshëm nuk ka gjasa ta bëjë këtë dallim.

Kështu nëse merrni një telefonatë nga një familjari juaj të cilin nuk po e prisnit dhe keni dyshimet tuaja, mbylleni dhe telefonojini serish. Ose dërgojini mesazhe për të parë se ku ndodhen. Për të krijuar një falsifikim që duket shumë realist, nevojitet një sasi çuditërisht e vogël audio apo pamje.

Dikur ky mund të mos ishte një problem, por sot shumica e njerëzve, gjen shumë imazhe dhe audio të tyre në internet. Ndërsa është e mundur të provoni dhe hiqni të gjithë përmbajtjen tuaj në internet, kjo nuk është diçka dhe aq e lehtë, sepse kërkon një pastrim të plotë të përmbajtjeve tuaja si nga mediat sociale, po ashtu edhe nga miqtë dhe familjet tuaja.

Beware, Artificial Intelligence can stage fake calls from your family members

Po kështu, mund të ketë më shumë përmbajtje nga puna juaj ose grupet sociale që kanë pamje dhe audio të përdorshme.

“Ne të gjithë jetojmë sot në një përmasë shumë publike, sidomos sepse pandemia e Covid-19 e krijoi këtë ndjenjë të rritjes së komunitetit në internet pasi ishim të ndarë fizikisht nga të gjithë”- shprehet eksperti.

Dhe kjo do të thotë sipas tij se në rrjet ka shumë foto, video dhe audio tonat. Opsioni më i mirë është thjesht të jesh objektiv, të marrësh parasysh sa e mundshme është përmbajtja e rreme, dhe të jesh i kujdesshëm ndaj telefonatave ose videove që nuk ndihen të besueshme.

Ndryshim në mentalitet

Inteligjenca Artificiale e ka rritur në mënyrë drastike aftësinë e saj vitin e fundit. Ndërsa kjo ka sjellë shumë gjëra të mira, e ka balancuar duke sjellë edhe një sasi të barabartë të këqijash. Ndërsa ekzistojnë disa metoda për të gjurmuar përdorimin e tij, mashtruesit janë shumë të shpejtë në rregullimin e teknologjisë së tyre sapo të jenë në gjendje ta vërejnë atë.

Për njëfarë kohe, një falsifikim i thellë mund të identifikohej nga një lloj i qartë i pulsimit të syrit, por shpejt gjërat ndryshuan. Në vend se të përpiqen të kërkojnë gabime apo elementë të çuditshëm, Bakli dhe ekspertë të tjerë të kësaj fushe, e vënë theksin tek një ndryshim në mentalitet.

“Technology is outpacing the way we think about it, but also the way we try to discipline its use. In this respect, we are playing the "catch me if you can" game. We will get to the point where we are no longer sure what is true and what is not. Critical thinking is the most important factor when dealing with deep forgeries, says Bakli./ Adapted from CNA