Стални пораст превара и дигиталних злоупотреба на друштвеним мрежама и апликацијама за размену порука приморао је велике технолошке компаније да значајно побољшају своје безбедносне мере. Све је чешће да сајбер криминалци покушавају да украду налоге, банковне податке или да се представљају као познати брендови путем порука, огласа и контаката који на први поглед делују безопасно.
У том контексту, Мета појачава своју безбедносну стратегију новом генерацијом вештачке интелигенције за борбу против превара примењене на Фејсбук, Вотсап и Месинџер . Фокус је јасан: упозорити кориснике пре него што упадну у замку, минимизирати изложеност злонамерном садржају и што више отежати живот преварантима који послују на њеним платформама.
Вештачка интелигенција за борбу против превара која ће бити испред превара на Мети
Мета примењује пакет функција које комбинују вештачку интелигенцију на уређају са анализом на удаљеним серверима . Ова архитектура омогућава, с једне стране, поштовање енкрипције од почетка до краја у сервисима попут WhatsApp-а и Messenger-а, а с друге стране, нуди додатни слој напредне детекције када корисник одлучи да пошаље одређени сумњиви садржај на преглед.
Алати се ослањају на моделе способне да анализирају текст, слике, линкове и обрасце понашања . Циљ је да се идентификује све, од лажних огласа који користе лица познатих личности без дозволе до порука „техничке подршке“ које покушавају да добију верификационе кодове, као и захтева за пријатељство са лажних налога који желе да стекну поверење жртве.
Према подацима које је компанија поделила, проблем је значајних размера: Мета тврди да је пореметила милионе налога и огласа повезаних са организованим мрежама за преваре на Фејсбуку, Инстаграму и Вотсапу, у неким случајевима повезаним са правим центрима за преваре који се простиру широм неколико земаља.
Ова технолошка офанзива се такође ослања на тимове за људски преглед који раде раме уз раме са вештачком интелигенцијом, тако да се модели обучавају на стварним примерима и смањује се маргина грешке у класификацији сумњивог садржаја.
WhatsApp: заштитни зид против отмице налога и сумњивих група
У случају WhatsApp-а , Мета-ова вештачка интелигенција против превара фокусира се на неколико посебно уобичајених вектора напада: отмицу налога путем повезивања уређаја , преваре техничке подршке и преваре у непознатим групама.
Једна од кључних нових функција је систем упозорења који вас обавештава када неко покуша да повеже ваш налог са непознатим уређајем . Ако се открије сумњив захтев, апликација приказује информације као што је локација са које је покушај потекао, заједно са јасним упозорењем да би то могла бити превара. Ово вам омогућава да зауставите процес пре него што трећа страна добије потпун приступ вашим разговорима.
Вештачка интелигенција такође интервенише у ситуацијама дељења екрана током видео позива са непознатим контактима . Када се открије овај образац ризика, систем издаје аутоматско упозорење, јер се многе преваре „техничке подршке“ ослањају на гледање корисниковог екрана уживо како би снимиле банкарске акредитиве, једнократне кодове или друге посебно осетљиве информације.
Поред тога, групе којима се корисници придруже, а да не познају многе чланове, сада приказују превентивни безбедносни панел . Овај панел нуди детаље о групи, савете за откривање покушаја преваре и могућност одласка без интеракције, искључивајући обавештења док корисник не потврди да жели да остане.
Мета такође тестира контекстуална упозорења приликом покретања ћаскања са бројевима који нису у контактима корисника . Ако систем идентификује типичне знаке фишинга, лажних инвестиција или нејасних захтева за новцем, препоручује се изузетан опрез и нуди могућност блокирања или пријављивања контакта са само неколико додира.
Фејсбук: Испитивање захтева за пријатељство и лажних страница за „подршку“
На Фејсбуку , вештачка интелигенција за борбу против превара има два главна фронта: сумњиве захтеве за пријатељство и странице које се лажно представљају као корисничка служба или успостављени брендови.
Приликом пријема захтева за пријатељство, платформа може приказати упозорење ако открије факторе ризика: налоге са врло мало заједничких пријатеља, недавно креиране профиле, географско порекло које се не подудара са мрежом корисника или понашања која се поклапају са обрасцима повезаним са бот мрежама. Ово омогућава кориснику да боље процени да ли да прихвати, игнорише или блокира захтев пре него што отвори врата потенцијалном преваранту.
Још једна значајна забринутост је ширење лажних страница за подршку и налога који покушавају да обману кориснике који траже помоћ за опоравак налога или решавање проблема. Мета тврди да је предузела мере против десетина хиљада ових страница, које су обично тражили податке за пријаву, лична документа или плаћања како би „убрзале“ наводне процесе опоравка.
Компанија такође јача своје механизме за верификацију оглашивача и откривање лажних огласа , укључујући и оне који користе слике познатих личности, пословних људи или јавних личности без дозволе. Вештачка интелигенција упоређује лица и идентификује понављајуће манипулације које се користе за легитимизацију лажних инвестиција, непостојећих промоција или производа који никада не стижу.
Ова тачка је посебно осетљива за компаније и креаторе садржаја у Шпанији и остатку Европе, где није неуобичајено да рекламе користе слику предузетника или познатих локалних личности како би привукле жртве , стварајући забуну и штету по репутацију коју је тешко поправити.
Месинџер: Детекција превара коју може подесити корисник
Апликација за размену порука, Messenger , у власништву компаније Facebook , укључује посебну функцију под називом „Откривање преваре “, доступну путем подешавања приватности и безбедности. Након активирања, ова опција детаљније анализира разговоре које покрећу непознати контакти.
Вештачка интелигенција тражи обрасце карактеристичне за лажне понуде : обећања о раду на даљину која захтевају унапред плаћање, инвестиције са гарантованим приносом, хитне поруке у којима се тражи новац или покушаји да се лажно представљају као особље за подршку познатих компанија. Ако открије нешто необично, приказује упозорење са врстом ризика који би могао бити присутан и предлаже блокирање или пријављивање пошиљаоца.
Уз изричиту сагласност корисника, означене поруке могу се слати на Мета сервере ради даље анализе помоћу вештачке интелигенције . Овај корак привремено прекида енкрипцију од краја до краја само за тај одређени садржај – одлуку коју сваки корисник мора да донесе на основу своје толеранције на ризик и забринутости за приватност.
У међувремену, Месинџер је побољшао свој систем заштите линкова . Функција Безбедно прегледање, која је већ анализирала URL-ове на самом уређају, сада укључује додатни слој под називом Напредна заштита, повезан са стално ажурираним листама опасних сајтова. Циљ дизајна је да блокира приступ фишинг страницама или преузимањима злонамерног софтвера без откривања идентитета корисника или комплетне историје прегледања.
За тимове за подршку, продају или корисничку подршку који користе Месинџер као редован канал, ова побољшања пружају додатну баријеру против превара усмерених на њихов бренд и донекле безбедније окружење за кориснике са којима свакодневно комуницирају.
Вештачка интелигенција испод хаубе
Мета-ине нове безбедносне функције ослањају се на хибридну архитектуру која комбинује два комплементарна приступа. Први је анализа на уређају , која ради директно на мобилном телефону или рачунару корисника и поштује енкрипцију од краја до краја, јер не мора да шаље садржај на екстерне сервере да би открила обрасце ризика.
Ова локална анализа тражи знаке као што су примање порука са несачуваних бројева , покушаји дељења екрана са непознатим особама, изненадне промене у понашању налога или појављивање линкова који се подударају са претходним извештајима о превари. Радећи на самом уређају, смањује количину података који се шаљу споља и пружа непосредну прву линију одбране.
Други слој се активира када корисник одлучи да пошаље садржај на преглед помоћу вештачке интелигенције у облаку . У овом случају, означене поруке или ставке обрађују Мета системи, који користе сложеније моделе да би проценили да ли се оно што се дешава уклапа у познату врсту преваре. Ако анализа закључи да постоји ризик, платформа приказује објашњења о потенцијалној превари и препоручује конкретне акције.
Компанија наглашава да, поред вештачке интелигенције, постоје и људски тимови за модерирање који свакодневно прегледају милионе садржаја . Овај људски елемент им, између осталог, омогућава да усаврше моделе, управљају најосетљивијим случајевима и демонтирају велике координисане кампање које превазилазе једноставне изоловане поруке.
Читав овај механизам допуњен је споразумима са безбедносним снагама и другим актерима у технолошком сектору, како би се делили обавештајни подаци о злонамерним доменима, мрежама лажних налога и новим тактикама које користе криминалне организације.
Главне врсте превара које Мета-ова вештачка интелигенција покушава да заустави
Метаплатформе су легло за широк спектар дигиталних превара . Нови алати су дизајнирани да открију и зауставе, између осталог, следеће уобичајене врсте превара усмерених на кориснике у Шпанији и Европи:
- Лажне преваре техничке подршке: Људи који се лажно представљају као банкарске службе за подршку, оператери или чак сама Мета платформа да би захтевали верификационе кодове, лозинке или даљински приступ уређају.
- Превара са дељењем екрана: видео позиви у којима преварант убеђује жртву да покаже свој екран како би снимио банковне податке, СМС поруке са једнократним кодовима или акредитиве за услуге као што су онлајн банкарство или платни системи.
- Непостојеће понуде за посао и стипендије: Огласи или приватне поруке које обећавају лаке или добро плаћене послове у замену за почетну уплату за „процедуре“ или за пружање осетљивих личних података.
- Инвестиционе шеме и криптовалуте: кампање које обећавају брзе и загарантоване повраћаје средстава, често поткрепљене неовлашћеним коришћењем познатих људи или познатих бизнисмена.
- Фишинг и злонамерни линкови: URL-ови који имитирају легитимне портале — банке, платформе за електронску трговину, јавне услуге — са циљем крађе акредитива или инсталирања злонамерног софтвера на уређај.
Комбинација аутоматског праћења, црних листа опасних сајтова и механизама за пријављивање корисника омогућава систему да се брзо прилагоди новим варијантама ових превара , које често мутирају како би избегле лакше откривање.
Утицај на кориснике, компаније и осниваче који зависе од Мете
Поред заштите просечног корисника, нове функције вештачке интелигенције против превара имају директан утицај на предузећа која користе Фејсбук, Вотсап и Месинџер као основну инфраструктуру за продају, корисничку подршку или изградњу заједнице.
С једне стране, ако компанија користи WhatsApp Business или Messenger за комуникацију са купцима, њене поруке би могле да покрену упозорења ако их систем доживи као сумњиве , на пример, укључивањем много линкова или захтевом за осетљивим подацима. То захтева преиспитивање скрипти, тона и учесталости како би се минимизирали лажно позитивни резултати и одржало поверење публике.
С друге стране, стартапови у посебно осетљивим секторима — као што су финтех, дигитално здравство или правне услуге — у овим алатима проналазе јасан сигнал: безбедност заснована на вештачкој интелигенцији више није „додатак“ и сада је део минималних очекивања у сваком производу или услузи која обрађује критичне податке.
Метина растућа сарадња са другим технолошким играчима и јавним телима такође отвара врата новим могућностима за компаније за сајбер безбедност , које могу да интегришу своја решења са екосистемима за откривање претњи великих платформи или да пружају консултантске услуге мањим компанијама.
На крају крајева, ефикасност ових мера зависиће од усвајања добрих пракси и од стране корисника и од организација: активирања доступних функција за борбу против превара, ажурирања апликација, опрезности према нежељеним порукама и пријављивања сваког сумњивог понашања системима за детекцију фидова.
Имплементацијом своје нове вештачке интелигенције за борбу против превара на Фејсбуку, Вотсапу и Месинџеру , Мета чини важан корак ка дигиталном окружењу које је донекле теже за преваранте и мало безбедније за оне који свакодневно користе њене услуге, од појединачних корисника до компанија које се ослањају на ове платформе за суштински део своје активности.
