Feki za kina: Neuroset ilifundishwa kutengeneza sauti na video feki

2024 Mwandishi: Seth Attwood | [email protected]. Mwisho uliobadilishwa: 2023-12-16 16:17

Ili kuunda picha ya habari ya "mtu binafsi" kwa yeyote kati yetu na kupotosha ripoti za vyombo vya habari zilizochaguliwa ndani yake, jitihada za programu moja zinatosha leo. Wataalamu wa akili ya bandia na usalama wa mtandao waliiambia Izvestia kuhusu hili.

Hivi majuzi, walikadiria kuwa hii ilihitaji kazi ya timu nyingi. Kuongeza kasi kama hiyo kumewezekana kwa maendeleo ya teknolojia ya mashambulizi kwenye mitandao ya neural na kizazi cha bandia za sauti na video kwa kutumia programu za kuunda "feki za kina". Gazeti la Izvestia hivi karibuni lilikabiliwa na shambulio kama hilo, wakati tovuti tatu za habari za Libya mara moja zilichapisha ujumbe ambao unadaiwa kuonekana katika moja ya maswala. Kulingana na wataalamu, ndani ya miaka 3-5 tunaweza kutarajia uvamizi wa manipulators ya robotic, ambayo moja kwa moja itaweza kuunda bandia nyingi.

Ulimwengu mpya wa ujasiri

Kuna miradi zaidi na zaidi ambayo hurekebisha picha ya habari kwa mtazamo wa watumiaji maalum. Mfano mmoja wa kazi yao ilikuwa hatua ya hivi majuzi ya lango tatu za Libya, ambazo zilichapisha habari inayodaiwa kuchapishwa katika toleo la Izvestia mnamo Novemba 20. Waundaji wa gazeti hilo bandia walirekebisha ukurasa wa mbele wa gazeti hilo, wakichapisha juu yake ujumbe kuhusu mazungumzo kati ya Field Marshal Khalifa Haftar na Waziri Mkuu wa Serikali ya Makubaliano ya Kitaifa (PNS) Fayez Sarraj. Feki hiyo, katika maandishi ya Izvestia, iliambatana na picha ya viongozi hao wawili iliyopigwa Mei 2017. Lebo iliyo na nembo ya uchapishaji ilikatwa kutoka toleo halisi lililochapishwa la Novemba 20, na maandishi mengine yote kwenye ukurasa kutoka toleo la Oktoba 23.

Kutoka kwa mtazamo wa wataalamu, katika siku zijazo inayoonekana, uwongo kama huo unaweza kufanywa moja kwa moja.

"Teknolojia za akili za bandia sasa zimefunguliwa kabisa, na vifaa vya kupokea na kusindika data vinapungua na kupata bei nafuu," Yuri Vilsiter, Daktari wa Sayansi ya Kimwili na Hisabati, Profesa wa Chuo cha Sayansi cha Urusi, mkuu wa idara ya FSUE "GosNIIAS", aliiambia Izvestia. - Kwa hivyo, kuna uwezekano mkubwa kwamba katika siku za usoni, hata serikali na mashirika makubwa, lakini watu binafsi tu wataweza kutusikiliza na kupeleleza juu yetu, na pia kudhibiti ukweli. Katika miaka ijayo, itawezekana, kwa kuchambua mapendekezo ya mtumiaji, kumshawishi kupitia milisho ya habari na bandia za wajanja sana.

Kulingana na Yuri Vilsiter, teknolojia ambazo zinaweza kutumika kwa uingiliaji kama huo katika mazingira ya kiakili tayari zipo. Kwa nadharia, uvamizi wa roboti za roboti unaweza kutarajiwa katika miaka michache, alisema. Kikwazo hapa kinaweza kuwa hitaji la kukusanya hifadhidata kubwa za mifano ya majibu ya watu halisi kwa vichocheo bandia na ufuatiliaji wa matokeo ya muda mrefu. Ufuatiliaji kama huo huenda ukahitaji miaka kadhaa zaidi ya utafiti kabla ya mashambulizi yaliyolengwa kupatikana mara kwa mara.

Shambulio la maono

Alexey Parfentiev, mkuu wa idara ya uchambuzi katika SearchInform, pia anakubaliana na Yuri Vilsiter. Kulingana na yeye, wataalam tayari wanatabiri mashambulizi kwenye mitandao ya neural, ingawa sasa hakuna mifano kama hiyo.

- Watafiti kutoka Gartner wanaamini kuwa kufikia 2022, 30% ya mashambulizi yote ya mtandao yatakuwa na lengo la kupotosha data ambayo mtandao wa neva unafunzwa na kuiba vielelezo vya kujifunza vya mashine vilivyotengenezwa tayari. Kisha, kwa mfano, magari yasiyo na mtu yanaweza kuanza ghafla kupotosha watembea kwa miguu kwa vitu vingine. Na hatutazungumza juu ya hatari ya kifedha au sifa, lakini juu ya maisha na afya ya watu wa kawaida, mtaalam anaamini.

Mashambulizi kwenye mifumo ya kuona ya kompyuta yanafanywa kama sehemu ya utafiti sasa. Madhumuni ya mashambulizi kama haya ni kufanya mtandao wa neva kugundua kitu kwenye picha ambacho hakipo. Au, kinyume chake, si kuona kile kilichopangwa.

"Mojawapo ya mada zinazoendelea kikamilifu katika uwanja wa mafunzo ya mitandao ya neva ni kile kinachojulikana kama mashambulizi ya adui (" mashambulizi ya adui. "- Izvestia)," alielezea Vladislav Tushkanov, mchambuzi wa mtandao katika Kaspersky Lab. - Mara nyingi, zinalenga mifumo ya maono ya kompyuta. Ili kutekeleza shambulio kama hilo, mara nyingi, unahitaji kupata ufikiaji kamili wa mtandao wa neural (kinachojulikana kama shambulio la sanduku nyeupe) au matokeo ya kazi yake (mashambulizi ya sanduku nyeusi). Hakuna njia ambazo zinaweza kudanganya mfumo wowote wa maono ya kompyuta katika 100% ya kesi. Kwa kuongeza, zana tayari zimeundwa zinazokuwezesha kupima mitandao ya neural kwa upinzani dhidi ya mashambulizi ya wapinzani na kuongeza upinzani wao.

Wakati wa shambulio kama hilo, mshambuliaji anajaribu kwa namna fulani kubadilisha picha inayotambuliwa ili mtandao wa neural usifanye kazi. Mara nyingi, kelele huwekwa juu ya picha, sawa na ile inayotokea wakati wa kupiga picha kwenye chumba kisicho na mwanga. Kawaida mtu haoni kuingiliwa kama hiyo vizuri, lakini mtandao wa neva huanza kufanya kazi vibaya. Lakini ili kutekeleza shambulio kama hilo, mshambuliaji anahitaji ufikiaji wa algorithm.

Kulingana na Stanislav Ashmanov, Mkurugenzi Mkuu wa Neuroset Ashmanov, kwa sasa hakuna mbinu za kukabiliana na tatizo hili. Kwa kuongeza, teknolojia hii inapatikana kwa mtu yeyote: mtengenezaji wa wastani anaweza kuitumia kwa kupakua programu muhimu ya chanzo wazi kutoka kwa huduma ya Github.

- Mashambulizi kwenye mtandao wa neural ni mbinu na algorithms ya kudanganya mtandao wa neva, ambayo hufanya kutoa matokeo ya uongo, na kwa kweli, kuivunja kama kufuli ya mlango, - Ashmanov anaamini. - Kwa mfano, sasa ni rahisi sana kufanya mfumo wa utambuzi wa uso kufikiria kuwa sio wewe, lakini Arnold Schwarzenegger mbele yake - hii inafanywa kwa kuchanganya viungio visivyoonekana kwa jicho la mwanadamu kwenye data inayokuja kwenye mtandao wa neva. Mashambulizi sawa yanawezekana kwa mifumo ya utambuzi wa hotuba na uchambuzi.

Mtaalam ana hakika kwamba itakuwa mbaya zaidi - teknolojia hizi zimekwenda kwa raia, wadanganyifu tayari wanazitumia, na hakuna ulinzi dhidi yao. Kwa kuwa hakuna ulinzi dhidi ya uundaji wa kiotomatiki wa kughushi video na sauti.

Uongo wa kina

Teknolojia za Deepfake kulingana na Kujifunza kwa kina (teknolojia ya kujifunza kwa kina ya mitandao ya neural. - Izvestia) tayari ni tishio la kweli. Video au bandia za sauti huundwa kwa kuhariri au kufunika nyuso za watu maarufu ambao eti hutamka maandishi muhimu na kuchukua jukumu muhimu katika njama hiyo.

"Deepfake inakuruhusu kubadilisha miondoko ya midomo na usemi wa binadamu na video, ambayo huleta hisia ya ukweli wa kile kinachotokea," anasema Andrey Busargin, mkurugenzi wa idara ya ulinzi wa chapa ya ubunifu na mali ya kiakili katika Kundi-IB. - Watu mashuhuri bandia "hutoa" watumiaji kwenye mitandao ya kijamii kushiriki katika kuchora zawadi za thamani (simu mahiri, magari, kiasi cha pesa), n.k. Viungo kutoka kwa machapisho kama haya ya video mara nyingi husababisha tovuti za ulaghai na za kuhadaa ili kupata maelezo ya kibinafsi, ambapo watumiaji wanaombwa kuingiza maelezo ya kibinafsi, ikiwa ni pamoja na maelezo ya kadi ya benki. Miradi kama hiyo ni tishio kwa watumiaji wa kawaida na watu mashuhuri ambao wametajwa kwenye matangazo. Ulaghai wa aina hii huanza kuhusisha picha za watu mashuhuri na ulaghai au bidhaa zinazotangazwa, na hapa ndipo tunapoingia kwenye uharibifu wa chapa ya kibinafsi, anasema.

Tishio lingine linahusishwa na matumizi ya "kura bandia" kwa utapeli wa simu. Kwa mfano, nchini Ujerumani, wahalifu wa mtandao walitumia sauti bandia kumfanya mkuu wa kampuni tanzu kutoka Uingereza kuhamisha kwa haraka €220,000 katika mazungumzo ya simu, akijifanya kama meneja wa kampuni.kwa akaunti ya muuzaji wa Hungarian. Mkuu wa kampuni ya Uingereza alishuku hila wakati "bosi" wake aliuliza amri ya pili ya pesa, lakini simu ilitoka kwa nambari ya Austria. Kufikia wakati huu, tranche ya kwanza ilikuwa tayari imehamishiwa kwa akaunti huko Hungary, kutoka ambapo pesa zilitolewa hadi Mexico.

Inabadilika kuwa teknolojia za sasa hukuruhusu kuunda picha ya habari ya mtu binafsi iliyojaa habari za uwongo. Kwa kuongeza, hivi karibuni itawezekana kutofautisha bandia kutoka kwa video halisi na sauti tu na vifaa. Kulingana na wataalamu, hatua za kuzuia maendeleo ya mitandao ya neural haziwezekani kuwa na ufanisi. Kwa hivyo, hivi karibuni tutaishi katika ulimwengu ambao itakuwa muhimu kukagua kila kitu kila wakati.

"Tunahitaji kujiandaa kwa hili, na hili lazima likubaliwe," alisisitiza Yuri Vilsiter. - Ubinadamu sio mara ya kwanza kutoka kwa ukweli mmoja hadi mwingine. Ulimwengu wetu, njia ya maisha na maadili ni tofauti sana na ulimwengu ambao mababu zetu waliishi miaka 60,000 iliyopita, miaka 5,000 iliyopita, miaka 2,000 iliyopita, na hata miaka 200-100 iliyopita. Katika siku za usoni, mtu atanyimwa kwa kiasi kikubwa usiri na kwa hiyo atalazimika kujificha chochote na kutenda kwa uaminifu. Wakati huo huo, hakuna chochote katika ukweli unaozunguka na katika utu wa mtu mwenyewe kinaweza kuchukuliwa kwa imani, kila kitu kitatakiwa kuhojiwa na kuchunguzwa mara kwa mara. Lakini je, ukweli huu wa wakati ujao utakuwa mbaya sana? Hapana. Itakuwa tofauti kabisa.