A Pindrop Security már régóta nyújt hanghitelesítési szolgáltatásokat bankoknak és biztosítóknak. A múlt héten egy új terméket mutattak be, amely állításuk szerint képes felismerni a mesterséges intelligencia által generált beszédet mind a telefonhívásokban, mind a digitális médiában. A funkciót médiaszervezetek, kormányzati szervek és közösségi hálózatok számára értékesíti.

A hangra specializálódott Pindrop januárban azzal került a címlapokra, hogy felismerte a Joe Biden elnökről készült deepfake forrását, amely robothíváson keresztül arra buzdította az embereket, hogy ne szavazzanak a New Hampshire-i előválasztáson. A támadások mértéke egyre nő: A vállalat szerint tavaly óta több mint ötszörösére nőtt az ügyfelei ellen irányuló támadási kísérletek száma – írja a Bloomberg. 

Elég könnyű összehozni egy hangklónt és egy hamisító szoftvert, hogy hatékonyan úgy tűnjön, mintha valaki más lenne a telefonban

– mondta Rachel Tobac, a SocialProof Security vezérigazgatója.

A Pindrop technológiája úgy működik, hogy hangelemzéssel állapítja meg, hogy egy hang valóban ember-e, vagy csak emberhez hasonló. Balasubramaniyan társalapító szerint az emberek úgy beszélnek, hogy meghatározott hangokat adnak ki, amelyek szavakat alkotnak. A gépek azonban nem úgy adnak ki hangokat, mint az emberek, és időnként olyan változatokat generálnak, amelyek szembemennek az emberi száj hangtermelésének fizikai korlátaival. 

Egyre nagyobb aggodalomra ad okot az AI

A vállalat szerint új eszköze 99 százalékos pontossággal képes azonosítani a mesterséges intelligencia által generált hangokat, de az iparágon belül még mindig vita folyik a mesterséges intelligencia-érzékelés korlátairól. A tanárok, kutatók és a közösségi média felhasználói számára az AI szövegek és képek kiszűrése a technológia fejlődésével egyre nagyobb problémát jelent. Márciusban, amikor az OpenAI kiadott egy olyan eszközt, amely képes lemásolni az emberek hangját. A vállalat egy blogbejegyzésben azt javasolta, hogy a vállalkozásoknak fokozatosan fel kellene hagyniuk a hangalapú hitelesítéssel a bankszámlákhoz és más érzékeny információkhoz való hozzáférés terén. 

Ahogy a biztonságtechnológia fejlődik, úgy nagyobb lesz a fenyegetettség is. Elképzelhető, hogy a rossz szereplők olyan algoritmust képeznek ki, amellyel kikerülhetik azokat az ellenőrzéseket, amelyeket a Pindrophoz hasonló cégek a deepfake azonosítására használnak – mondta Andrew Grotto, a Stanford Egyetem kiberbiztonsági szakpolitikai szakértője. „Ez a fegyverkezési verseny, ez a macska-egér játék a védők és a fenyegető szereplők között” – mondta Grotto.