Zdroj: Midjourney (vygenerováno pomocí AI)
Vloni v září americká společnost OpenAI oznámila propracovanou technologii Advanced Voice Mode pro svého chatbota založeného na umělé inteligenci ChatGPT. Od října letošního roku je funkce dostupná i v Evropě. Na jedné straně jde o magickou ukázku moderních technologií a strojového učení. Na straně druhé však může jít o skvělý nástroj pro podvodníky, kteří se umělou inteligenci pokusí zneužít.
Umělá inteligence v rukou podvodníků
OpenAI totiž 1. října vydala také vývojářskou aplikaci Realtime API. Ta slouží pro využívání hlasových a jazykových modelů ChatGPT pro potřeby vývojářů. Ti mohou funkci zahrnout do svých aplikací či programů a mohou chatbota využívat pro odbavování textových i hlasových příkazů také textem či hlasem, a to na dosud nejpokročilejší úrovni.
Pokud jste o Realtime API, respektive ChatGPT Advanced Voice Mode ještě neslyšeli, tato funkce umožňuje uživatelům mluvit s ChatGPT o dost přirozeněji a plynuleji než doposud. Chatbot umí například simultánně překládat (včetně podpory češtiny i slovenštiny) a dokáže hovořit s různým emočními zabarvením, anebo umí mimikovat nářečí, přízvuk a tak podobně.
Zdroj: Midjourney (vygenerováno pomocí AI)
Haló, tady AI útočník
Jak už vás možná napadlo, novinka vzbuzuje obavy v odborné obci bezpečnostních expertů. Výzkumníci z Univerzity Illinois v Urbana Champaign (UIUC) provedli experiment, zdali může být technologie Realtime API zneužita pro automatizované podvodné telefonáty.
Ze zjištění vyplývá, že telefonické podvody klasického střihu – kdy volá sám útočník, vydává se za vašeho známého, pracovníka banky či jiné instituce, a snaží se vás obalamutit – mohou být pomocí AI kompletně zautomatizovány.
„Naše zjištění ukazují, že nástroje AI skutečně dokážou autonomně vykonávat akce potřebné pro různé telefonní podvody,“ uvedl Daniel Kang, asistent profesora katedry počítačových věd na UIUC. A to navíc za minimální náklady. Kangův výzkumný tým vypočítal, že průměrné náklady na jeden takový telefonický podvod řízený pomocí AI hlasového asistenta je necelý dolar, tedy asi 20 korun.
Mohlo by vás zajímat
Extrémně nebezpečné telefonáty: falešní bankéři zmátli muže tak, že jim poslal 2,5 milionu
OpenAI: Máme řešení
Na druhé straně, společnost OpenAI i ve vyjádření pro server The Register poukazuje na smluvní podmínky týkající se služeb kolem ChatGPT. V těch jsou zahrnuty i ochranné mechanismy pro ochranu softwaru před zneužitím.
„[…] aktivně monitorujeme potenciální zneužití. Naše zásady také vyžadují, aby vývojáři jasně informovali své uživatele, že komunikují s umělou inteligencí, pokud to není zřejmé z kontextu,“ tvrdí OpenAI.
Zdroj: OpenAI, The Register
