FTC přišla s touto výzvou ve snaze najít způsoby, jak čelit zneužívání technologie klonování hlasu, která je stále dokonalejší a snadnější díky zlepšení převodu textu na řeč pomocí umělé inteligence. AI lze použít ke klonování cizího hlasu tak, že se analyzuje zvukový klip mluvícího, aby se získaly jedinečné hlasové charakteristiky, a poté se tato tréninková data použijí k vytvoření zcela jiného proslovu.

Ačkoli má klonování hlasu i legitimní využití, například v personalizovaných službách převodu textu na řeč a asistenčních nástrojích pro osoby se zdravotním postižením, aktéři hrozeb jej mohou využívat také k podvodným činnostem, jako je hlasový phishing, sociální inženýrství a další typy podvodů založených na hlasu.
 

Vydáváním se za hlas někoho, kdo je cílové skupině známý, například člena rodiny, nadřízeného nebo třeba celebritu, mohou škodliví aktéři snadno oklamat lidi, aby uvěřili tvrzením uvedeným v hovoru nebo hlasové zprávě. Například kdo by neuvěřil telefonní volání šéfa, že je potřeba rychle převést peníze na nadiktovaný účet, nebo vlastního dítěte, které se ocitne v nesnázích.

Prostřednictvím výzvy Voice Cloning Challenge se FTC snaží najít řešení, které by dokázalo identifikovat případy klonování hlasu pomocí generativní umělé inteligence. Agentura ji označuje za „průzkumnou výzvu“, která by mohla potenciálně udat směr úsilí o zmírnění rizik. Vítězný návrh získá 25 000 dolarů a druhý v pořadí 4 000 dolarů. K dispozici jsou až tři čestná uznání, z nichž každé bude oceněno částkou 2 000 USD.
 

Agentura začala 2. ledna přijímat návrhy prostřednictvím tohoto portálu a nápady bude přijímat po dobu 10 dnů, tedy do 12. ledna 20:00 našeho času. Přihlášky musí obsahovat jednostránkový přehled návrhu a podrobný popis v rozsahu až 10 stran. Účastníci mohou připojit také video, které znázorní, jak jejich nápad funguje. Všechny předložené návrhy budou posuzovány na základě jejich praktické proveditelnosti, dopadu na odpovědnost a zátěž pro uživatele a odolnosti vůči rychlému technologickému pokroku v této oblasti. 

Pokud by výzva nepřinesla účinné nápady na obranu, FTC poznamenává, že toto úsilí alespoň poslouží jako včasné varování pro politiky a upozorní na potřebu přísnější regulace používání technologií umělé inteligence.

Zdroj: FTC, BleepingComp
 

FTC přišla s touto výzvou ve snaze najít způsoby, jak čelit zneužívání technologie klonování hlasu, která je stále dokonalejší a snadnější díky zlepšení převodu textu na řeč pomocí umělé inteligence. AI lze použít ke klonování cizího hlasu tak, že se analyzuje zvukový klip mluvícího, aby se získaly jedinečné hlasové charakteristiky, a poté se tato tréninková data použijí k vytvoření zcela jiného proslovu.

Ačkoli má klonování hlasu i legitimní využití, například v personalizovaných službách převodu textu na řeč a asistenčních nástrojích pro osoby se zdravotním postižením, aktéři hrozeb jej mohou využívat také k podvodným činnostem, jako je hlasový phishing, sociální inženýrství a další typy podvodů založených na hlasu.
 

Vydáváním se za hlas někoho, kdo je cílové skupině známý, například člena rodiny, nadřízeného nebo třeba celebritu, mohou škodliví aktéři snadno oklamat lidi, aby uvěřili tvrzením uvedeným v hovoru nebo hlasové zprávě. Například kdo by neuvěřil telefonní volání šéfa, že je potřeba rychle převést peníze na nadiktovaný účet, nebo vlastního dítěte, které se ocitne v nesnázích.

Prostřednictvím výzvy Voice Cloning Challenge se FTC snaží najít řešení, které by dokázalo identifikovat případy klonování hlasu pomocí generativní umělé inteligence. Agentura ji označuje za „průzkumnou výzvu“, která by mohla potenciálně udat směr úsilí o zmírnění rizik. Vítězný návrh získá 25 000 dolarů a druhý v pořadí 4 000 dolarů. K dispozici jsou až tři čestná uznání, z nichž každé bude oceněno částkou 2 000 USD.
 

Agentura začala 2. ledna přijímat návrhy prostřednictvím tohoto portálu a nápady bude přijímat po dobu 10 dnů, tedy do 12. ledna 20:00 našeho času. Přihlášky musí obsahovat jednostránkový přehled návrhu a podrobný popis v rozsahu až 10 stran. Účastníci mohou připojit také video, které znázorní, jak jejich nápad funguje. Všechny předložené návrhy budou posuzovány na základě jejich praktické proveditelnosti, dopadu na odpovědnost a zátěž pro uživatele a odolnosti vůči rychlému technologickému pokroku v této oblasti. 

Pokud by výzva nepřinesla účinné nápady na obranu, FTC poznamenává, že toto úsilí alespoň poslouží jako včasné varování pro politiky a upozorní na potřebu přísnější regulace používání technologií umělé inteligence.

Zdroj: FTC, BleepingComp