FBI varuje před podvody s umělou inteligencí

Federální úřad pro vyšetřování (FBI) vydal varování před narůstajícím počtem podvodných aktivit, které využívají technologie generativní umělé inteligence, zejména deepfakes. Toto varování připomíná rostoucí sofistikovanost a dostupnost těchto technologií a naléhavou potřebu ostražitosti při ochraně před potenciálními podvody. Podívejme se podrobněji na to, co jsou deepfakes, jak je zločinci používají a jaké kroky můžete podniknout k ochraně svých osobních údajů.

Deepfakes označují obsah generovaný umělou inteligencí, který může přesvědčivě napodobovat skutečné osoby, včetně jejich hlasů, obrázků a videí. Zločinci tyto techniky využívají k imitaci jednotlivců, často v krizových situacích. Například mohou generovat zvukové klipy, které znějí jako hlas blízké osoby žádající o naléhavou finanční pomoc, nebo dokonce vytvářet videokonference v reálném čase, které se zdají zahrnovat vedoucí pracovníky společnosti nebo pracovníky donucovacích orgánů.

FBI identifikovala 17 běžných technik používaných zločinci k vytváření těchto klamavých materiálů:

1. Klonování hlasu: Generování zvukových klipů, které napodobují hlas člena rodiny nebo jiných důvěryhodných osob, aby manipulovali s oběťmi.
2. Videokonference v reálném čase: Vytváření falešných video interakcí, které se zdají zahrnovat autority, jako je policie nebo vedoucí pracovníci firem.
3. Sociální inženýrství: Využívání emocionálních apelů k manipulaci s oběťmi, aby odhalily osobní informace nebo převedly finanční prostředky.
4. Textem generovaným AI: Vytváření realistických písemných zpráv pro phishingové útoky a schémata sociálního inženýrství, díky kterým vypadají věrohodně.
5. Obrázky generované AI: Používání syntetických obrázků k vytváření věrohodných profilů na sociálních médiích nebo podvodných webových stránkách.
6. Videa generovaná AI: Produkce přesvědčivých videí, která lze použít v podvodech, včetně investičních podvodů nebo podvodů s imitací osob.
7. Vytváření falešných profilů na sociálních médiích: Zřizování podvodných účtů, které používají obsah generovaný AI k oklamání ostatních.
8. Phishingové e-maily: Posílání e-mailů, které se zdají legitimní, ale jsou vytvořeny pomocí AI, aby oklamali příjemce a získali citlivé informace.
9. Napodobování veřejných osobností: Používání technologie deepfake k vytváření videí nebo zvukových klipů, které napodobují známé osobnosti pro podvody.
10. Falešné identifikační doklady: Generování podvodných dokladů totožnosti, jako jsou řidičské průkazy nebo pověření, pro podvody s identitou a napodobování.
11. Investiční podvodná schémata: Nasazení materiálů generovaných AI k přesvědčení obětí, aby investovaly do neexistujících příležitostí.
12. Výkupné: Napodobování členů rodiny v nouzi, aby získali výkupné od obětí.
13. Manipulace s rozpoznávacími systémy hlasu: Použití klonových hlasů k obejití bezpečnostních opatření, která se spoléhají na ověřování hlasu.
14. Falešné výzvy k charitě: Vytváření deepfake obsahu, který vybírá dary pod falešnou záminkou, často během krizí.
15. Kompromitace firemních e-mailů: Vytváření e-mailů, které se zdají pocházet od vedoucích pracovníků nebo důvěryhodných kontaktů, k autorizaci podvodných transakcí.
16. Vytváření dezinformačních kampaní: Využívání deepfake videí jako součásti širších dezinformačních snah, zejména kolem významných událostí, jako jsou volby.
17. Využívání krizových situací: Generování naléhavých žádostí o pomoc nebo peníze během mimořádných událostí, využívající emocionální manipulaci.

Tyto taktiky zdůrazňují rostoucí sofistikovanost podvodných schémat usnadňovaných generativní AI a důležitost ostražitosti při ochraně osobních údajů.

Pro více informací o ochraně před deepfake podvody navštivte stránky FBI a další bezpečnostní zdroje.