První autonomní AI agent je tady, ale stojí to za rizika?

Pokud jste ještě neslyšeli o Manusovi, jedná se o nový AI model od singapurské společnosti Butterfly Effect. Nejedná se jen o dalšího chatbota. Je to jeden z prvních skutečně autonomních AI agentů, schopný provádět vlastní výzkum, rozhodovat se a dokonce plánovat, to vše s minimálním lidským dohledem.

Zní to impozantně, že? Ale je tu háček: Zatímco tato inovace otevírá vzrušující možnosti, přináší také vážné otázky týkající se soukromí a bezpečnosti. Ať už se těšíte na vyzkoušení nejnovější AI, nebo se jí raději chcete vyhnout, stojí za to pochopit, co by Manus mohl znamenat pro vaše osobní údaje a digitální bezpečnost.

Toto se již nějakou dobu děje u jiných AI modelů. Bylo podáno několik hromadných žalob proti technologickým společnostem za shromažďování osobních údajů pro použití při školení AI, přičemž jedna žaloba tvrdí, že OpenAI používá „ukradené soukromé informace, včetně osobně identifikovatelných informací, od stovek milionů uživatelů internetu, včetně dětí všech věkových kategorií, bez jejich informovaného souhlasu“.

Mnoho společností také prodává nebo sdílí data se třetími stranami, včetně účelů školení AI. Například X používá osobní údaje k trénování své AI, Grok, a také sdílí uživatelská data se třetími stranami k trénování AI modelů. Takže ať už používáte AI (včetně Manus AI po jeho vydání pro veřejnost) nebo ne, je stále velká šance, že mají vaše osobní informace.

Vše se točí kolem ochrany osobních údajů a bezpečnosti. Když společnosti shromažďují osobní údaje – jako je vaše jméno, e-mailová adresa, domovská adresa, příspěvky na sociálních sítích a dokonce i fotografie – často je ukládají do velkých databází pro trénování svých modelů. Pokud tyto databáze nejsou řádně zabezpečeny, mohou se stát zlatým dolem pro hackery. Představte si je jako digitální „medové nástrahy“: sladké a lákavé pro kyberzločince kvůli všem osobním údajům uvnitř.

Toto není jen teoretické riziko. Jen letos další společnost zabývající se AI, DeepSeek, zažila velký únik, který odhalil více než milion citlivých záznamů. Když se tyto informace dostanou ven, mohou skončit na dark webu, kde se podvodníci a zloději totožnosti rádi po nich vrhnou. Takto se lidé potýkají se vším, od krádeže identity a zneužívání po tuny spamových hovorů, phishingových e-mailů a cílených podvodů.

Úniky dat ale nejsou jediné nebezpečí. I když jsou informace v bezpečí, mohou být zneužity nebo manipulovány způsoby, které jsou těžko detekovatelné. Jednou z největších nových hrozeb je něco, co se nazývá útok injekcí promptů.

Jednoduše řečeno, injekce promptů je způsob, jak útočníci oklamat AI, aby dělala něco, co neměla. Vědci nedávno zjistili, že útočníci mohou vkládat skryté příkazy do zdánlivě neškodného textu, jako je biografie na webových stránkách, podpis e-mailu nebo dokonce příspěvek na sociálních sítích. Když AI čte tento text během trénování nebo procházení, může náhodou následovat skryté instrukce, které by jí mohly říci, aby unikla informace, změnila své chování nebo poskytla neoprávněný přístup k soukromým datům.

Na rozdíl od většiny nástrojů AI, které reagují na příkazy, které jim dáváte přímo, je Manus autonomní, což znamená, že může jednat sám, sledovat odkazy, číst obsah a rozhodovat se bez lidského schválení. I když to zní skvěle, je to také to, co ztěžuje zjištění, kdy se něco pokazí.

Pokud Manus narazí na škodlivý obsah, mohl by nevědomky následovat skrytý prompt, ohrozit vaše data nebo změnit své chování, a nemusí být žádný zřejmý znak, že se něco stalo, dokud nebude příliš pozdě. Existují také obavy o to, kam Manus odesílá a ukládá data. Výzkumníci v oblasti bezpečnosti vysledovali data zpět na servery v Šen-čenu v Číně, což vyvolává obavy ohledně dohledu, jurisdikce a toho, kdo by nakonec mohl mít přístup k vašim informacím.

Takže i když Manus dnes neshromažďuje nic příliš citlivého, kombinace slabého dohledu, výkonné automatizace a pochybných postupů nakládání s údaji je mnohem riskantnější než u průměrného AI asistenta.

Kontaktovali jsme Manus AI ohledně komentáře k tomuto článku, ale před uzávěrkou jsme nedostali odpověď.

Jak jsem již zmínil, ať už používáte Manus AI nebo ne, vaše osobní informace s největší pravděpodobností skončí v jeho datových sadách, takže nejlepší způsob, jak se chránit, je ztížit nalezení vašich informací. Zde je několik věcí, které můžete udělat.

1) Buďte opatrní při používání Manusu: S touto úrovní autonomie, zejména proto, že se jedná o velmi novou AI (nemluvě o nekonzistenci v jejích zásadách ochrany osobních údajů týkajících se správy), bych nedoporučoval ji používat ještě teď. Může způsobit příliš mnoho škod, pokud selže nebo podléhá útoku injekcí promptů.

2) Udržujte své osobní informace v tajnosti: Vzhledem k tomu, že tolik společností prodává a obchoduje s osobními údaji, mnohé z nich technologickým společnostem pro školení AI, je vhodné zadržet vaše data, pokud se absolutně nedá vyhnout jejich sdílení.

3) Aktivně odstraňujte své osobní informace z internetu, aby je AI modely jako Manus nemohly shromažďovat: Nastavte si sociální média na soukromé, omezte shromažďování dat pomocí nastavení ochrany osobních údajů a odstraňte své informace z brokerů dat a vyhledávacích stránek pro lidi. Autonomní cloudové agenti, jako je Manus, jsou navrženi tak, aby extrahovali a analyzovali obrovské množství online dat, a vaše veřejně dostupné informace mohou být zařazeny do jejich tréninkových datových sad bez vašeho vědomí nebo souhlasu.

4) Používejte silný antivirový software, který pomůže bránit se proti širšímu spektru útoků vytvořenému autonomními AI systémy: Schopnost Manusu jednat samostatně a interagovat s externími systémy zvyšuje riziko nepřátelských útoků a přenosu škodlivého softwaru, takže robustní zabezpečení koncových bodů je nezbytné k ochraně vašich zařízení a dat.

5) Používejte produkty a služby zaměřené na ochranu soukromí: Pokud se nelze vyhnout sdílení osobních údajů, volte společnosti, které upřednostňují vaše soukromí. Například používejte prohlížeč DuckDuckGo místo Chrome a Brave nebo Proton Mail místo Gmailu.

6) Udržujte veškerý software aktualizovaný, včetně operačního systému, prohlížečů a nástrojů zabezpečení, abyste opravili zranitelnosti, které by útočníci mohli zneužít: Protože agenti AI, jako je Manus, pracují v cloudu a mohou interagovat s vašimi systémy, nezáplatovaný software se může stát snadnou obětí zneužití nebo neoprávněného přístupu. Proto je vždy dobré udržovat software, operační systémy, prohlížeče a nástroje zabezpečení aktualizované.

7) Povolte vícestupňovou autentizaci (MFA) na všech vašich účtech: Jak se útoky řízené AI a automatizovaná extrakce dat stávají běžnějšími, MFA přidává klíčovou vrstvu obrany, což útočníkům značně ztěžuje kompromitování vašich účtů, i když AI systém unikne nebo seškrábe vaše přihlašovací údaje.

8) Používejte silná, jedinečná hesla pro každý účet: Protože cloudoví agenti AI, jako je Manus, mohou interagovat s externími systémy a potenciálně přistupovat k citlivým datům, jedinečná hesla pomáhají zabránit tomu, aby narušení jednoho účtu vedlo k širšímu kompromisu. Zvažte použití správce hesel pro generování a ukládání složitých hesel.

Jak budeme postupovat s AI jako je Manus, je vzrušující přemýšlet o možnostech, ale je také důležité si uvědomit, co to znamená pro naše osobní údaje. I když Manus nikdy sami nepoužíváte, vaše informace by stále mohly skončit v jeho tréninkových datech.

Co tedy můžete dělat? Zůstaňte informováni, převezměte kontrolu nad svou digitální stopou a vyberte si nástroje, které upřednostňují vaše soukromí. Jak se AI bude nadále vyvíjet, proaktivní přístup k vašim datům je nejlepší způsob, jak si užívat výhod inovací a zároveň chránit své osobní informace.