Jak skutečně hodnotíme umělou inteligenci?

Představte si, že vám nástroj umělé inteligence nabídne přesné předpovědi o některých vašich akcích. Jak byste se cítili při jeho používání? A nyní si představte, že se ucházíte o práci ve firmě, kde personální oddělení používá k prověřování životopisů systém umělé inteligence. Bylo by vám to příjemné?

Nová studie zjistila, že lidé nejsou k AI ani zcela nadšení, ani zcela odporní. Místo toho, aby se rozdělovali do táborů techno-optimistů a ludistů, lidé rozlišují praktický dopad používání AI případ od případu.

„Navrhujeme, že kladný postoj k AI nastává, když je AI vnímána jako schopnější než lidé a personalizace je v daném rozhodovacím kontextu vnímána jako zbytečná,“ říká profesor MIT Jackson Lu, spoluautor nově publikované práce, která podrobně popisuje výsledky studie. „Odpor k AI nastává, když není splněna alespoň jedna z těchto podmínek, a kladný postoj k AI nastává pouze tehdy, když jsou splněny obě podmínky.“

Článek „AI Aversion or Appreciation? A Capability–Personalization Framework and a Meta-Analytic Review“ byl publikován v časopise Psychological Bulletin. Článek má osm spoluautorů, včetně Lu, který je profesorem studií práce a organizace na MIT Sloan School of Management.

Nový rámec přináší vhled

Reakce lidí na AI jsou již dlouho předmětem rozsáhlé debaty, která často přináší zdánlivě rozporuplné závěry. Vlivná studie z roku 2015 o „odporu k algoritmům“ zjistila, že lidé jsou méně shovívaví k chybám generovaným AI než k lidským chybám, zatímco široce známá studie z roku 2019 o „kladném postoji k algoritmům“ zjistila, že lidé dávali přednost radám od AI ve srovnání s radami od lidí.

Aby Lu a jeho spoluautoři usmířili tyto smíšené nálezy, provedli metaanalýzu 163 předchozích studií, které porovnávaly preference lidí pro AI versus lidi. Vědci testovali, zda data podporují jejich navrhovaný „rámec schopnosti-personalizace“ – myšlenku, že v daném kontextu obě vnímané schopnosti AI a vnímaná potřeba personalizace utvářejí naše preference pro AI nebo lidi.

V rámci 163 studií výzkumný tým analyzoval více než 82 000 reakcí na 93 různých „rozhodovacích kontextů“ – například, zda by se účastníci cítili pohodlně s používáním AI při diagnostice rakoviny. Analýza potvrdila, že rámec schopnosti-personalizace skutečně pomáhá vysvětlit preference lidí.

„Metaanalýza podpořila náš teoretický rámec,“ říká Lu. „Obě dimenze jsou důležité: Jedinci hodnotí, zda je AI v daném úkolu schopnější než lidé, a zda úkol vyžaduje personalizaci. Lidé budou dávat přednost AI, pouze pokud si myslí, že AI je schopnější než člověk a úkol není osobní.“

Dodává: „Hlavní myšlenka je, že vysoká vnímaná schopnost sama o sobě nezaručuje kladný postoj k AI. Personalizace také záleží.“

Lidé například mají tendenci upřednostňovat AI, pokud jde o detekci podvodů nebo třídění velkých datových sad – oblasti, kde schopnosti AI překračují schopnosti lidí v rychlosti a měřítku a personalizace není nutná. Ale jsou odolnější vůči AI v kontextech, jako je terapie, pohovory o práci nebo lékařská diagnostika, kde se domnívají, že člověk je lépe schopen rozpoznávat jejich jedinečné okolnosti.

„Lidé mají základní touhu vidět se jako jedinečné a odlišné od ostatních lidí,“ říká Lu. „AI je často vnímána jako neosobní a fungující mechanicky. I když je AI trénovaná na bohatství dat, lidé mají pocit, že AI nedokáže pochopit jejich osobní situace. Chtějí lidského náboráře, lidského lékaře, který je dokáže vidět jako odlišné od ostatních lidí.“

Kontext také záleží: Od hmatatelnosti k nezaměstnanosti

Studie také odhalila další faktory, které ovlivňují preference jednotlivců pro AI. Například kladný postoj k AI je výraznější u hmatatelných robotů než u nehmotných algoritmů.

Ekonomický kontext také záleží. V zemích s nižší nezaměstnaností je kladný postoj k AI výraznější.

„To dává intuitivní smysl,“ říká Lu. „Pokud se obáváte, že vás AI nahradí, je méně pravděpodobné, že ji přijmete.“

Lu dále zkoumá komplexní a vyvíjející se postoje lidí k AI. I když nepovažuje současnou metaanalýzu za poslední slovo v této záležitosti, doufá, že rámec schopnosti-personalizace nabídne cennou perspektivu pro pochopení toho, jak lidé hodnotí AI v různých kontextech.

„Netvrdíme, že vnímaná schopnost a personalizace jsou jediné dvě dimenze, které záleží, ale podle naší metaanalýzy tyto dvě dimenze zachycují velkou část toho, co utváří preference lidí pro AI versus lidi v širokém rozsahu studií,“ uzavírá Lu.

Kromě Lu jsou spoluautory článku Xin Qin, Chen Chen, Hansen Zhou, Xiaowei Dong a Limei Cao ze Sun Yat-sen University; Xiang Zhou ze Shenzhen University; a Dongyuan Wu z Fudan University.

Výzkum byl částečně podpořen granty Qin a Wu od Národní přírodovědecké nadace Číny.