Vnášení smyslu do nasazování technologií

Fakulta MIT nedávno představila v 15 prezentacích ve stylu TED Talk svůj průkopnický výzkum, který zahrnuje sociální, etické a technické aspekty a expertízu. Každý projekt byl podpořen startovními granty z iniciativy Social and Ethical Responsibilities of Computing (SERC), nadřízené iniciativy MIT Schwarzman College of Computing. Na výzvu k podávání návrhů z minulého léta dorazilo téměř 70 žádostí. Komise složená ze zástupců všech fakult MIT a vysoké školy vybrala vítězné projekty, které obdržely financování až do výše 100 000 dolarů.

„SERC se zavázala k podpoře pokroku na pomezí informatiky, etiky a společnosti. Startovní granty jsou navrženy tak, aby podnítily odvážné a kreativní myšlení ohledně komplexních výzev a příležitostí v této oblasti,“ uvedl Nikos Trichakis, spoluředitel SERC a profesor managementu J.C. Penney. „S sympoziem MIT o etickém výzkumu v informatice jsme usoudili, že je důležité nejen prezentovat šíři a hloubku výzkumu, který utváří budoucnost etické informatiky, ale také pozvat komunitu k zapojení do diskuse.“

„To, co zde vidíte, je jakési kolektivní posouzení komunity ohledně nejzajímavějších prací v oblasti výzkumu sociální a etické odpovědnosti v informatice na MIT,“ uvedl Caspar Hare, spoluředitel SERC a profesor filozofie.

Celodenní sympozium konané 1. května bylo uspořádáno kolem čtyř hlavních témat: odpovědné technologie v oblasti zdravotní péče, správa a etika umělé inteligence, technologie ve společnosti a občanské angažmá a digitální inkluze a sociální spravedlnost. Přednášející přednesli podnětné prezentace na širokou škálu témat, včetně algoritmického zkreslení, ochrany soukromí dat, sociálních dopadů umělé inteligence a vyvíjejícího se vztahu mezi lidmi a stroji. Akce také zahrnovala prezentaci plakátů, kde studenti prezentovali projekty, na kterých pracovali během roku jako SERC Scholars.

Mezi nejdůležitější body sympozia MIT o etickém výzkumu v informatice v jednotlivých tematických oblastech (mnohé z nich jsou k dispozici ke shlédnutí na YouTube) patřily:

Zlepšení spravedlnosti transplantačního systému ledvin

Pravidla regulující systém transplantace orgánů ve Spojených státech jsou stanovována národním výborem, který často potřebuje více než šest měsíců na jejich vytvoření a poté několik let na jejich implementaci – časový harmonogram, který mnoho lidí na čekací listině prostě nepřežije.

Dimitris Bertsimas, prorektor pro otevřené vzdělávání, proděkan pro obchodní analytiku a profesor operačního výzkumu Boeing, sdílel svou nejnovější práci v oblasti analytiky pro spravedlivé a efektivní alokace transplantací ledvin. Nový algoritmus Bertsima zkoumá kriteria, jako je zeměpisná poloha, mortalita a věk, za pouhých 14 sekund, což je monumentální změna oproti obvyklým šesti hodinám.

Bertsimas a jeho tým úzce spolupracují s United Network for Organ Sharing (UNOS), neziskovou organizací, která spravuje většinu národního systému darování a transplantace prostřednictvím smlouvy s federální vládou. Během své prezentace Bertsimas sdílel video od Jamese Alcorna, hlavního strategického poradce UNOS, který nabídl toto výstižné shrnutí dopadu nového algoritmu:

„Tato optimalizace radikálně mění dobu potřebnou k vyhodnocení různých simulací scénářů politik. Dříve nám trvalo pár měsíců, než jsme se podívali na hrstku různých scénářů politik, a nyní nám trvá pouhých několik minut, než se podíváme na tisíce a tisíce scénářů. Jsme schopni provádět tyto změny mnohem rychleji, což v konečném důsledku znamená, že můžeme systém pro kandidáty na transplantaci zlepšit mnohem rychleji.“

Etika obsahu sociálních médií generovaného umělou inteligencí

Jak se obsah generovaný umělou inteligencí stává stále běžnějším na platformách sociálních médií, jaké jsou důsledky zveřejnění (nebo nezveřejnění) toho, že jakákoli část příspěvku byla vytvořena umělou inteligencí? Adam Berinsky, profesor politologie Mitsui, a Gabrielle Péloquin-Skulski, doktorandka na katedře politologie, prozkoumali tuto otázku v sekci, která zkoumala nedávné studie o dopadu různých štítků na obsah generovaný umělou inteligencí.

V sérii průzkumů a experimentů s přidělováním štítků k příspěvkům generovaným umělou inteligencí výzkumníci zkoumali, jak konkrétní slova a popisy ovlivnily vnímání klamu uživateli, jejich úmysl zapojit se do příspěvku a nakonec, zda byl příspěvek pravdivý nebo nepravdivý.

„Hlavní závěr z našich počátečních zjištění je, že jedna velikost nesedí na všechny,“ řekla Péloquin-Skulski. „Zjistili jsme, že označování obrázků generovaných AI procesně orientovaným štítkem snižuje víru v nepravdivé i pravdivé příspěvky. To je docela problematické, protože označování má za cíl snížit víru lidí v nepravdivé informace, nikoli nutně v pravdivé informace. To naznačuje, že štítky kombinující proces i pravdivost by mohly být lepší v boji proti dezinformacím generovaným AI.“

Použití umělé inteligence ke zvýšení občanské diskuse online

„Naším výzkumem se snažíme řešit, jak si lidé stále více přejí mít slovo v organizacích a komunitách, ke kterým patří,“ vysvětlila Lily Tsai v sekci o experimentech s generativní umělou inteligencí a budoucností digitální demokracie. Tsai, profesorka politologie Ford a ředitelka MIT Governance Lab, provádí probíhající výzkum s Alexem Pentlandem, profesorem mediálních umění a vědy Toshiba, a větším týmem.

Online deliberativní platformy v posledních letech získávají na popularitě ve Spojených státech jak v prostředí veřejného, tak soukromého sektoru. Tsai vysvětlila, že s pomocí technologie je nyní možné, aby každý měl slovo – ale dělat to může být zdrcující, nebo se to dokonce může zdát nebezpečné. Za prvé, je k dispozici příliš mnoho informací a za druhé, online diskuse se stala stále více „necivilizovanou“.

Skupina se zaměřuje na „to, jak můžeme stavět na existujících technologiích a zlepšovat je důkladným interdisciplinárním výzkumem a jak můžeme inovovat integrací generativní AI, abychom zlepšili výhody online prostorů pro deliberaci“. Vyvinuli vlastní platformu pro deliberativní demokracii integrovanou s AI, DELiberation.io, a zavedli čtyři počáteční moduly. Všechny studie probíhaly zatím v laboratoři, ale pracují také na sérii nadcházejících terénních studií, z nichž první bude ve spolupráci s vládou okresu Columbia.

Tsai řekla publiku: „Pokud si z této prezentace nic jiného neodnesete, doufám, že si odnesete toto – že bychom si všichni měli vynutit, aby se vyvíjené technologie hodnotily s ohledem na to, zda mají pozitivní následky, místo aby se zaměřovaly pouze na maximalizaci počtu uživatelů.“

Veřejný think tank, který zvažuje všechny aspekty umělé inteligence

Když Catherine D’Ignazio, docentka urbanistické vědy a plánování, a Nikko Stevens, postdoktorand na Data + Feminism Lab na MIT, původně podali svůj návrh na financování, neměli v úmyslu vyvinout think tank, ale rámec – rámec, který by vysvětlil, jak by se metody práce umělé inteligence a strojového učení mohly integrovat do komunitních metod a využívat participativní design.

Nakonec vytvořili Liberatory AI, které popisují jako „progresivní veřejný think tank o všech aspektech umělé inteligence“. D’Ignazio a Stevens shromáždili 25 výzkumných pracovníků z rozmanité řady institucí a oborů, kteří napsali více než 20 diskusních dokumentů zkoumajících nejnovější akademickou literaturu o systémech umělé inteligence a zapojení. Dokumenty záměrně seskupili do tří samostatných témat: korporátní prostředí umělé inteligence, slepé uličky a cesty vpřed.

„Místo čekání na to, až nás Open AI nebo Google pozvou k účasti na vývoji svých produktů, jsme se spojili, abychom zpochybnili současný stav věcí, mysleli ve větším měřítku a reorganizovali zdroje v tomto systému v naději na větší společenskou transformaci,“ řekla D’Ignazio.