Zarovnání umělé inteligence s lidskými hodnotami

Audrey Lorvo, studentka Massachusettského technologického institutu (MIT), se věnuje výzkumu bezpečnosti umělé inteligence (AI). Její práce se zaměřuje na to, aby stále inteligentnější AI modely byly spolehlivé a prospěšné pro lidstvo. Rostoucí obor se zabývá jak technickými výzvami, jako je robustnost a sladění AI s lidskými hodnotami, tak společenskými obavami, jako je transparentnost a odpovědnost. Odborníci se také zabývají potenciálními existenčními riziky spojenými se stále výkonnějšími nástroji AI.

„Zajištění toho, aby AI nebyla zneužita nebo jednala v rozporu s našimi záměry, je stále důležitější, jak se blížíme k obecné umělé inteligenci (AGI),“ říká Lorvo, studentka oboru informatika, ekonomie a datová věda. AGI popisuje potenciál umělé inteligence dosáhnout nebo překonat lidské kognitivní schopnosti.

Lorvo, stipendistka programu Sociální a etické odpovědnosti výpočetní techniky (SERC) na MIT Schwarzman College of Computing, se podrobně zabývá tím, jak by AI mohla automatizovat procesy a postupy výzkumu a vývoje v oblasti AI. Jako členka výzkumné skupiny Big Data zkoumá sociální a ekonomické dopady potenciálu AI k urychlení výzkumu sama sebe a jak efektivně sdělovat tyto myšlenky a potenciální dopady široké veřejnosti, včetně zákonodárců, strategických poradců a dalších.

Lorvo zdůrazňuje potřebu kriticky posoudit rychlý pokrok AI a jeho důsledky a zajistit, aby organizace měly zavedeny správné rámce a strategie pro řešení rizik. „Musíme zajistit, aby lidstvo sklízelo výhody AI a zároveň neztratilo kontrolu nad technologií,“ říká. „Musíme udělat vše, co je v našich silách, abychom ji vyvíjeli bezpečně.“

Její účast v iniciativách, jako je AI Safety Technical Fellowship, odráží její zájem o pochopení technických aspektů bezpečnosti AI. Stipendium poskytuje příležitosti k prozkoumání stávajícího výzkumu zaměřeného na sladění vývoje AI s ohledem na potenciální dopad na člověka. „Stipendium mi pomohlo pochopit technické otázky a výzvy v oblasti bezpečnosti AI, abych mohla navrhnout lepší strategie řízení AI,“ říká. Podle Lorvo společnosti na špičce vývoje AI neustále posouvají hranice, což znamená, že budeme muset zavést efektivní politiky, které budou upřednostňovat bezpečnost lidí, aniž by bránily výzkumu.

Hodnota lidského zapojení

Když Lorvo přišla na MIT, věděla, že chce studovat obor, který jí umožní pracovat na pomezí vědy a humanitních oborů. Různorodost nabídek na institutu jí však ztěžovala volbu.

„Existuje tolik způsobů, jak pomoci zlepšit kvalitu života jednotlivců a komunit,“ říká, „a MIT nabízí tolik různých cest k výzkumu.“

Začala ekonomií – oborem, který ji baví pro jeho zaměření na kvantifikaci dopadu – a zkoumala matematiku, politologii a urbanismus, než si vybrala obor 6-14.

„Kurzy ekonometrie profesora Joshuy Angrista mi pomohly vidět hodnotu zaměření se na ekonomii, zatímco prvky datové vědy a informatiky mě zaujaly kvůli rostoucímu dosahu a potenciálnímu dopadu AI,“ říká. „Můžeme tyto nástroje použít k řešení některých nejnaléhavějších problémů světa a doufejme, že překonáme vážné výzvy.“

Lorvo se také zaměřila na studium urbanismu a plánování a mezinárodního rozvoje.

Když si zužovala svůj zájem, zjistila, že sdílí pohled na lidstvo s dalšími členy komunity MIT, například s MIT AI Alignment group, od kterých se hodně dozvěděla o bezpečnosti AI. „Studenti se starají o svůj mezní dopad,“ říká.

Mezní dopad, dodatečný efekt specifické investice času, peněz nebo úsilí, je způsob, jak měřit, o kolik příspěvek přidá k tomu, co se již dělá, namísto zaměření se na celkový dopad. To může potenciálně ovlivnit to, kam se lidé rozhodnou věnovat své zdroje, myšlenka, která Lorvo zaujala.

„Ve světě s omezenými zdroji může přístup k řešení některých z našich největších problémů na základě dat těžit z individuálního přístupu, který směruje lidi tam, kde je pravděpodobné, že udělají největší dobro,“ říká. „Pokud chcete maximalizovat svůj sociální dopad, zamyšlení se nad mezním dopadem vašeho profesního výběru může být velmi cenné.“

Lorvo si také cení zaměření MIT na vzdělávání celého studenta a využila příležitostí k prozkoumání oborů, jako je filozofie, prostřednictvím MIT Concourse, programu, který usnadňuje dialog mezi vědou a humanitními obory. Concourse doufá, že účastníci získají vedení, jasnost a smysl pro vědecké, technické a lidské snažení.

Studentské zkušenosti na institutu

Lorvo věnuje svůj čas mimo učebnu vytváření nezapomenutelných zážitků a pěstování vztahů se svými spolužáky. „Mám to štěstí, že mám prostor vyvážit studium, výzkum a závazky v klubech s dalšími aktivitami, jako je posilování a iniciativy mimo kampus,“ říká. „Na institutu je vždy k dispozici tolik klubů a akcí.“

Tyto příležitosti k rozšíření svého světového názoru ji zpochybnily její přesvědčení a představily ji nové oblasti zájmu, které zlepšily její život a profesní volby. Lorvo, která plynně mluví francouzsky, anglicky, španělsky a portugalsky, také chválí MIT za mezinárodní zkušenosti, které studentům poskytuje.

„Absolvovala jsem stáž v Santiagu de Chile a Paříži s MISTI a pomohla jsem testovat komoru pro kondenzaci vodní páry, kterou jsme navrhli v podzimním semestru 2023 v D-Lab ve spolupráci s Polytechnickou školou na Madagaskaru a nevládní organizací Tatirano,“ říká, „a užívala jsem si příležitosti dozvědět se o řešení ekonomické nerovnosti prostřednictvím mých kurzů mezinárodního rozvoje a D-Lab.“

Jako prezidentka studentské asociace ekonomů na MIT se Lorvo spojuje s dalšími studenty, kteří se zajímají o ekonomii, a zároveň rozšiřuje své chápání oboru. Baví ji vztahy, které si buduje, a také účast na akcích asociace po celý rok. „I jako seniorka jsem našla nové komunity na kampusu, které mohu prozkoumat a ocenit,“ říká. „Vyzývám ostatní studenty, aby i nadále prozkoumávali skupiny a kurzy, které je během jejich studia na MIT zaujmou.“

Po ukončení studia chce Lorvo pokračovat ve zkoumání bezpečnosti AI a výzkumu strategií řízení, které mohou pomoci zajistit bezpečné a efektivní zavedení AI.

„Dobré řízení je nezbytné pro úspěšný rozvoj AI a zajištění toho, aby lidstvo mohlo těžit z jejího transformačního potenciálu,“ říká. „Musíme i nadále sledovat růst a schopnosti AI, jak se technologie bude nadále vyvíjet.“

Pochopení potenciálního dopadu technologie na lidstvo, konání dobra, neustálé zlepšování a vytváření prostorů, kde se mohou zrodit velké myšlenky, Lorvo neustále motivuje. Propojení humanitních věd s přírodními vědami oživuje většinu toho, co dělá. „Vždy jsem doufala, že přispěji ke zlepšení života lidí, a AI představuje největší výzvu i příležitost lidstva,“ říká. „Věřím, že oblast bezpečnosti AI může těžit z lidí s interdisciplinárními zkušenostmi, jako jsou ty, které jsem měla to štěstí získat, a vyzývám každého, kdo je vášnivý ve formování budoucnosti, aby to prozkoumal.“