Pět významných demokratických senátorů požaduje od OpenAI vysvětlení ohledně bezpečnosti a pracovních praktik

Skupina pěti demokratických senátorů zaslala otevřený dopis generálnímu řediteli společnosti OpenAI, Samu Altmanovi, ve kterém požaduje objasnění bezpečnostních a pracovních praktik firmy. Dopis, podepsaný senátory Brianem Schatzem, Benem Rayem Lujánem, Peterem Welchem, Markem R. Warnerem a Angusem S. Kingem Jr., reaguje na nedávné zprávy zpochybňující odhodlání OpenAI k bezpečnému a odpovědnému vývoji umělé inteligence.

Senátoři zdůrazňují, že bezpečnost AI je klíčová pro národní ekonomickou konkurenceschopnost a geopolitické postavení USA. Poukazují na partnerství OpenAI s americkou vládou a národními bezpečnostními agenturami v oblasti vývoje nástrojů pro kybernetickou bezpečnost, což jen podtrhuje důležitost bezpečných systémů umělé inteligence.

"Národní a ekonomická bezpečnost patří mezi nejdůležitější odpovědnosti vlády Spojených států a nezabezpečené nebo jinak zranitelné systémy umělé inteligence jsou nepřijatelné," uvádí se v dopise.

Zákonodárci požádali o podrobné informace v několika klíčových oblastech, a to do 13. srpna 2024. Mezi tyto oblasti patří:

1. Závazek OpenAI věnovat 20 % svých výpočetních zdrojů výzkumu bezpečnosti AI.
2. Postoj společnosti k dohodám o nezveřejňování informací pro současné i bývalé zaměstnance.
3. Postupy pro zaměstnance, kteří chtějí upozornit na problémy v oblasti kybernetické bezpečnosti a bezpečnosti obecně.
4. Bezpečnostní protokoly pro prevenci krádeže modelů AI, výzkumu nebo duševního vlastnictví.
5. Dodržování vlastního Kodexu chování dodavatelů společnosti OpenAI týkající se politik proti odvetným opatřením a oznamovatelských kanálů.
6. Plány na nezávislé testování a posuzování systémů OpenAI odborníky před jejich uvedením na trh.
7. Závazek zpřístupnit budoucí základní modely agenturám americké vlády pro testování před jejich nasazením.
8. Postupy monitorování po vydání a poznatky z nasazených modelů.
9. Plány na veřejné zveřejnění retrospektivních posouzení dopadů nasazených modelů.
10. Dokumentace o plnění dobrovolných bezpečnostních závazků vůči Bidenově administrativě.

Tento krok senátorů přichází v době rostoucího znepokojení nad rychlým vývojem umělé inteligence a jejími možnými dopady na společnost. Očekává se, že odpověď OpenAI bude mít významný dopad na budoucí regulaci a vývoj AI technologií.Otázky senátorů se dotýkají nedávných kontroverzí kolem OpenAI, včetně zpráv o vnitřních sporech ohledně bezpečnostních postupů a údajných porušení kybernetické bezpečnosti. Konkrétně se ptají, zda se OpenAI "zaváže odstranit z pracovních smluv všechna další ustanovení, která by mohla být použita k penalizaci zaměstnanců, kteří veřejně upozorní na praktiky společnosti".

Tato kontrola ze strany Kongresu přichází v době rostoucí debaty o regulaci umělé inteligence a bezpečnostních opatřeních. Dopis odkazuje na dobrovolné závazky, které přední společnosti zabývající se umělou inteligencí učinily loni v Bílém domě, a označuje je za "důležitý krok k budování důvěry" v bezpečnost a zabezpečení AI.

Kamala Harrisová, která by se po letošních volbách mohla stát příští prezidentkou USA, na loňském summitu o bezpečnosti umělé inteligence ve Velké Británii prohlásila: "Buďme upřímní, existují další hrozby, které také vyžadují náš zásah. Hrozby, které v současnosti způsobují škody a které mnoha lidem připadají také existenční... když lidé na celém světě nemohou rozeznat fakta od fikce kvůli záplavě mýtů a dezinformací podporovaných umělou inteligencí."

Chelsea Alvesová, konzultantka UNMiss, k tomu dodala: "Přístup Kamaly Harrisové k umělé inteligenci a regulaci velkých technologických firem je v době, kdy vstupuje do prezidentského závodu, jak aktuální, tak zásadní. Její politika by mohla stanovit nové standardy pro to, jak se budeme vyrovnávat se složitostí moderních technologií a ochranou soukromí jednotlivců."

Odpověď společnosti OpenAI na tyto otázky by mohla mít významné důsledky pro budoucnost řízení umělé inteligence a vztah mezi technologickými společnostmi a vládními dozorčími orgány.