Scottas Wieneris dėl kovos dėl „Big Tech“ atskleidimo AI pavojų

Tai nėra pirmasis Kalifornijos valstijos senatoriaus Scotto Wienerio bandymas kreiptis į AI pavojų.

2024 m. Silicio slėnis surengė nuožmią kampaniją prieš savo prieštaringai vertinamą AI saugos įstatymą „SB 1047“, dėl kurio technologijų kompanijos būtų padarę atsakomybę už galimą jų AI sistemų žalą. Technikos vadovai perspėjo, kad tai užgniaužs Amerikos AI bumą. Gubernatorius Gavinas Newsomas galiausiai vetavo įstatymo projektą, pakartodamas panašius rūpesčius, o populiarus AI įsilaužėlių namas nedelsdamas metė „SB 1047 veto partiją“. Vienas dalyvis man pasakė: „Ačiū Dievui, Ai vis dar yra teisėta“.

Dabar „Wiener“ grįžo su nauju AI saugos sąskaita „SB 53“, kuri sėdi ant gubernatoriaus „Newsom“ stalo, laukdamas jo parašo ar veto kada nors per artimiausias kelias savaites. Šiuo metu įstatymo projektas yra daug populiaresnis ar bent jau atrodo, kad Silicio slėnis su juo nėra kariaujamas.

Anksčiau šį mėnesį „Anthropic“ tiesiogiai patvirtino SB 53. „Meta“ atstovas spaudai Jimas Cullinanas sako „TechCrunch“, kad įmonė palaiko AI reglamentą, kuris subalansuoja apsauginius turėklus su naujovėmis ir sako: „SB 53 yra žingsnis ta linkme“, nors yra ir tobulinimo sričių.

Buvęs Baltųjų rūmų AI politikos patarėjas Deanas Ballas pasakoja „TechCrunch“, kad „SB 53“ yra „protingo balsų pergalė“, ir mano, kad yra didelė tikimybė, kad gubernatorius „Newsom“ pasirašys.

Jei pasirašys, „SB 53“ nustatytų kai kuriuos pirmuosius šalies saugos ataskaitų teikimo reikalavimus AI milžinams, tokiems kaip „Openai“, „Anthropic“, „Xai“ ir „Google“ – įmonės, kurioms šiandien neprivalo atskleisti, kaip jie išbando savo AI sistemas. Daugelis AI laboratorijų savanoriškai skelbia saugos ataskaitas, paaiškinančias, kaip jų AI modeliai galėtų būti naudojami kuriant biologinius ir kitus pavojus, tačiau jie tai daro norėdami ir ne visada yra nuoseklūs.

Įstatymo projekte reikalaujama, kad vadovaujamos AI laboratorijos – būtent tie, kurie uždirba daugiau nei 500 mln. Panašiai kaip SB 1047, įstatymo projekte pagrindinis dėmesys skiriamas blogiausioms AI rizikoms: jų sugebėjimui prisidėti prie žmonių mirties, kibernetinių išpuolių ir cheminių ginklų. Gubernatorius „Newsom“ svarsto keletą kitų įstatymų, kuriuose nagrinėjamos kitos rūšies AI rizikos, pavyzdžiui, AI kompanionų įsitraukimo ir optimizavimo metodai.

„SB 53“ taip pat sukuria saugomus kanalus darbuotojams, dirbantiems AI laboratorijoje, kad praneštų apie saugos problemas vyriausybės pareigūnams, ir įsteigia valstybės valdomą debesų kompiuterijos klasterį „Calcompute“, kad būtų teikiamos AI tyrimų ištekliai, išskyrus dideles technologijų įmones.

Viena iš priežasčių, kodėl SB 53 gali būti populiaresnė nei SB 1047, yra ta, kad jis ne toks sunkus. „SB 1047“ taip pat būtų padarę AI kompanijas, atsakingas už bet kokią žalą, kurią sukelia jų AI modeliai, tuo tarpu SB 53 daugiau dėmesio skiria reikalavimui, kad reikia pranešti apie save ir skaidrumą. „SB 53“ taip pat siaurai taikoma didžiausioms pasaulyje technologijų kompanijoms, o ne startuoliams.

Tačiau daugelis technologijų pramonės vis dar mano, kad valstybės turėtų palikti AI reguliavimą federalinei vyriausybei. Neseniai paskelbtame laiške „Gubernatoriui Newsomui“ Openai teigė, kad „AI Labs“ turėtų laikytis tik federalinių standartų – tai yra juokingas dalykas, kurį reikia pasakyti valstijos gubernatoriui. Vyriausybės įmonė Andreessen Horowitz parašė naujausią tinklaraščio įrašą, kuriame neaiškiai teigiama, kad kai kurie vekseliai Kalifornijoje galėtų pažeisti Konstitucijos neveikiančią prekybos sąlygą, draudžiančią valstybėms nesąžiningai riboti tarpvalstybinę komerciją.

Senatorius Wieneris nagrinėja šiuos rūpesčius: jam trūksta tikėjimo federaline vyriausybe, kad jis priimtų prasmingą AI saugos reglamentą, todėl valstybėms reikia paspartinti. Tiesą sakant, Wieneris mano, kad D.Trumpo administraciją užfiksavo technologijų pramonė, ir kad neseniai federalinės pastangos blokuoti visus valstybinius AI įstatymus yra Trumpo „apdovanojimo jo finansuotojams“ forma.

Trumpo administracija pastebimai perėjo nuo Bideno administracijos dėmesio AI saugumui, pakeisdama ją akcentuojant augimą. Netrukus po pareigų viceprezidentas JD Vance pasirodė AI konferencijoje Paryžiuje ir sakė: „Aš nesu čia šį rytą, kad galėčiau kalbėti apie AI saugumą, kuris prieš porą metų buvo konferencijos titulas. Aš čia noriu kalbėti apie AI galimybes.“

Silicio slėnis plojo šiai pamainai, kurią parodė D.Trumpo AI veiksmų planas, kuris pašalino kliūtis kurti infrastruktūrą, reikalingą mokyti ir aptarnauti AI modelius. Šiandien „Big Tech“ generaliniai direktoriai reguliariai mato vakarienę Baltuosiuose rūmuose arba skelbia šimto milijardų dolerių vertės duomenų centrus kartu su prezidentu Trumpu.

Senatorius Wieneris mano, kad Kalifornijai labai svarbu vadovauti tautai dėl AI saugos, tačiau neuždusdamas naujovių.

Neseniai apklausiau senatorių Wienerį aptarti jo metų prie derybų stalo su Silicio slėniu ir kodėl jis taip orientuojasi į AI saugos sąskaitas. Mūsų pokalbis buvo lengvai redaguotas dėl aiškumo ir trumpumo. Mano klausimai yra drąsūs, o jo atsakymai nėra.

Maxwellas Zeffas: Senatorius Wieneris, aš jus apklausiau, kai „SB 1047“ sėdėjo ant gubernatoriaus „Newsom“ stalo. Pasikalbėkite su manimi apie kelionę, kurią vykote norėdami sureguliuoti AI saugumą per pastaruosius kelerius metus.

Scottas Wieneris: Tai buvo kalneliai, neįtikėtina mokymosi patirtis ir tiesiog tikrai naudinga. Mes sugebėjome padėti iškelti šią (AI saugos) problemą ne tik Kalifornijoje, bet ir nacionaliniame bei tarptautiniame diskurse.

Mes turime šią neįtikėtinai galingą naują technologiją, kuri keičia pasaulį. Kaip įsitikinti, kad tai naudinga žmonijai tokiu būdu, kuriuo sumažintume riziką? Kaip mes skatiname inovacijas, tuo pačiu labai atsimindami visuomenės sveikatą ir visuomenės saugumą. Tai yra svarbus – ir tam tikra prasme egzistencinis – pokalbis apie ateitį. SB 1047, o dabar SB 53 – padėjo puoselėti tą pokalbį apie saugias naujoves.

Ką jūs sužinojote apie įstatymų svarbą, galinčią sulaikyti Silicio slėnį, per pastaruosius 20 technologijų metų?

Aš esu tas vaikinas, kuris atstovauja San Franciskas, plakanti AI inovacijų širdis. Aš iš karto į šiaurę nuo pat Silicio slėnio, todėl mes esame čia, viso to viduryje. Bet mes taip pat matėme, kaip didelės technologijų kompanijos – kai kurios turtingiausios pasaulio istorijos įmonės – sugebėjo sustabdyti federalinį reguliavimą.

Kiekvieną kartą, kai matau, kad technologijų generaliniai direktoriai vakarieniauja Baltuosiuose rūmuose su trokštančiu fašistų diktatoriumi, turiu giliai įkvėpti. Tai visi tikrai nuostabūs žmonės, kurie sukūrė milžiniškus turtus. Daugybė žmonių, kuriuos atstovauju jiems. Man tikrai skaudu, kai matau sandorius, kurie yra užklupti Saudo Arabijos ir Jungtinių Arabų Emyratų, ir kaip šie pinigai įsitraukia į Trumpo meme monetą. Tai sukelia man didelį susirūpinimą.

Aš nesu tas, kuris yra anti-tech. Noriu, kad įvyktų technologijų naujovės. Tai nepaprastai svarbu. Tačiau tai yra pramonė, kuria neturėtume pasitikėti, kad sureguliuotume save ar savanoriškus įsipareigojimus. Ir tai niekam nevyksta. Tai yra kapitalizmas ir jis gali sukelti didžiulę gerovę, tačiau taip pat gali sukelti žalą, jei nėra protingų reglamentų, skirtų apsaugoti visuomenės interesus. Kalbant apie AI saugumą, mes bandome surišti tą adatą.

„SB 53“ yra orientuota į blogiausią žalą, kurią AI galėjo įsivaizduoti – mirtis, didžiulės kibernetinės atakos ir biologiniųponų sukūrimas. Kodėl ten susikoncentruoti?

AI rizika yra įvairi. Yra algoritminė diskriminacija, darbo praradimas, gilūs padirbiniai ir sukčiai. Kalifornijoje ir kitur buvo įvairių sąskaitų, skirtų spręsti šią riziką. „SB 53“ niekada nebuvo skirta aprėpti lauką ir spręsti kiekvieną AI sukurtą riziką. Mes sutelkėme dėmesį į vieną konkrečią rizikos kategoriją, kalbant apie katastrofinę riziką.

Ši problema man organiškai kilo iš AI erdvės San Fransiske – startuolių įkūrėjų, „Frontline AI“ technologų ir žmonių, kurie kuria šiuos modelius. Jie atėjo pas mane ir pasakė: „Tai problema, kurią reikia išspręsti apgalvotai“.

Ar manote, kad AI sistemos iš prigimties yra nesaugios, ar gali sukelti mirtį ir didžiulius kibernetinius išpuolius?

Nemanau, kad jie iš prigimties saugūs. Aš žinau, kad šiose laboratorijose dirba daugybė žmonių, kuriems labai rūpi bandymas sušvelninti riziką. Ir vėlgi, tai nėra susiję su rizikos pašalinimu. Gyvenimas yra susijęs su rizika, nebent jūs ketinate gyventi savo rūsyje ir niekada neišeisite, jūs turėsite rizikuoti savo gyvenime. Net jūsų rūsyje lubos gali kristi žemyn.

Ar yra rizika, kad kai kurie PG modeliai gali būti panaudoti didelę žalą visuomenei? Taip, ir mes žinome, kad yra žmonių, kurie norėtų tai padaryti. Turėtume stengtis, kad blogiems veikėjams būtų sunkiau padaryti šias dideles žalos, todėl žmonės, kuriuose plėtoja šiuos modelius.

„Anthropic“ paskelbė palaikymą „SB 53“. Kokie jūsų pokalbiai yra su kitais pramonės žaidėjais?

Mes kalbėjomės su visais: didelėmis įmonėmis, mažais startuoliais, investuotojais ir akademikais. Antropikas buvo tikrai konstruktyvus. Praėjusiais metais jie niekada oficialiai nepalaikė (SB 1047), tačiau jie turėjo teigiamų dalykų, kuriuos reikia pasakyti apie įstatymo projekto aspektus. Nemanau (antropic} mėgsta kiekvieną SB 53 aspektą, tačiau manau, kad jie padarė išvadą, kad balansą įstatymo projektą verta palaikyti.

Aš kalbėjau su didelėmis AI laboratorijomis, kurios nepalaiko įstatymo projekto, bet nesu kariauja su juo taip, kaip jie buvo su SB 1047. Tai nenuostabu. „SB 1047“ buvo daugiau atsakomybės sąskaita, SB 53 yra daugiau skaidrumo sąskaita. Šiemet pradedančiosios įmonės buvo mažiau įsitraukusios, nes įstatymo projekte daugiausia dėmesio skiriama didžiausioms įmonėms.

Ar jaučiate didelių AI PAC spaudimą, kuris susidarė pastaraisiais mėnesiais?

Tai dar vienas „Citizens United“ simptomas. Turtingiausios pasaulio įmonės gali tiesiog išleisti begalinius išteklius į šiuos PAC, kad bandytų įbauginti išrinktus pareigūnus. Pagal taisykles, kurias turime, jie turi visas teises tai padaryti. Tai niekada neturėjo įtakos tai, kaip aš priartėjau prie politikos. Buvo grupės, bandančios mane sunaikinti tol, kol buvau išrinktas pareigas. Įvairios grupės išleido milijonus bandydama mane susprogdinti, o štai aš esu. Aš tai darau teisingai pagal savo rinkėjus ir stengiuosi, kad mano bendruomenė, San Franciskas ir pasaulis būtų geresnis.

Kokia jūsų žinia gubernatoriui Newsomui, kai jis diskutuoja, ar pasirašyti, ar vetuoti šią sąskaitą?

Mano žinia yra ta, kad mes jus girdėjome. Jūs vetavo SB 1047 ir pateikėte labai išsamią ir apgalvotą veto žinią. Jūs išmintingai sukvietė darbo grupę, kuri parengė labai stiprią ataskaitą, ir mes tikrai ieškojome šios ataskaitos rengdami šį įstatymo projektą. Gubernatorius nustatė kelią, ir mes ėjome tuo keliu norėdami susitarti, ir tikiuosi, kad mes ten nuvykome.