Praėjusį penktadienį, remdamiesi nepatikslintais nacionalinio saugumo klausimais, Baltieji rūmai įsakė Anthropic apriboti savo galingų dirbtinio intelekto modelių Fable ir Mythos eksportą visiems už JAV ribų, taip pat užsienio piliečiams šalies viduje. Netrukus po to dirbtinio intelekto milžinas paskubomis ištraukė kištuką iš abiejų modelių, kurie dabar jau savaitę niekam nepasiekiami.
Šis epizodas yra pirmasis tikras išbandymas, ar JAV vyriausybė gali naudoti eksporto kontrolę, kad sulaikytų pasienio dirbtinį intelektą taip, kaip ji bandė, o rezultatai buvo labai nevienodi, šifravimą ir šnipinėjimo programas. Ir kad ir kaip dramatiškai tai skambėtų, kaip bus išspręsta ši priešprieša, gali turėti įtakos ne tik Anthropic patekimui į užsienio rinkas, bet ir taisyklių sąvadą, kurį turės remtis kitos AI laboratorijos.
Pirmiausia tam tikras kontekstas. Nuo tada, kai balandį „Anthropic“ pristatė „Mythos“, bendrovė jį pardavinėjo kaip tam tikrą „Doomsday“ kibernetinį įrenginį, kuris, jei bus išleistas per plačiai, gali sukelti sumaištį internete, todėl iki uždraudimo tik apie 150 patikrintų įmonių ir vyriausybinių organizacijų turėjo prieigą prie jos. Tikslas buvo padėti gynėjams apsaugoti savo programinę įrangą ir paslaugas, kol blogi vaikinai gali pasiekti į Mythos panašias galimybes.
Taigi, kas paskatino draudimą? Pranešama, kad du vėlesni įvykiai. Pirmasis: „Anthropic“ suteikė Pietų Korėjos telekomunikacijų bendrovei prieigą prie „Mythos“ per savo ribotos atsakomybės partnerių programą, o JAV pareigūnai sunerimo, kai nustatė, kad bendrovė, jų manymu, turi ryšių su Kinija. (Pranešama, kad bendrovė, apie kurią pranešama, yra „SK Telecom“, neigė bet kokį ryšį su Kinija.) „Amazon“ generalinis direktorius Andy Jassy taip pat perspėjo administraciją, kai paties „Amazon“ tyrėjai, jo teigimu, rado būdą, kaip išvengti „Fable 5“ apsaugos priemonių. Anthropic ginčija „jailbreak“ etiketę ir vadina tai siaura, jau ištaisyta problema, o ne modelio saugos priemonių pralaimėjimu.
Rezultatas buvo tas pats: Prekybos departamentas paskelbė eksporto kontrolės direktyvą, o „Anthropic“ turėjo nedelsdama apriboti prieigą prie savo produktų per maždaug 90 minučių nuo kai kurių paskyrų pranešimo.
Tačiau nė vienas iš šių dalykų nėra naujas. Vyriausybės dešimtmečius bandė naudoti eksporto kontrolę, kad apribotų, jų manymu, pavojingų kibernetinių technologijų plitimą, tačiau jų pasiekimai geriausiu atveju buvo vidutiniški.
JAV vyriausybė buvo už bene įspūdingiausio istorijoje tokio požiūrio nesėkmės dešimtojo dešimtmečio pradžioje ar viduryje. Tuo metu kompiuterių mokslininkai kūrė šifravimo technologijas, kad apsaugotų duomenis, kai jie keliauja internetu. Vienas iš tų šifravimo produktų buvo vadinamas „Pretty Good Privacy“ arba PGP – populiaria programine įranga, kuri gali užšifruoti duomenis ir padaryti jų iššifravimą praktiškai neįmanoma, net jei perimama, kai jie internetu keliauja pas numatytą gavėją.
JAV vyriausybė iš pradžių laikė PGP pavojingu ginklu, baimindamasi, kad tai neleis jos žvalgybos agentūroms šnipinėti el. Siekdama sustabdyti PGP platinimą, JAV muitinės tarnyba pradėjo baudžiamąjį tyrimą prieš PGP kūrėją Philą Zimmermanną dėl tariamo ginklų eksporto kontrolės pažeidimo. Jis kovojo išleisdamas PGP šaltinio kodą kaip spausdintą knygą, uždegdamas tai, kas šiandien žinoma kaip „kriptų karai“.
Vėliau Zimmermannas laimėjo pagrindinį mūšį, kai tyrimas buvo baigtas, atverdamas kelią esminiams galutiniams šifravimo algoritmams, tokiems kaip milijardai Signal ir WhatsApp vartotojų.
Vėliau, 2010-ųjų pradžioje, mokslininkai pradėjo atrasti Vakarų šalių šnipinėjimo programas, naudojamas prieš disidentus Artimuosiuose Rytuose. Reaguodamos į tai, kelios vyriausybės sutiko išplėsti Wassenaar susitarimą – tarptautinę sutartį, ribojančią dvejopo naudojimo programinės įrangos ir technologijų, naudojamų tiek civilinėse, tiek karinėse programose, eksportą.
Idėja buvo priskirti stebėjimo ir įsilaužimo programinę įrangą dvejopo naudojimo programoms, todėl šnipinėjimo programų kūrėjai buvo priversti gauti eksporto licencijas parduoti savo produktus užsienyje.
Susisiekite su mumis
Ar turite daugiau informacijos apie „Mythos“ draudimą? Neveikiančiame įrenginyje ir tinkle galite saugiai susisiekti su Lorenzo Franceschi-Bicchierai telefonu +1 917 257 1382 arba per Telegram ir Keybase @lorenzofb arba el. paštu.
Tačiau Wassenaar visada turėjo dvi būdingas silpnybes. Yra keletas šalių, kurios nesilaiko šio susitarimo, įskaitant Izraelį, kuriame yra aktyviausių pasaulyje šnipinėjimo programų gamintojų.
Susitarimas taip pat priklauso nuo šalių, savo nuožiūra ją taikančių įmonėms savo teritorijoje. Kurį laiką Italijos vyriausybė leido vienam iš tuometinių geriausių šalies šnipinėjimo programų gamintojų „Hacking Team“ licenciją eksportuoti savo įrankius visame pasaulyje, nepaisant to, kad bendrovė pardavinėjo šnipinėjimo programas slegiančioms vyriausybėms, kurios jas naudojo įsilaužti į žurnalistus ir žmogaus teisių aktyvistus.
Nuo tada kitos Europos šalys atsainiai su šnipinėjimo programų kūrėjais, pavyzdžiui, Italija. Nepaisant daugybės skandalų, Europa, kurioje gyvena daugybė šnipinėjimo programų ir įsilaužimo įrankių gamintojų, nuolat nesugebėjo pažaboti šnipinėjimo programų eksporto į autoritarinius režimus. Kritikai teigia, kad neseniai atnaujintos pastangos visame 27 valstybių narių bloke spręsti vis didėjančią šnipinėjimo programų eksporto į autoritarines valstybes problemą „nepakankamai toli“.
Keletas šnipinėjimo programų gamintojų, pvz., „Intellexa“, sankcionuotas šnipinėjimo programų įmonių konsorciumas, tiesiog perkėlė savo veiklą į šalis, kuriose eksporto kontrolė nevykdoma. Kiti šnipinėjimo programų gamintojai dėl panašių priežasčių siekė perkelti savo veiklą į Saudo Arabiją.
Buvo keletas laimėjimų. Vokietijoje įsikūrusi šnipinėjimo programų gamintoja „FinFisher“ užsidarė 2022 m., po kelerius metus trukusio Vokietijos prokurorų tyrimo dėl bendrovės tariamai pardavinėjusios šnipinėjimo programas Turkijai be eksporto licencijos. Tyrėjai anksčiau nustatė, kad „FinFisher“ šnipinėjimo programa buvo dislokuota Turkijos vyriausybės kritikų telefonuose.
Rašymo metu aklavietė tarp Anthropic ir Trumpo administracijos išlieka. Yra didelė tikimybė, kad administracija panaikins ir panaikins apribojimą, siekdama išlaikyti Amerikos AI įmonių konkurencingumą visame pasaulyje – tai reikštų tylų pripažinimą, kad dirbtinio intelekto laboratorijos kitur, įskaitant Kiniją, greičiausiai pasieks panašius pajėgumus, nepaisant to, ką riboja JAV. Arba Amerikos dirbtinio intelekto įmonėms gali prireikti vyriausybės patvirtinimo, kad galėtų išvis aptarnauti užsienio klientus, o tai visada pakenktų jų naudai.
Atsižvelgiant į praeities patirtį, kurią pasaulio vyriausybės turėjo bandydamos kontroliuoti programinės įrangos pasiekiamumą, vargu ar vyriausybės įgaliota eksporto kontrolė bus tinkamas būdas sustabdyti piktybinius veikėjus nuo piktnaudžiavimo galingomis dvejopo naudojimo kibernetinėmis technologijomis.
Kai perkate per mūsų straipsniuose pateiktas nuorodas, galime uždirbti nedidelį komisinį atlyginimą. Tai neturi įtakos mūsų redakcinei nepriklausomybei.
