Moxie Marlinspike, privatumo gynėjas, sukūręs saugaus ryšio programėlę „Signal“ ir jos plačiai naudojamą atvirojo kodo šifravimo protokolą, šią savaitę sakė, kad į privatumą orientuota dirbtinio intelekto platforma „Confer“ pradės integruoti savo technologijas į „Meta“ dirbtinio intelekto sistemas.
Kiekvieną dieną milijardai pokalbių pranešimų, siunčiamų per „Signal“, „Meta’s WhatsApp“ ir „Apple“ pranešimus, yra apsaugoti nuo galo iki galo šifravimu. Funkcija, dėl kurios technologijų įmonės ir niekas, išskyrus siuntėją ir gavėją, negali šnipinėti jūsų pranešimų, per pastarąjį dešimtmetį tapo įprasta. Vis dėlto sparčiai populiarėjant generatyviosioms AI platformoms, žmonės dabar taip pat keičiasi milijardais pranešimų per dieną naudodami AI pokalbių robotus, kurie nesiūlo visiško šifravimo apsaugos, todėl dirbtinio intelekto įmonėms lengviau pasiekti tai, apie ką kalbate.
Taip yra dėl dizaino, nes platformos dažnai nori apmokyti savo dirbtinio intelekto modelius, remdamosi kuo daugiau naudotojo duomenų, ir dėl to sunku atsisakyti, kad jūsų informacija būtų naudojama kaip mokymo duomenys. Tačiau pokalbių robotams ir dirbtinio intelekto agentams tampant vis pajėgesniems, kai kurie technologai ir įmonės stengiasi kurti labiau suvaržytas ir į privatumą orientuotas sistemas.
„Kadangi LLM ir toliau gali padaryti daugiau, turėtume tikėtis, kad į juos pateks dar daugiau duomenų“, – antradienį paskelbtame trumpame tinklaraščio įraše apie bendradarbiavimą su Meta rašė Marlinspike. „Šiuo metu nė vienas iš tų duomenų nėra privatus. Jais dalijamasi su AI įmonėmis, jų darbuotojais, įsilaužėliais, šaukimais į šaukimus ir vyriausybėmis. Kaip visada būna su nešifruotais duomenimis, jie neišvengiamai pateks į netinkamas rankas.”
Marlinspike’as rašė, kad „dirbs siekdamas integruoti „Confer“ privatumo technologiją, kad ji būtų „Meta AI“ pagrindas. Jis taip pat pabrėžė, kad šių metų pradžioje debiutavęs „Confer“ ir toliau veiks nepriklausomai nuo „Metos“. Projekto tikslas, pridūrė Marlinspike, yra pasiūlyti technologiją, kuri „leistų kiekvienam išnaudoti visas AI galias ir visišką šifruoto pokalbio privatumą“.
2016 m. „Marlinspike“ dirbo su „WhatsApp“, kuri priklauso „Meta“, siekdama išplėsti šifravimą nuo galo iki galo daugiau nei milijardui paskyrų vienu metu. Per pastaruosius metus „WhatsApp“ į savo programą įtraukė „Meta AI“ pokalbių robotą, kuris nėra apsaugotas nuo įmonės taip, kaip atskiri pokalbiai.
„Žmonės naudoja dirbtinį intelektą tokiais būdais, kurie yra labai asmeniški ir reikalauja prieigos prie konfidencialios informacijos“, – apie bendradarbiavimą su „Confer“ trečiadienį socialinės žiniasklaidos platformoje X parašė „WhatsApp“ vadovas Willas Cathcartas. „Svarbu, kad šią technologiją sukurtume taip, kad žmonės galėtų tai daryti privačiai.
Šifruotas dirbtinis intelektas vis dar atsiranda. Kriptografinės schemos, naudojamos tradiciniam skaitmeniniam ryšiui šifruojant nuo galo iki galo, nėra lengvai ar tiesiogiai paverčiamos generatyvaus AI duomenų apsauga. Savo ruožtu „Confer“ vis dar yra naujas projektas, o „Marlinspike“ tinklaraščio įraše nebuvo pateikta konkrečių detalių, kaip tiksliai seksis bendradarbiavimas su „Meta“ ar kokie konkretūs integracijos tikslai.
Nei Marlinspike, nei Meta nepateikė WIRED papildomų komentarų prieš paskelbimą.
Niujorko universiteto kriptografijos tyrinėtoja Mallory Knodel teigia, kad „žmonėms, naudojantiems pokalbių robotus, naudojančius Meta AI, būtų puiku užtikrinti konfidencialumą ir privatumą mainuose“. Labai svarbu, kad „Meta“ negalėtų pasiekti AI pokalbių duomenų, kad galėtų mokytis, sako Knodel, kuris kartu su kolegomis neseniai paskelbė tyrimą apie tiesioginį šifravimą ir AI. „Tikrai tikiuosi, kad daugiau AI pokalbių robotų imsis šio požiūrio.
Preliminarūs Knodel „Confer“ vertinimai rodo, kad platforma nėra tobula, bet yra svarbus pavyzdys, kaip sukurti privatų AI pokalbių robotą.
