Fiksuotojo dilema: Chris Lehane ir Openai neįmanoma misija

Chrisas Lehane’as yra vienas geriausių versle, dėl to, kad dingsta blogos naujienos. Al Gore’o spaudos sekretorius Clintono metais, „Airbnb“ vyriausiasis krizių vadovas per kiekvieną reguliavimo košmarą iš čia į Briuselį – Lehane žino, kaip suktis. Dabar jam dar dveji metai, kas dar gali būti jo neįmanomas koncertas: kaip „Openai“ pasaulinės politikos viceprezidentas, jo darbas yra įtikinti pasaulį, kad „Openai“ tikrai pasmerkia demokratizuojant dirbtinį intelektą, o kompanija vis labiau elgiasi, gerai, kiekvienas kitas technologijų milžinas, kuris kada nors teigė, kad yra kitoks.

Anksčiau šią savaitę turėjau 20 minučių su juo „Elevate“ konferencijoje Toronte – 20 minučių, kad galėčiau praeiti pokalbio taškus ir į realius prieštaravimus, suvalgydami „Openai“ kruopščiai sukonstruotą įvaizdį. Tai nebuvo lengva ar visiškai sėkminga. Lehane’as tikrai gerai moka savo darbą. Jis mėgstami. Jis skamba pagrįstai. Jis pripažįsta netikrumą. Jis netgi pasakoja apie pabudimą 3 val., Ar tai iš tikrųjų bus naudinga žmonijai.

Tačiau geri ketinimai nereiškia daug, kai jūsų įmonė šaukia kritikų, ekonomiškai prislėgtų vandens ir elektros miestus ir sugrąžina negyvas įžymybes į gyvenimą, kad patvirtintų jūsų dominavimą rinkoje.

Bendrovės „Sora“ problema iš tikrųjų yra visa kita. Vaizdo įrašų generavimo įrankis, paleistas praėjusią savaitę su autorių teisių saugoma medžiaga, atrodytų, iškepta tiesiai į ją. Tai buvo drąsus žingsnis įmonei, kuriai jau buvo iškelta „New York Times“, „Toronto“ žvaigždė ir pusė leidybos pramonės. Verslo ir rinkodaros požiūriu jis taip pat buvo puikus. Tik pakviesti programa pakilo į „App Store“ viršų, nes žmonės sukūrė skaitmenines versijas, „Openai“ generalinis direktorius Sam Altman; Tokie personažai kaip Pikachu, Mario ir Cartmanas iš „South Park“; ir negyvos įžymybės, tokios kaip Tupac Shakur.

Paklaustas, kas paskatino „Openai“ sprendimą išleisti šią naujausią Sora versiją su šiais personažais, Lehane pasiūlė, kad Sora yra „bendrosios paskirties technologija“, tokia kaip elektra ar spaustuvė, demokratizuojanti kūrybiškumą žmonėms, neturintiems talento ar išteklių. Net jis-savarankiškai aprašytas „Creative Zero“-dabar gali kurti vaizdo įrašus, sakė jis scenoje.

Tai, ką jis šoko aplinkui, yra tai, kad „Openai“ iš pradžių „leisk“ teisių turėtojams atsisakyti, kad jų darbas būtų naudojamas mokyti Sora, o tai nėra taip, kaip paprastai veikia autorių teisės. Po to, kai „Openai“ pastebėjo, kad žmonėms labai patiko naudoti autorių teisių saugomus vaizdus, ​​jis „vystėsi“ link pasirinkimo modelio. Tai tikrai nėra kartojanti. Tai išbando, kiek galite atsikratyti. (Beje, nors praėjusią savaitę kino filmų asociacija sukėlė tam tikrą triukšmą apie teisines grėsmes, atrodo, kad „Openai“ pasibaigė gana daug.)

Natūralu, kad padėtis primena leidėjų, kaltinančių „Openai“ mokymą dėl savo darbo, nesutampa, nesidalijant finansiniais grobiais. Kai aš spaudžiau Lehane’ą apie leidėjus, kuriems pasitraukė iš ekonomikos, jis kreipėsi į sąžiningą naudojimą, kad Amerikos teisinė doktrina, kuri turėtų subalansuoti kūrėjų teises nuo visuomenės galimybės naudotis žiniomis. Jis tai pavadino slaptu JAV technologijos dominavimo ginklu.

Gal. Bet aš neseniai apklausiau Al Gore’ą – seną Lehane’o bosą – ir supratau, kad kas nors gali tiesiog paklausti apie tai, užuot perskaitęs mano kūrinį „TechCrunch“. „Tai„ kartojamasis “, – pasakiau,„ bet tai taip pat pakaitalas “.

Lehane’as klausėsi ir numetė savo spyrį. „Mums visiems reikės tai išsiaiškinti“, – sakė jis. „Tai tikrai niūrus ir lengva sėdėti čia ant scenos ir pasakyti, kad turime išsiaiškinti naujus ekonominių pajamų modelius. Bet aš manau, kad mes tai padarysime.“ (Trumpai tariant, mes tai darome taip, kaip mes girdime.)

Tada yra infrastruktūros klausimas, kurio niekas nenori sąžiningai atsakyti. „Openai“ jau eksploatuoja duomenų centro miestelį Abilene, Teksase, ir neseniai paleido žemę didžiuliame duomenų centre Lordstaune, Ohajo valstijoje, bendradarbiaudamas su „Oracle“ ir „SoftBank“. Lehane’as prilygino AI prieinamumui su elektros energijos atsiradimu-sakydamas, kad tie, kurie priėjo prie jos paskutinį kartą, vis dar žaidžia pasivijimą-tačiau „Openai“ „Stargate“ projektas, atrodo, nukreiptas į tas pačias ekonomiškai iššūkius, kaip ir vietas, kad būtų galima įsteigti įrenginius su savo didžiuliu apetitu vandeniui ir elektrai.

Paklaustas mūsų sėdėjimo, ar šios bendruomenės bus naudingos, ar tik paleis sąskaitą, Lehane nuvyko į Gigawatts ir geopolitiką. Jis pažymėjo, kad „Openai“ reikia apie gigavatą energijos per savaitę. Praėjusiais metais Kinija atnešė 450 „Gigawatts“ ir 33 branduolinių įrenginių. Jei demokratijos nori demokratinės AI, jos turi konkuruoti. „Manyje optimistas sako, kad tai modernizuos mūsų energijos sistemas“,-sakė jis, dažydamas pakartotinio pramonizuotos Amerikos paveikslą su transformuotais elektros tinklais.

Tai buvo įkvepianti. Bet tai nebuvo atsakymas apie tai, ar Lordstown ir Abilene žmonės ketina žiūrėti savo komunalinių paslaugų sąskaitų „Spike“, o „Openai“ generuoja Johno F. Kennedy vaizdo įrašus ir „The Notorious Big“ (vaizdo įrašų karta yra pati daug energijos reikalaujanti AI.)

Kuris mane atvedė į nepatogiausį pavyzdį. Zelda Williams praleido dieną prieš mūsų interviu, maldaudamas nepažįstamų žmonių „Instagram“, kad nustotų siųsti savo velionio tėvo Robino Williamso AI sukurtus vaizdo įrašus. „Tu negamini meno“, – rašė ji. „Jūs darote šlykščius, per daug apdorotus karštais šunimis iš žmonių gyvenimo.“

Kai paklausiau apie tai, kaip įmonė suderina tokią intymią žalą su savo misija, Lehane atsakė kalbėdamas apie procesus, įskaitant atsakingą dizainą, testavimo sistemas ir vyriausybės partnerystę. „Šios medžiagos nėra žaidimų knygos, tiesa?”

Lehane’as tam tikrais momentais parodė pažeidžiamumą, sakydamas, kad jis atsibunda 3. Am. „Tai yra didžiulė atsakomybė.“

Aš tikiu juo, ar tos akimirkos buvo skirtos auditorijai. Iš tiesų, aš palikau Torontą galvodamas, kad stebėjau meistriškumo klasę politiniuose pranešimuose – Lehane siūlo neįmanomą adatą, vengdamas klausimų apie įmonės sprendimus, kurie, kaip aš žinau, jis net nesutinka. Tada nutiko penktadienis.

Nathanas Calvinas, advokatas, dirbantis AI politikoje ne pelno siekiančioje advokacijos organizacijoje, užkoduokite AI, atskleidė, kad tuo pat metu kalbėjau su Lehane Toronte, Openai per vakarienę išsiuntė šerifo pavaduotoją į savo namus Vašingtone, DC. Jie norėjo, kad jo asmeninės žinios būtų su Kalifornijos įstatymų leidėjais, kolegijos studentais ir buvusiais „Openai“ darbuotojais.

Kalvinas kaltina „Openai“ bauginimo taktiką, susijusią su nauju AI reglamento kūriniu, Kalifornijos SB 53. Jis sako, kad bendrovė ginkluotų savo teisinę kovą su Elonu Musku kaip pretekstu nukreipti į kritikus, numatant, kad Encode sekreavo Muskas. Tiesą sakant, Calvinas sako, kad kovojo su Openai pasipriešinimu Kalifornijos SB 53, AI saugos įstatymo projektui ir kad pamatęs bendrovę tvirtina, kad ji „stengėsi pagerinti įstatymo projektą“, jis „tiesiogine prasme garsiai juokėsi“. Socialinėje žiniasklaidoje jis vadino Lehane konkrečiai „politinio tamsiųjų menų meistru“.

Vašingtone tai gali būti komplimentas. Tokioje įmonėje kaip „Openai“, kurios misija yra „kurti AI, kuri naudinga visai žmonijai“, tai skamba kaip kaltinamasis aktas.

Daug svarbu tai, kad net paties Openai žmonės prieštarauja tuo, kuo jie tampa.

Kaip praėjusią savaitę pranešė mano kolega Maxas, nemažai dabartinių ir buvusių darbuotojų ėmėsi socialinės žiniasklaidos po to, kai buvo išleistas „Sora 2“, išreikšdamas savo abejones, įskaitant „Boaz Barak“, „Openai“ tyrėją ir Harvardo profesorių, kuris rašė apie „Sora 2“, kad tai yra „techniškai nuostabi, bet per anksti, kad pasveikintume save, vengiant kitų socialinės žiniasklaidos programų ir gilių failų.“.

Penktadienį Joshas Achiamas – „Openai“ misijos suderinimo vadovas – tviteryje apie Calvino kaltinimą tviteryje tviteryje. Reikalaudami savo komentarus sakydami, kad jie yra „galbūt visos mano karjeros rizika“, Achiam rašė apie „Openai“: „Mes negalime daryti dalykų, kurie mus paverčia bauginančia galia, o ne dorybinga. Mes turime pareigą ir misiją visam žmonijai. Baras tęsti šią pareigą yra nepaprastai aukšta“.

Tai. . .BAIMA. „Openai“ vykdomoji valdžia viešai abejoja, ar jo įmonė tampa „bauginančia galia, o ne dorybinga“, nėra lygiaverčiai, kai konkurentas fotografuoja kadrus ar žurnalistas, užduodantis klausimus. Tai yra tas, kuris pasirinko dirbti „Openai“, kuris tiki savo misija ir dabar pripažįsta sąžinės krizę, nepaisant profesinės rizikos.

Tai kristalizacijos momentas. Galite būti geriausia politinė technikos veikla, naršyti neįmanomose situacijose ir vis tiek dirbti įmonėje, kurios veiksmai vis labiau prieštarauja jos nurodytoms vertybėms – prieštaravimams, kurie gali tik sustiprėti kaip „Openai“ lenktynės siekiant dirbtinio bendrojo intelekto.

Mane galvoja, kad tikrasis klausimas yra tai, ar Chrisas Lehane’as gali parduoti Openai misiją. Tai, ar kiti, įskaitant, kritiškai, kiti žmonės, kurie ten dirba, vis dar tuo tiki.