admin 
„OpenAI“ generalinis direktorius Samas Altmanas teigia, kad „OpenAI“ bendradarbiauja su JAV AI saugos institutu – federaline vyriausybine institucija, kurios tikslas – įvertinti ir spręsti AI platformų riziką, sudarydamas susitarimą dėl išankstinės prieigos prie kito pagrindinio generuojamojo AI modelio saugos bandymams.
Pranešime, kurį Altmanas paskelbė X vėlų ketvirtadienio vakarą, buvo neskelbta detalių. Tačiau panašu, kad jis – kartu su panašiu sandoriu su JK AI saugos institucija, sudarytu birželio mėn. – yra skirtas atremti pasakojimą, kad OpenAI neteikė pirmenybės darbui dirbtinio intelekto saugos srityje, siekdama pažangesnių, galingesnių generuojamųjų AI technologijų.
Gegužės mėn. „OpenAI“ veiksmingai išformavo padalinį, sprendžiantį valdymo priemonių kūrimo problemą, kad „superprotingos“ dirbtinio intelekto sistemos neapgautų. Ataskaitose, įskaitant mūsų, buvo pasiūlyta, kad OpenAI atmetė komandos saugos tyrimus ir pradėjo naujus produktus, o tai galiausiai paskatino du komandos vadovus Janą Leike (kuris dabar vadovauja saugos tyrimams AI startuolio Anthropic) ir OpenAI bendradarbiaujant. – įkūrėjas Ilja Sutskeveris (kuris įkūrė savo į saugą orientuotą dirbtinio intelekto įmonę Safe Superintelligence Inc.).
Reaguodama į didėjantį kritikų būrį, OpenAI pareiškė panaikinsianti ribojančias neniekinimo nuostatas, kurios netiesiogiai atgraso nuo informavimo apie pažeidimus, ir sukurs saugos komisiją, taip pat 20 % savo skaičiavimų skirs saugos tyrimams. (Išformuotai saugos komandai už savo darbą buvo pažadėta 20 % OpenAI skaičiavimo, tačiau galiausiai ji to negavo.) Altmanas dar kartą įsipareigojo skirti 20 % ir dar kartą patvirtino, kad OpenAI panaikino naujų ir esamų darbuotojų nežeminimo sąlygas. Geguže.
Tačiau šie žingsniai mažai nuramina kai kuriuos stebėtojus – ypač po to, kai OpenAI įdarbino saugos komisiją, visi įmonės asmenys, įskaitant Altmaną, o pastaruoju metu aukščiausią AI saugos vadovą paskyrė kitai organizacijai.
Penki senatoriai, įskaitant Brianą Schatzą, demokratą iš Havajų, neseniai Altmanui adresuotame laiške iškėlė klausimus apie OpenAI politiką. „OpenAI“ vyriausiasis strategijos pareigūnas Jasonas Kwonas šiandien atsakė į laišką ir parašė „OpenAI“[is] skirta griežtų saugos protokolų įgyvendinimui kiekviename mūsų proceso etape.
OpenAI susitarimo su JAV AI saugos institutu laikas atrodo šiek tiek įtartinas, atsižvelgiant į tai, kad bendrovė anksčiau šią savaitę patvirtino Inovacijų ateities įstatymą – siūlomą Senato įstatymo projektą, kuris leistų Saugos institutui tapti vykdomąja institucija, nustatančia standartus ir gaires. AI modeliams. Šie veiksmai gali būti suvokiami kaip bandymas perimti reguliavimą arba bent jau OpenAI įtaka AI politikos formavimui federaliniu lygmeniu.
Ne veltui Altmanas yra vienas iš JAV Tėvynės saugumo departamento Dirbtinio intelekto saugos ir saugumo tarybos, teikiančios rekomendacijas dėl „saugaus ir patikimo AI kūrimo ir diegimo“ visose JAV ypatingos svarbos infrastruktūros objektuose. O OpenAI šiais metais smarkiai padidino savo išlaidas federaliniam lobizmui, per pirmuosius šešis 2024 m. mėnesius išleisdama 800 000 USD, palyginti su 260 000 USD per visus 2023 m.
JAV dirbtinio intelekto saugos institutas, įsikūręs Prekybos departamento Nacionaliniame standartų ir technologijų institute, konsultuojasi su įmonių konsorciumu, kurį sudaro Anthropic ir didelės technologijų įmonės, tokios kaip Google, Microsoft, Meta, Apple, Amazon ir Nvidia. Pramonės grupei pavesta dirbti su veiksmais, nurodytais prezidento Joe Bideno spalio mėnesio AI vykdomajame įsakyme, įskaitant dirbtinio intelekto sujungimo, pajėgumų įvertinimo, rizikos valdymo, saugos ir saugumo bei sintetinio turinio vandens ženklų gairių kūrimą.
