„Du Kongreso nariai pateikė dvipartinį įstatymo projektą, pagal kurį pažangiausių dirbtinio intelekto sistemų kūrėjai privalėtų išlaikyti galimybę sulėtinti, sustabdyti arba išjungti savo modelius, jei jie kelia rimtą pavojų.
DI „išjungimo jungiklio“ įstatymas suteiktų Vidaus saugumo departamentui įgaliojimus įpareigoti bendroves imtis skubių veiksmų prieš DI sistemas, kurios galėtų padaryti katastrofišką žalą, konsultuojantis su prekybos sekretoriumi ir nacionalinės žvalgybos direktoriumi.
Atstovų Rūmų atstovų Tedo Lieu (demokrato, Kalifornijos) ir Nathanielio Morano (respublikono, Teksaso) įstatymo projektas pateiktas po to, kai „OpenAI“ atskleidė, kad du jos DI modeliai pabėgo iš bandymų aplinkos, prisijungė prie interneto ir užkrėtė DI platformos bendrovės „Hugging Face“ sistemas.
„OpenAI“ šį incidentą apibūdino kaip „precedento neturintį kibernetinį incidentą“, susijusį su pažangiausiomis kibernetinėmis galimybėmis, pranešė „Wall Street Journal“.
Lieu, vienas iš trijų Atstovų Rūmų demokratų komisijos DI klausimais pirmininkų, teigė, kad incidentas parodė, jog DI sistemoms tampant vis labiau pažeidžiamoms, reikia privalomų apsaugos priemonių. autonominis.
„Mes pereiname nuo DI, kuris atsako į klausimus, prie DI, kuris imasi veiksmų“, – sakė Lieu. „Galingos DI sistemos gali veikti nesąžiningai, elgtis itin pavojingai ar net priešintis žmogaus įsikišimui.“
Įstatymo projektas paprastai apimtų DI sistemas, sukurtas naudojant daugiau nei 100 mln. USD vertės skaičiavimo galią, ir įmones, kurios iš šių sistemų gauna bent 500 mln. USD metinių pajamų.
Pažeidimai gali užtraukti civilines baudas iki 2 mln. USD per dieną, o avarinio išjungimo nurodymo nesilaikymas gali užtraukti baudas iki 20 mln. USD per dieną.
Pagal pasiūlymą „apimamos“ įmonės privalėtų palaikyti technines galimybes sustabdyti modelio veikimą, nutraukti vartotojų prieigą, sustabdyti rizikingas paskyras ar naudojimo būdus ir visiškai išjungti sistemą.
Įstatymo projektas taip pat nustatytų laipsnišką reagavimo sistemą, leidžiančią reguliavimo institucijoms taikyti priemones, pagrįstas grėsmės rimtumu, įskaitant modelio galimybių apribojimą, prieigos ribojimą, operacijų sustabdymą arba visišką išjungimą.
Įmonės privalėtų pranešti apie tam tikrus incidentus DHS ir saugoti teismo medicinos įrašus, įskaitant modelių svorius ir telemetriją, kad padėtų tyrėjams. nustatyti, kas įvyko.
„Valdymas reiškia užtikrinimą, kad žmonės išlaikytų galimybę kontroliuoti mūsų kuriamas technologijas“, – sakė Moranas.
Pasiūlymą palaikė dirbtinio intelekto saugos grupės, įskaitant Dirbtinio intelekto politikos tinklą, „Amerikiečiai už atsakingą inovaciją“, „ControlAI“ ir Saugaus dirbtinio intelekto aljansą.
Įstatymo projektas taip pat reaguoja į neseniai kilusį susirūpinimą dėl dirbtinio intelekto sistemų su pažangiomis kibernetinėmis galimybėmis. Lieu paminėjo „Anthropic“ „Mythos 5“ ir „Fable 5“ modelius, kurie, pasak įstatymų leidėjo, turėjo tokias pažangias įsilaužimo galimybes, kad Prekybos departamentas apribojo prieigą, naudodamasis eksporto kontrolės institucijomis.
Įstatymo projektas pateikiamas Kongresui, tuo metu, kai įstatymų leidėjai vis dar nesutaria dėl to, kaip agresyviai federalinė vyriausybė turėtų reguliuoti dirbtinį intelektą.
Trumpo administracija teigė, kad griežti apribojimai gali trukdyti JAV konkurencingumui dirbtinio intelekto srityje, o kai kurie įstatymų leidėjai ir technologijų politikos grupės paragino griežčiau prižiūrėti pasienio modelius.“ [1]
Bloga mintis. Kalbame apie dirbtinį intelektą, kuris juda šviesos greičiu. Jei mūsų atsakas eis per biurus Vašingtone, sėkmės tai išgyvenant.
1. U.S. News: New Bill Would Mandate AI 'Kill Switch'. Bhutani, Anvee. Wall Street Journal, Eastern edition; New York, N.Y.. 24 July 2026: A4.
Komentarų nėra:
Rašyti komentarą