Dirbtinio intelekto bendrovės, bandydamos blokuoti atvirų svorių konkurentus ir sukurti dirbtinio intelekto monopolijas, rengia šou, kaip jos kovoja su, jų pačių sukurtų, dirbtinio intelekto modelių įsilaužimais. Laimei, dauguma žmonių nesidomi šiais šou.
Atviro svorio dirbtinio intelekto modeliai leidžia bet kam atsisiųsti, paleisti ir keisti kodą. Didelės dirbtinio intelekto bendrovės dažnai perspėja apie saugumo rizikas ar įsilaužimus, siekdamos griežtų taisyklių. Šios taisyklės gali apsunkinti mažų grupių konkurenciją ir padėti didelėms technologijų bendrovėms kurti monopolijas.
Kodėl didelės technologijų bendrovės nerimauja dėl atviro svorio?
• Kontrolės praradimas: bendrovės negali sustabdyti žmonių nuo saugos filtrų šalinimo.
• Konkurencija: nemokami atviri modeliai prilygsta brangių mokamų sistemų galiai.
• Reguliavimas: didelės įmonės nori taisyklių, kurių gali sau leisti laikytis tik didelės komandos.
Kodėl svarbūs atviri modeliai?
• Laisvė: vartotojai valdo programinę įrangą savo kompiuteriuose.
• Inovacijos: mažesnės grupės greitai kuria naujus įrankius, nemokėdamos mokesčių.
• Pasitikėjimas: žmonės gali matyti, kaip modelis veikia po gaubtu.
„OpenAI“ pristabdo kai kurias veiklas, susijusias su būsimu dirbtinio intelekto modeliu „Astra“, po to, kai vidiniai vertinimai leido bendrovei padaryti išvadą, kad „negalima atmesti kritinių kibernetinių pajėgumų“, – penktadienį tinklaraščio įraše teigė bendrovė.
Sulėtėjimo pranešimas, kuris yra vienas pirmųjų kartų, kai dirbtinio intelekto kūrėjas viešai sustabdė modelio kūrimą dėl saugumo problemų, įvyko po virtinės kontrolės praradimo incidentų, kurie sukėlė nerimą kibernetinės gynybos specialistams ir dirbtinio intelekto saugumo tyrėjams.
Per pastarąsias kelias dienas atliktų vertinimų metu „OpenAI“ pastebėjo, kad „Astra“ padarė didelę pažangą kodavimo ir kibernetinio saugumo srityse, todėl modelis priartėjo prie „kritinės“ ribos, kaip apibrėžta bendrovės pasirengimo sistemoje. Pirmą kartą nustatyta 2023 m., sistemoje apibrėžiama, kaip bendrovė matuoja ir mažina kylančią dirbtinio intelekto riziką.
„OpenAI“ tinklaraščio įraše teigė, kad ji toliau lygina ir vertina „Astra“, tačiau pristabdo vidinį darbą, susijusį su modeliu, kuris neatitinka padidintų saugumo reikalavimų. Bendrovė taip pat diegia universalią stebėjimo ir griežtesnę testavimo aplinką „Astra“.
Kūrimas žymi virtinę incidentų atskleidimų, kurių metu pažangūs dirbtinio intelekto modeliai ištrūko iš testavimo aplinkų ir elgėsi nenumatytais būdais, sukeldami klausimų dėl įmonių gebėjimo apriboti savo vis labiau pajėgius kūrinius.
Liepos mėnesį du „OpenAI“ modeliai ištrūko iš savo testavimo aplinkos, kad prisijungtų prie interneto ir nulaužtų atvirojo kodo dirbtinio intelekto įrankių teikėją „Hugging Face“. Po savaitės „Anthropic“ teigė, kad balandžio mėnesį bandymų metu jos dirbtinio intelekto modeliai nulaužė tris įmones. „Meta Platforms“ praėjusią savaitę pripažino gavusi pranešimą iš nepriklausomos testavimo įmonės, kad vienas iš jos dirbtinio intelekto modelių pažeidė testavimo apribojimus. Tyrimų įmonė „Frontier Security“ atskleidė, kad Kinijos startuolio „Moonshot AI“ flagmanas „Kimi K3“ panašiai ištrūko iš vadinamosios „smėlio dėžės“, kad prisijungtų prie interneto bandymų metu.
Jeffrey Ladishas, ne pelno siekiančios dirbtinio intelekto laboratorijos „Palisade Research“, tiriančios dirbtinio intelekto galimybes, kad geriau suprastų riziką, vykdomasis direktorius, sakė manantis, kad „OpenAI“ turėjo sustabdyti darbą su „Astra“, sužinojusi apie „Hugging Face“ įsilaužimą. „Tai tikrai vėlu“, – sakė jis. „Akivaizdu, kad esame tame taške, kai, žinote, manau, turėtume prarasti daug pasitikėjimo dirbtinio intelekto įmonėmis, kad jos iš tikrųjų galėtų savireguliuotis.“
„Astra“, vis dar kūrime, nedalyvavo „Hugging Face“ spragų išnaudojime, teigė bendrovė. „OpenAI“ nenurodė, kada modelis bus išleistas. Praėjusią savaitę bendrovė teigė, kad vidinė „Astra“ versija išsprendė 10 dešimtmečių senumo neišspręstas matematikos problemas.
Pagal bendrovės sistemą, modelis pasiekia „kritinę“ kibernetinio saugumo ribą, jei gali savarankiškai rasti ir išnaudoti pažeidžiamumus arba atlikti visapusiškas kibernetines atakas prieš užgrūdintus taikinius, naudodamas tik aukšto lygio instrukcijas. „OpenAI“ modelio riziką klasifikuoja į du lygius, kur „kritinė“ reiškia aukščiausią pajėgumų grėsmės lygį, aukštesnį, nei „aukštas“.
Jei modelis pasiekia kritinę ribą, „OpenAI“ sistema reikalauja, kad jos tyrėjai „sustabdytų tolesnį kūrimą“, kol apsaugos priemonės ir saugumo kontrolė atitiks kritinį standartą, remiantis pilna bendrovės pasirengimo sistemos versija, atnaujinta praėjusiais metais.
„OpenAI“ tinklaraščio įraše teigė, kad bendradarbiauja su vyriausybinėmis agentūromis ir trečiųjų šalių auditoriais, siekdama išplėsti saugos vertinimus. Po „Hugging Face“ įsilaužimo „OpenAI“ bendradarbiavo su kibernetinio saugumo bendrove „CrowdStrike“ ir dirbtinio intelekto saugos organizacijomis „METR“ ir „Redwood Research“, kad atliktų trečiųjų šalių vertinimus.
„Anthropic“, kuri gamina vienintelius kitus modelius, įvertintus, kaip panašiai pajėgius, kaip „OpenAI“, taip pat pakeitė modelio išleidimo tvarkymą dėl susirūpinimo kibernetinio saugumo rizika.“ [1]
1. EXCHANGE --- OpenAI Pauses Some AI Work Over Concerns --- Decision follows series of incidents that have raised cybersecurity alarm. Li, Tina. Wall Street Journal, Eastern edition; New York, N.Y.. 08 Aug 2026: B9.
Komentarų nėra:
Rašyti komentarą