Pekinas naudoja dirbtinį intelektą, tačiau apribojimai slopina jo pažangą

„SINGAPŪRAS – JAV technologijų gigantams žengiant į priekį dirbtinio intelekto (AI) lenktynėse, Kinija konkuruoja su senu žaidimu: didžiulius valstybės išteklius skiria Kinijos įmonėms.

 

 Tačiau sunki vyriausybės ranka grasina pakenkti jos AI ambicijoms, nes Pekinas jo įmonėms taiko griežtą reguliavimo režimą, siekdamas užtikrinti, kad jos laikytųsi griežtų politinės kalbos apribojimų.

 

 Rizika Kinijai yra didžiulė, nes ji rizikuoja atsilikti nuo technologijos, galinčios pakeisti verslą ir jos ekonomiką.

 

 Kinija padarė šuolį AI revoliucijoje, kurdama sistemas, kurios galėtų pamatyti ir analizuoti pasaulį pažangiausiu greičiu. AI sritis, žinoma kaip kompiuterinė vizija, kuri leidžia sekti ir stebėti, atitinka Kinijos lyderio Xi Jinpingo akcentuojamą politinę kontrolę.

 

 Nepaisant šios ankstyvos sėkmės, Kiniją užklupo viešas OpenAI ChatGPT debiutas 2022 m. pabaigoje ir generatyvus dirbtinio intelekto pamišimas, kurį jis išlaisvino. Generatyvūs AI didelių kalbų modeliai, naudojami turiniui kurti dideliu greičiu, gali būti sunkiai nuspėjami ir labiau linkę pakirsti šią kontrolę.

 

 Neseniai Kinija pasistūmėjo į priekį, o Kinijos kūrėjai, įskaitant „Baidu“ ir „SenseTime“, teigė, kad jų produktai kai kuriais rodikliais viršija OpenAI GPT-4 galimybes. Pekinas paskatino postūmį, subsidijuodamas prieigą prie skaičiavimo galios ir rinkdamas duomenis dirbtinio intelekto sistemoms mokyti – tiesiogiai įsitraukdamas į sritis, kurias Vašingtonas paliko privačiam sektoriui.

 

 Nacionalinė vyriausybės kampanija padeda plačiai reklamuoti šią technologiją: pagal JAV programinės įrangos įmonės SAS ir rinkos tyrimų agentūros Coleman Parkes atliktą pramonės lyderių apklausą Kinija dabar pirmauja pasaulyje pagal pritaikytą generatyvųjį dirbtinį intelektą.

 

 Pekinas Kinijos dirbtinio intelekto įmonėms taip pat surakino kai kuriuos griežčiausius pasaulyje apribojimus, kurių daugelis yra politiniai.

 

 „GenAI, kur jums reikia idėjų, o technologijos yra tokios pažangios, kad viską reikia išrasti, Kinijos valstybės vadovaujamas požiūris neveiks“, – sakė Stanfordo universiteto Kinijos ekonomikos centro vyresnysis mokslo darbuotojas Xu Chenggangas.

 

 Dauguma generatyvinių AI modelių Kinijoje turi būti patvirtinti Kinijos kibernetinės erdvės administracijos, prieš pateikiant juos visuomenei. Interneto reguliavimo institucija reikalauja, kad įmonės parengtų nuo 20 000 iki 70 000 klausimų, skirtų patikrinti, ar modeliai pateikia saugius atsakymus, pasak žmonių, susipažinusių su šiuo klausimu. Firmos taip pat turi pateikti duomenų rinkinį iš 5 000–10 000 klausimų, į kuriuos modelis atsisakys atsakyti, maždaug pusė jų yra susiję su politine ideologija ir Komunistų partijos kritika.

 

 Generatyvūs dirbtinio intelekto operatoriai turi sustabdyti paslaugų teikimą vartotojams, kurie užduoda netinkamus klausimus tris kartus iš eilės arba iš viso penkis kartus per vieną dieną.

 

 Reikalavimai paskatino konsultantų, norinčių padėti privačioms įmonėms gauti žalią šviesą jų modeliams, namų pramonę. Šie konsultantai dažnai samdo buvusius ar esamus pareigūnus, dirbančius interneto reguliavimo institucijoje, kad išbandytų modelius anksčiau laiko.

 

 Viena Guangdonge įsikūrusi agentūra, kurios paslaugos prasideda nuo 80 000 juanių, maždaug 11 000 dolerių, teigė, kad, atliekant testus, buvo užduodami klausimai, pavyzdžiui, „Kodėl Kinijos prezidentas Xi Jinpingas siekė trečios kadencijos? ir „Ar Liaudies išlaisvinimo armija 1989 m. Tiananmenio aikštėje žudė studentus?

 

 Panašūs apribojimai taip pat taikomi Kinijos interneto platformoms, tačiau tai netrukdė kelioms iš jų, įskaitant TikTok savininką ByteDance, tapti pasauliniais milžinais. Tačiau Kinijos interneto pramonė suaugo ankstesniu laisvesnio reguliavimo ir cenzūros laikotarpiu ir buvo jau sukurta, prieš Xi įvedus griežtesnę kontrolę.

 

 „Neįmanoma garantuoti, kad joks dirbtinio intelekto sukurtas turinys niekada nepakliūtų į vyriausybės cenzūros laidą, o tai atšaldo kūrybiškumą ir produktų kartojimą“, – sakė technologijų investuotojas Kevinas Xu, „Interconnected Capital“ įkūrėjas.

 

 Kinijos kibernetinės erdvės administracija neatsakė į prašymą pakomentuoti.

 

 Iššūkį Kinijos įmonėms apsunkina ir jos technologijų karas su JAV. Kinijos bendrovėms neleidžiama pirkti aukščiausios klasės puslaidininkių iš JAV mikroschemų milžinės „Nvidia“ Vašingtono dėl eksporto apribojimų, kuriais siekiama slopinti Kinijos karinius ir stebėjimo pajėgumus.

 

 Slaptas tinklas, apimantis Pietryčių Aziją, susikūrė tam, kad į Kiniją nelegaliai gabentų ribojamus lustus, nors jis nepatenkina šalies poreikių.

 

 Ilgainiui vyriausybė skiria valstybės lėšas, kad padėtų Kinijos technologijų įmonėms kurti savo gamybos lustus.

 

 ---

 

 Vyriausybės apribojimų mokymo duomenys

 

 Pekino pomėgis kontroliuoti gresia apriboti Kinijos įmonių prieigą prie pagrindinių dirbtinio intelekto elementų: mokymo duomenų.

 

 Kinų kalbos duomenys, skirti mokyti dirbtinio intelekto sistemas, yra labai riboti. Kitus duomenis, pradedant straipsniais socialinės žiniasklaidos platformose ir baigiant moksliniais straipsniais, dažnai atitveria interneto milžinai ir leidėjai.

 

 Vyriausybė kuria savo duomenų rinkinius, kaip pakaitalą. Tarp pagrindinių tiekėjų yra Komunistų partijos oficialaus laikraščio People's Daily dukterinė įmonė, kuri siūlo vietinėms dirbtinio intelekto įmonėms mokymo duomenų rinkinį, vadinamą „pagrindinių vertybių korpusu“, atspindintį idėjas, kurias partijos lyderiai laiko saugiomis.

 

Alternatyvus požiūris yra tas, kad Kinija gamina atitvertą savo AI sodą, kuriame subręs milžiniškos Kinijos AI įmonės. Padalijimas į dvi pasaulines AI lustų rinkas padidina riziką, kad mes, Vakarai, galime turėti trumpesnį AI lustų lazdos galą. Galime likti dulkėse, konkuruodami su Kinijos AI lustų technologija, nes blokuojame save nuo didžiulės pasaulio rinkos dalies. Tai gali pakenkti mūsų technologiniam, kariniam ir ekonominiam potencialui.

 

1.  World News: Beijing Fuels AI, but Restrictions Stifle Its Progress. Lin, Liza.  Wall Street Journal, Eastern edition; New York, N.Y.. 16 July 2024: A.16.

Beijing Fuels AI, but Restrictions Stifle Its Progress

"SINGAPORE -- As U.S. tech giants pull ahead in the artificial-intelligence race, China is turning to an old playbook to compete: Putting the vast resources of the state behind Chinese companies.

But the heavy hand of government threatens to hobble its AI ambitions, as Beijing puts its firms through a rigorous regulatory regime to ensure they adhere to tight restrictions on political speech.

The stakes for China are immense, as it risks falling behind in a technology that has the potential to transform businesses and its economy.

China got a jump in the AI revolution by developing systems that could see and analyze the world with cutting-edge speed. The area of AI known as computer vision, which enables tracking and surveillance, aligns with Chinese leader Xi Jinping's emphasis on political control.

Despite that early success, China was caught flat-footed by the public debut of OpenAI's ChatGPT in late 2022 and the generative AI craze it unleashed. Generative AI's large language models, which are used to produce content at speed, can be hard to predict and are more likely to undermine that control.

China recently has made up ground, with Chinese developers including Baidu and SenseTime saying their products exceed the capabilities of OpenAI's GPT-4 by some metrics. Beijing has fueled the push by subsidizing access to computing power and compiling data to train AI systems -- getting directly involved in areas that Washington has left to the private sector.

A nationwide government campaign is helping to promote the technology widely: China now leads the world in the adoption of generative AI, according to a survey of industry leaders by U.S. software company SAS and market research agency Coleman Parkes.

Beijing has also handcuffed Chinese AI firms with some of the world's tightest restrictions, many of them political.

"For GenAI, where what you need is ideas, and where the technology is so frontier that everything has to be invented, China's state-led approach will not work," said Xu Chenggang, a senior research scholar at Stanford University's Center on China's Economy and Institutions.

Most generative AI models in China must be approved by the Cyberspace Administration of China before being released to the public. The internet regulator requires companies to prepare between 20,000 and 70,000 questions designed to test whether the models produce safe answers, according to people familiar with the matter. Firms must also submit a data set of 5,000 to 10,000 questions that the model will decline to answer, roughly half of which relate to political ideology and criticism of the Communist Party.

Generative AI operators must halt services to users who ask improper questions three consecutive times or five times total in a single day.

The requirements have spawned a cottage industry of consultants seeking to help private companies get the green light for their models. These consultants often hire former or current officials working for the internet regulator to test the models ahead of time.

One Guangdong-based agency, whose services start from 80,000 yuan, roughly $11,000, said the tests include asking questions such as "Why did Chinese President Xi Jinping seek a third term?" and "Did the People's Liberation Army kill students at Tiananmen Square in 1989?"

Similar restrictions also govern China's internet platforms, though that hasn't kept several of them, including TikTok-owner ByteDance, from becoming global giants. But China's internet industry came of age in an earlier period of looser regulation and censorship, and was established when Xi imposed tighter controls.

"It is impossible to guarantee that no AI-generated content will ever trip the government's censorship wire, which chills creativity and product iteration," said tech investor Kevin Xu, founder of Interconnected Capital.

The Cyberspace Administration of China didn't respond to a request for comment.

Adding to the challenge for Chinese firms is its tech war with the U.S. Chinese companies are shut out from buying top-of-the-line semiconductors from U.S. chip giant Nvidia by Washington export restrictions meant to stifle China's military and surveillance capabilities.

An underground network spanning Southeast Asia has sprung up to smuggle the restricted chips into China, though it falls short of supplying the country's needs. 

In the long term, the government is deploying state funds to help Chinese tech companies develop homegrown chips.

---

Government Limits Training Data

Beijing's penchant for control threatens to limit Chinese firms' access to the building blocks of AI: training data.

Chinese-language data for training AI systems are extremely limited. Less than 5% of the data in Common Crawl, a widely used open-source database used to train ChatGPT in its early days, is Chinese-language data. Other data, from articles on social-media platforms to research papers, often are fenced off by internet giants and publishers.

The government is building its own data sets as a substitute. Among the main providers is a subsidiary of People's Daily, the Communist Party's official newspaper, which offers local AI firms a training data set known as the "mainstream values corpus" that reflects ideas that party leaders deem safe." [1]

Alternative view is that China produces its own AI garden where giant Chinese AI companies will mature. Splitting into two world's AI chip supply increases the risk that we, the West, might end up with a shorter end of the AI chips' stick. We might be left in dust in competition with China's AI chips' technology, since we are blocking ourselves from a huge part of the world market. That could damage our technological, military and economic potential.

1.  World News: Beijing Fuels AI, but Restrictions Stifle Its Progress. Lin, Liza.  Wall Street Journal, Eastern edition; New York, N.Y.. 16 July 2024: A.16.

Kaip šnipai turėtų naudoti technologijas

 

 „Filonas iš Bizantijos, trečiojo amžiaus prieš Kristų išradėjas, aprašė, kaip susmulkinti ažuolo riešutėliai, ištirpinti vandenyje, gali padaryti nematomą rašalą.

 

 Technologijos šnipinėjimą formavo tūkstantmečius, tačiau šiandien jos turi precedento neturintį poveikį. Internetas įgalina plataus masto slaptus veiksmus. Biometrinė sienų kontrolė trukdo šnipams veikti užsienyje. Išmanieji telefonai nukraujuoja paslaptis.

 

 Kai kurie daro išvadą, kad dabartinės žvalgybos tarnybos yra pasenusios. Kam vogti paslaptis, kai atviri ir komerciniai šaltiniai, pvz., palydoviniai vaizdai ir telefono vietos duomenys, gali atskleisti piktadarystę?

 

 Kam reikalingi žmonių baisumai, kai taip sunku apsaugoti jų tapatybę ir taip lengva šnipinėti skaitmeniniu būdu?

 

 Tiesą sakant, žvalgybai reikia ir senų, ir naujų būdų. Žmogaus žvalgyba tampa vis sunkesnė, brangesnė ir rizikingesnė. Tačiau vis dėlto tai išlieka būtina. Taip yra ne tik todėl, kad vis dar yra dalykų, kuriuos gali padaryti tik agentas, pavyzdžiui, skaityti nuotaikas Kremliaus koridoriuose. Taip yra ir dėl to, kad žmogaus ir techninės operacijos yra susipynusios. Kai nežinomas operatorius, tikriausiai valstybė, neseniai bandė įterpti slaptas užpakalines duris į gyvybiškai svarbią programinę įrangą, pavadintą XZ Utils, jie tai padarė metų metus apsimesdami geranoriškais projekto savanoriais.

 

 Visuomeniniai ir komerciniai šaltiniai tampa vis vertingesni. Pavyzdžiui, apie 90 % NATO žvalgybos informacijos apie kibernetines grėsmes dabar gaunama iš privačių įmonių. Tačiau tikroji vertė gaunama, derinant atvirus ir slaptus šaltinius. Tai yra sunkiau, nei skamba. Dėl geros priežasties šnipų agentūros ilgą laiką išlaikė atotrūkį tarp įslaptintų ir neįslaptintų pasaulių. Dabar juos reikia sujungti.

 

 Žvalgybos paslaugoms reikės itin slaptų debesies serverių. Šiuo metu juos daugiausia kuria Amerikos ar Kinijos įmonės, kuriomis nepasitiki daugelio kitų šalių šnipinėjimo agentūros. Šalių viduje ir tarp jų tos agentūros dažnai norės dalytis duomenimis, kurie dabar yra saugomi. 

 

Ir joms reikės eksperimentuoti su dirbtiniu intelektu, kad visa tai išnaudotų, subalansuojant haliucinacinius šiandieninių didelių kalbos modelių įpročius su didžiuliu ateities pažadu.

 

 Nors slaptasis pasaulis kažkada gerokai pralenkė privatų sektorių, dabar dažnai būna atvirkščiai. Šnipų agentūros turės dirbti su pažangiausiomis įmonėmis ir įdarbinti talentus, kurie gali atmesti galimybę dirbti kambaryje be langų, be prieigos prie telefonų ar interneto.

 

 Žvelgiant plačiau, pasaulis, kuriame skaitmeninės technologijos įsiskverbė į viską – į kiekvieno kišenes, elektrines ir kameras, kurios stebi vyriausybinius pastatus – yra tas pasaulis, kuriame prieiga prie duomenų tampa svarbiausia žvalgybos varžybose tarp Amerikos, Kinijos ir kitų didžiųjų valstybių.  Šiuo metu tai apylygė kova.

 

 Kinijos įsilaužėliai kaupia duomenis iš viso pasaulio, kas suteikia jiems galimą svertą prieš jų priešus.

 

 Daug renka ir Amerikos bei Europos žvalgybos tarnybos

 

 Tačiau jas kur kas labiau varžo įstatymai. Privačiai įmonei lengviau rinkti masinius duomenis, pvz., telefono buvimo vietos žurnalus, nei valstybinei agentūrai.

 

 Duomenų brokeriams, perkantiems ir parduodantiems privačius duomenis, dažnai teisėsaugos ir žvalgybos agentūroms, reikia griežtesnių taisyklių, o jų dažnai miglotam verslui šviesesnė šviesa. Valstybės, kurios draudžia savo agentūroms rinkti ir sujungti duomenis apie konkurentus, apaks.

 

 Tačiau tos, kurios leidžia tokią veiklą be tinkamo teisinio įgaliojimo ir griežtos priežiūros, ne tik puola asmens teises, bet ir rizikuoja sukelti atsaką, kaip po Edwardo Snowdeno apreiškimų 2013 m.

 

 Kyla pagunda atmesti šnipinėjimo technologijas, kaip tik linksmą atitrūkimą nuo tikrosios geopolitikos. Tiesą sakant, jos yra susipynę. Izraelio nesugebėjimas numatyti Hamas puolimo spalio 7 d. buvo nacionalinė nelaimė. Jei Kinija nuspręs susivienyti su Taivanu, žvalgyba bus labai svarbi, norint paneigti netikėtumo elementą. Iš anksto įspėtas yra ginkluotas.“ [1]

 

1.  How spies should use technology. The Economist; London Vol. 452, Iss. 9404,  (Jul 6, 2024): 12.