2021 m. spalio 15 d., penktadienis
Kinijoje prasideda algoritmų ir reguliatorių mūšis
"Kinija žengia pirmąjį žingsnį link algoritmų reguliavimo. Kaip šis eksperimentas pavyksta, tai gali padėti Vakarų reguliavimo institucijoms suprasti, ką priimti ir ko vengti, nes jos irgi svarsto apie griežtesnę Vakarų socialinės žiniasklaidos milžinų kontrolę.
Praėjusį mėnesį Kinija pradėjo platų trejų metų planą, skirtą algoritmų naudojimui reguliuoti, ir tapo potencialiu keliu, nes vyriausybės visame pasaulyje stiprina technologijų įmonių reguliavimą.
Remiantis rugpjūčio mėnesį paskelbtu taisyklių projektu, įmonės negali naudoti algoritmų, dėl kurių atsiranda priklausomybė ar per didelės išlaidos. Vartotojai turėtų turėti teisę atsisakyti.
Plačiai pagrįsti reglamentai, jei jie bus įgyvendinti griežtai, gali iš esmės sukrėsti daugelio sėkmingų interneto kompanijų verslo modelius. Pavyzdžiui, „TikTok“ savininkui „ByteDance“ iš esmės pavyko rekomenduoti patrauklų turinį, naudojant galingą algoritmą.
Žinoma, kai kurie Kinijos pasiūlymų aspektai yra aiškiai skirti vyriausybės kontrolei išlaikyti. Interneto stebėtojo gairėse sakoma, kad algoritmai turėtų išlaikyti pagrindines socialistines vertybes ir skatinti teigiamą energiją. Tikėtina, kad demokratinės visuomenės nepriims tokių griežtumų, o dar palankesnės taisyklės greičiausiai susidurs su teismų iššūkiais.
Tačiau stebint, kaip Kinijos veiksmai pavyksta - ir kokia galiausiai yra bet kokia papildoma ekonominė žala - vis tiek gali būti naudinga kitoms šalims, kurios taip pat kovoja su didžiuliu interneto kompanijų poveikiu visuomenei.
Balandį Europos Sąjunga pasiūlė įstatymo projektą, reglamentuojantį dirbtinio intelekto sistemas kai kuriose vadinamosiose didelės rizikos naudojimo srityse, pavyzdžiui, ypatingos svarbos infrastruktūroje, priėmimuose į universitetus ir paskolų paraiškose.
JAV Kongresas neseniai surengė klausymą „Facebook“ po „The Wall Street Journal“ tyrimų dėl socialinės žiniasklaidos bendrovės.
Didžiausia algoritmų reguliavimo problema yra jų neskaidrumas. Tai tampa vis didesne problema, nes daugiau sprendimų priima mašinos, kurios mokosi, sutraiškydamos didžiulį duomenų kiekį. Kartais net algoritmų kūrėjams nėra lengva tiksliai nustatyti priežastį, kodėl dirbtinis intelektas priima konkretų sprendimą. Į mokymo duomenis įtrauktas šališkumas gali nesąmoningai įsiskverbti į sprendimų priėmimo procesą. Be to, algoritmai gali siaurai sutelkti dėmesį į kai kuriuos tikslus, pvz., virusinio turinio stiprinimą, neatsižvelgiant į kitą poveikį. Be to, jie taip pat nuolat atnaujinami, o tai dar labiau apsunkina reguliavimą.
Tai didelis iššūkis net Kinijai, kuri turi galingesnių įrankių. Kita problema yra tai, kaip padaryti algoritminį procesą skaidresnį ir atskaitingesnį, nenaudojant per plataus šepetėlio, kuris galėtų užgniaužti visas naujoves, ypač mažesnėse įmonėse. Tai yra viena didelė rizika, kurią Pekinas prisiima, būdamas pirmuoju iniciatoriumi-jis gali gauti tiesioginės naudos dėl sustiprintos socialinės kontrolės ir mažiau negražių šalutinių poveikių, tokių, kaip priklausomybė ir įsiskolinimas.
Tačiau tai taip pat gali panaikinti galimą naujų „ByteDances“ atsiradimą proceso metu.
Algoritmai tapo neatsiejama kasdienio gyvenimo dalimi. Pagaliau gali tekti pasivyti reglamentams, tačiau kaip tai padaryti, lieka sudėtinga dėlionė. JAV interneto bendrovių investuotojai ir jų priešininkai turėtų atidžiai stebėti Kinijos patirtį “. [1]
1. Algorithms vs. Regulators Battle Kicks Off in China
Algorithms vs. Regulators Battle Kicks Off in China
"China is taking a first step toward regulating algorithms. How that experiment goes could help Western regulators understand what to embrace -- and what to avoid -- as they ponder tougher controls on Western social-media giants too.
China launched a sweeping three-year plan last month to regulate the use of algorithms, setting itself up as a potential trailblazer as governments around the world step up regulation of technology companies.
According to draft rules released in August, companies can't use algorithms that lead to addiction or excessive spending. Users should have the right to opt out.
The broad-based regulations, if implemented strictly, could fundamentally shake up the business models of many successful internet companies. For example ByteDance, the owner of TikTok, has succeeded largely by recommending catchy content with the help of its powerful algorithm.
To be sure, some aspects of China's proposals are clearly targeted at maintaining government control. Guidelines from the internet watchdog say algorithms should uphold core socialist values and promote positive energy. Democratic societies are unlikely to accept such strictures, and even more benign rules would likely face court challenges.
But watching how China's moves work out -- and how large any collateral economic damage ultimately is -- could still prove useful to other countries that also are grappling with the enormous societal impact of internet companies. The European Union proposed a bill in April to regulate artificial intelligence systems in some so-called high-risk uses like critical infrastructure, college admissions and loan applications. In the U.S., Congress recently conducted a hearing on Facebook after The Wall Street Journal's investigations into the social-media company.
The biggest problem for regulating algorithms is how opaque they are. That is becoming a bigger issue as more decisions are made by machines that learn through crunching a vast amount of data. It isn't easy, sometimes even for the creators of algorithms, to pinpoint the exact reason why an artificial intelligence makes a particular decision. Biases embedded in the training data could unknowingly seep into the decision-making process. And algorithms can also narrowly focus on some objectives, like amplifying viral content, without considering other impacts. Moreover, they are also continually updating, which makes regulation even harder.
That is a big challenge even for China, which has more powerful tools at its disposal. Another problem is how to make the algorithmic process more transparent and accountable, without taking too broad a brush that could stifle all innovation, especially at smaller companies. That is one big risk Beijing takes by being a first-mover -- it may reap immediate benefits, as it sees it, in terms of enhanced social control and fewer ugly side effects like addiction and indebtedness.
But it may also quash the potential emergence of any new ByteDances in the process.
Algorithms have become an integral part of everyday life. Regulations may finally need to catch up -- but how to go about it remains a difficult puzzle. Investors in U.S. internet companies, and their detractors, should both be watching China's experience closely.” [1]
1. Algorithms vs. Regulators Battle Kicks Off in China
Wong, Jacky. Wall Street Journal, Eastern edition; New York, N.Y. [New York, N.Y]. 15 Oct 2021: B.12.