Sekėjai

Ieškoti šiame dienoraštyje

2023 m. lapkričio 30 d., ketvirtadienis

Dirbtiniam intelektui reikia atvirojo kodo modelių, kad pasiektų jo potencialą

    "Johanneso Gutenbergo spausdinimo mašina padarė revoliuciją XV amžiuje, suteikdama galimybę idėjoms keliauti po pasaulį anksčiau neįsivaizduojamu greičiu ir atnešdama didžiulę naudą žmonijai. Gutenbergas stengėsi išlaikyti savo techniką paslaptyje, tačiau nepatenkintas buvęs investuotojas Johanas Fustas , netrukus pakartojo joo įrenginį. Fustas išleido savo spaudą ir nuviliojo Gutenbergo geriausią techniką Peterį Schoefferį.

 

     Mums, likusiems, pasisekė, kad jis tai padarė. Įsivaizduokite, jei spaustuvė būtų laikoma paslaptyje ir ją kontroliuotų viena įmonė, arba būtų uždaryta vienoje šalyje. Šimtmečius trukusi žmonijos pažanga, galbūt, niekada nebūtų įvykusi. Tai netobula analogija, tačiau ji yra naudingas būdas suformuluoti dabartines diskusijas apie dirbtinį intelektą (AI).

 

     Generatyvusis AI, kuris yra dirbtinis intelektas, galintis sukurti tekstą, vaizdus ir kitas laikmenas, pakeis XXI amžiaus gyvenimą. Tai bus daug daugiau trikdžių, nei spaustuvės. Generatyvas AI gebėjimas suvirškinti beveik visas žmogaus žinias, mokant didelių kalbų modelių algoritmus su šimtais milijardų parametrų, leidžia rašyti, piešti, samprotauti ir spręsti problemas. Šios galingos naujos priemonės sustiprins žinių darbuotojų galią.

 

     Spaustuvė paspartino žinių sklaidą. Generatyvusis AI paspartins žinių kūrimą. Jis gali suprasti, paaiškinti ir kurti idėjas bei turinį žmonėms nesuvokiamu greičiu. Generatyvus dirbtinis intelektas padidins produktyvumą ir sukurs neapsakomą ekonominę vertę. Tai padės verslininkams užsidirbti pinigų ir, dar svarbiau, pakeisti gyvenimą. Galiu pasakyti, kad keturis dešimtmečius dirbu su dirbtiniu intelektu – iš pradžių, kaip akademikas, vėliau, dirbdamas su „Microsoft“ ir „Google“, o vėliau – kaip rizikos kapitalistas – kad generuojantis AI išlaisvins didžiausią visų laikų technologijų revoliuciją.

 

     Tačiau mes negalime šios valdžios užrakinti tik privilegijuotajam elitui. Atsižvelgiant į artėjančius didžiulius technologinius paradigmos pokyčius, visų sluoksnių žmonės turės suprasti ir turėti prieigą prie technologijos. Labai svarbu, kad niekas neliktų nuošalyje.

 

     Štai kodėl nusprendžiau paleisti 01.AI – startuolį, kuris kuria pagrindinius didelius kalbų modelius, kurie yra generatyvaus AI blokai. Mes pristatėme savo pirmąjį kalbos modelį Yi-34B su 34 milijardais parametrų. Kiekvienas gali naudotis, tobulinti ir pritaikyti mūsų modelį ir jo šaltinio kodą, kuris pasiekiamas GitHub.

 

      Yi-34B modelis yra patogaus dydžio, todėl jis idealiai tinka mokslininkams, verslininkams ir mažesnėms įmonėms, o OpenAI ir Google išlaikė savo didesnius ir geresnius modelius nuosavybės teise. Aš nesakau, kad kiekvienas modelis turėtų būti atviras. Tačiau tikiuosi, kad kiekviena technologijų įmonė prisidės prie atvirojo kodo bendruomenės, net jei ji laikysis savo verslo ir pelno tikslų.

 

     Technologijų milžinas galėtų naudoti mažesnį modelį atvirojo kodo šaltiniu, o didesnius modelius palikti nuosavybės teise. Tai yra 01.AI ketinimas. Dėl šio atvirumo modeliai taps prieinami mokslininkams, pedagogams, studentams, verslininkams, mėgėjams ir ne pelno organizacijoms. Šis įtraukimas yra labai svarbus, nes daugelis bendruomenių negali sau leisti naudoti brangesnių patentuotų modelių. Atvirumo suvokimas demokratizuoja generatyvųjį AI.

 

     Sustabdžius generatyvaus AI plitimą, išlaikant jį nuosavybės teise, kai kurios grupės paliekamos marginalizuotos, nes sėkmingos įmonės įdeda savo įrankius į juodąsias dėžes. Geriausi generaciniai AI modeliai dažniausiai buvo mokomi, remiantis Amerikos ir Anglijos duomenimis. Nors funkciškai jie yra daugiakalbiai, jie prastai veikia, kalbose, kurios internete yra mažiau žinomos. Naudotojams iš mažesnių ar skurdesnių šalių suteikiama daug prastesnė patirtis. Jie neturi išteklių generuoti ir rinkti milžiniškas duomenų saugyklas jų kalbomis arba technologinių žinių, kad galėtų kurti aukštos kokybės gimtosios kalbos modelius. Generatyvi AI revoliucija palieka juos už nugaros.

 

     Dominuojančiuose patentuotuose modeliuose taip pat yra Amerikos šališkumo. Dėl to, kaip jie buvo mokomi, šie modeliai atspindi JAV kultūrą ir vertybes, kurios gali netikti kitose vietose. Tai, ką viena šalis laiko norma, kitoje gali būti įžeidžianti ar net neteisėta. Tarp JAV ir Europos yra didžiuliai skirtumai, nekalbant jau, tarp Vakarų ir likusio pasaulio. Universalus modelis niekaip negali atitikti kiekvienos šalies poreikių. Kiekviena šalis turėtų turėti aukštos kokybės modelį, pritaikytą jos kultūrai, vertybėms, religijai ir kalbai.

 

     Kai kurie žiniasklaidos atstovai apibūdino 01.AI kaip Kinijos atsakymą OpenAI, ChatGPT kūrėjui. Mes matome save, kaip „atviresnį“ atsakymą į OpenAI. Mūsų nuomone, pagrindinė konkurencija yra ne Kinija prieš JAV, o atviros ir uždaros sistemos. Net ir turėdami nedidelius išteklius, esame pasiryžę kurti aukštos kokybės modelius daugiau kalbų, kad ši technologija būtų prieinama daugiau žmonių visame pasaulyje. Mes nenorime, kad dirbtinis intelektas ką nors paliktų.

 

     Kaip technologijų optimistas, Esu tvirtai įsitikinęs, kad dirbtinis intelektas pakels žmonių rasę, sustiprins mūsų žmogiškumą, o ne ją pakeis. Tačiau tai gali būti pasiekta tik tuomet, jei išliksime ištikimi atvirumo dorybei.

     ---

     Ponas Lee yra 01.AI generalinis direktorius ir Sinovation Ventures pirmininkas.“ [1]

 

1. AI Needs Open-Source Models to Reach Its Potential. Kai-Fu, Lee.  Wall Street Journal, Eastern edition; New York, N.Y.. 30 Nov 2023: A.17.

AI Needs Open-Source Models to Reach Its Potential


"Johannes Gutenberg's printing press revolutionized life in the 15th century, making it possible for ideas to travel around the world at previously unimaginable speeds and creating huge gains for mankind. Gutenberg tried to keep his technique a secret, but a disgruntled former investor, Johann Fust, soon replicated his device. Fust launched his own press and poached Gutenberg's top techie, Peter Schoeffer.

It was lucky for the rest of us that he did. Imagine if the printing press had been kept secret and controlled by one company, or confined within one nation. Centuries of human progress might never have happened. It's an imperfect analogy, but it offers a useful way to frame the current debate around artificial intelligence.

Generative AI, which is artificial intelligence capable of producing text, images and other media, will revolutionize life in the 21st century. It will be much more disruptive than the printing press. Generative AI's ability to digest nearly the entire breadth of human knowledge by training large-language-model algorithms with hundreds of billions of parameters allows it to write, draw, reason and solve problems. These potent new tools will amplify the power of knowledge workers.

The printing press accelerated the spread of knowledge. Generative AI will accelerate the creation of knowledge. It can understand, explain and create ideas and content at speeds unfathomable by humans. Generative AI will improve productivity and generate untold economic value. It will help entrepreneurs make fortunes and, more important, transform lives. I can say from my four decades of involvement in AI -- first as an academic, then working with Microsoft and Google, and later as a venture capitalist -- that generative AI will unleash the greatest technology revolution ever.

But we can't keep this power locked away for only the privileged elite. Given the massive technological paradigm shifts that are coming, it will be necessary for people from all backgrounds to understand and have access to the technology. It is crucial that no one be left out.

This is why I decided to launch 01.AI, a startup building foundational large language models, which are the building blocks of generative AI. We launched our first language model, Yi-34B, with 34 billion parameters. Anyone can engage with, enhance and tailor our model and its source code, which is available on GitHub.

While the Yi-34B model's manageable size makes it ideal for researchers, entrepreneurs and smaller companies, OpenAI and Google have kept their larger and better models proprietary. I am not suggesting that every model should be open. But I hope every technology company will embrace and contribute to the open-source community, even as they maintain their business and profit goals.

A technology giant could open-source a smaller model while keeping larger models proprietary. This is 01.AI's intention. This openness will make models accessible to researchers, educators, students, entrepreneurs, hobbyists and nonprofits. This inclusiveness is critical, because many communities can't afford to use the more expensive proprietary models. Embracing openness democratizes generative AI.

Thwarting the spread of generative AI by keeping it proprietary leaves some groups marginalized as successful companies put their tools in black boxes. The best generative AI models were mostly trained on American and English data. While they are functionally multilingual, they perform poorly when using languages that are less prominent on the internet. Users from smaller or poorer nations are provided a much inferior experience. They don't have the resources to generate and collect giant repositories of data in their languages or the technological know-how to develop high-quality native language models. The generative AI revolution is leaving them behind.

There's also an American bias in the dominant proprietary models. Because of how they were trained, these models reflect the culture and values of the U.S., which may not suit other places. What one country sees as the norm may be offensive or even illegal in another. There are huge differences between the U.S. and Europe, never mind between the West and the rest of the world. A universal model can't possibly fit every country's needs. Each country should have a high-quality model that is tailored to its culture, values, religion and language.

Some in the media have described 01.AI as China's answer to OpenAI, the developer behind ChatGPT. We see ourselves as the more "open" answer to OpenAI. In our view, the key competition isn't China vs. the U.S. Rather, it's open vs. closed systems. Even with only modest resources, we are determined to develop high-quality models for more languages to make this technology accessible to more people globally. We don't want AI to leave anyone behind.

As a technology optimist, I firmly believe that artificial intelligence will advance the human race, amplifying our humanity rather than replacing it. But that can be accomplished only if we remain committed to the virtue of openness.

---

Mr. Lee is CEO of 01.AI and chairman of Sinovation Ventures." [1]

1. AI Needs Open-Source Models to Reach Its Potential. Kai-Fu, Lee.  Wall Street Journal, Eastern edition; New York, N.Y.. 30 Nov 2023: A.17.

Kodėl Kinijos komunistų partija tapo pagrindine JAV geopolitine priešininke

     „Nesentimentalus pono Kissingerio požiūris į pasaulinius reikalus leido jam pasiekti reikšmingų proveržių su autokratiškomis šalimis, artimesnėmis Amerikos svorio klasei – detantę su Sovietų Sąjunga, sumažinusią ginklavimosi varžybų eskalaciją, ir atsivėrimą Kinijai, pagilinusį Kinijos ir Sovietų Sąjungos santykią suskaldymą, integravusį Kinijos Liaudies Respubliką į pasaulinę tvarką ir pradėjusį Kinijos reformas, kurios ištraukė šimtus milijonų žmonių iš skurdo.

     Faktas, kad tas reformas inicijavo Dengas Xiaopingas, tas pats Kinijos lyderis, kuris įsakė susidoroti su protestuotojais Tiananmenio aikštėje, byloja apie dviprasmišką J. Kissingerio palikimo pobūdį.

 

     Viena vertus, JAV ir Kinijos suartėjimas prisidėjo prie Šaltojo karo baigties ir pagerino Kinijos žmonių gyvenimo lygį. Kita vertus, Kinijos komunistų partija tapo pagrindiniu JAV geopolitiniu priešininku ir autoritarinės tendencijos pasaulinės politikos avangardu, į koncentracijos stovyklas pasodinusi milijoną uigūrų ir grasindama įsiveržti į Taivaną, kurio statusas liko neišspręstas. P. Kissingerio diplomatijoje“.

      

    

Why the Chinese Communist Party has emerged as the principal geopolitical adversary of the United States


 "Mr. Kissinger’s unsentimental view of global affairs allowed him to achieve consequential breakthroughs with autocratic countries closer to America’s weight class — a détente with the Soviet Union that reduced the escalatory momentum of the arms race and an opening to China that deepened the Sino-Soviet split, integrated the People’s Republic of China into the global order and prefaced Chinese reforms that lifted hundreds of millions of people out of poverty.
The fact that those reforms were initiated by Deng Xiaoping, the same Chinese leader who ordered the crackdown on protesters in Tiananmen Square, speaks to the ambiguous nature of Mr. Kissinger’s legacy. 

On the one hand, the U.S.-Chinese rapprochement contributed to the outcome of the Cold War and improved standards of living for the Chinese people. On the other hand, the Chinese Communist Party has emerged as the principal geopolitical adversary of the United States and the vanguard of the authoritarian trend in global politics, putting a million Uyghurs in concentration camps and threatening to invade Taiwan, whose status was left unresolved by Mr. Kissinger’s diplomacy."
   


Kinijos vaidmuo elektromobilių rinkoje, Amerikos elektromobilių kokybė ir kaina priklauso nuo JAV mokesčių kredito taisyklių

     „Tikimasi, kad Bideno administracija penktadienį paskelbs mokesčių kreditų taisykles, kurios galėtų formuoti Amerikos elektromobilių (EV) rinką“, – sakė su šiuo klausimu susipažinę žmonės.

 

     Praėjusiais metais JAV atnaujino 7500 dolerių mokesčių subsidiją žmonėms, perkantiems naujus elektromobilius. Vienas iš pakeitimų sako, kad vartotojai negalės reikalauti kredito, jei pirks automobilius su akumuliatorių medžiagomis iš „susirūpinimą keliančios užsienio įmonės“. Įstatymų leidėjai įtraukė taisyklę į Infliacijos mažinimo įstatymą, siekdami priversti automobilių gamintojus mažiau pasikliauti dominuojančiais Kinijos tiekėjais.

 

     Neaiškios frazės apibrėžimas tapo iššūkiu Bideno administracijai. Tai, kaip jame atsižvelgs į siūlomų taisyklių terminą, numatoma penktadienį, gali padėti nustatyti, kiek amerikiečiai mokės už daugelį elektromobilių ateinančiais metais.

 

     Baltieji rūmai tikisi, kad naujosios mokesčių kreditų taisyklės paskatins automobilių tiekimo grandinių plėtrą JAV ir atitolins pramonę nuo Kinijos, svarbiausio švarios energijos technologijų šaltinio ir geopolitinės varžovės.

 

     Tuo pačiu metu transporto priemonių akumuliatorių diskvalifikavimas net ir nedideliais Kinijos įmonių įnašais gali reikšti, kad nedaugelis elektromobilių (jei iš viso kokie nors) galės gauti 7500 dolerių kreditą, o tai gali sulėtinti perėjimą nuo benzininių automobilių.

 

     „Daug nesuprantama, kaip tiksliai Iždo departamentas apibrėžia šią taisyklę, kiek ji taikoma automobilių gamintojų galimybei savo tiekimo grandinėse naudoti dalis iš Kinijos korporacijų“, – rašė politikos tyrimų bendrovės „Beacon Policy Advisors“ analitikai.

 

     Iždo atstovė atsisakė komentuoti.

 

     Mokesčių kredito taisyklė atsirado, kai elektromobilių paklausa atvėso, todėl keli automobilių gamintojai pakoregavo savo investicijų į elektromobilius planus. Nors elektromobilių pardavimas vis dar labai augo, augimo tempas, palyginti su praėjusiais metais, sulėtėjo.

 

     Bideno administracijos gairės, greičiausiai, blokuos subsidiją automobiliams, kuriuose yra akumuliatorių, komponentų ar mineralų, pagamintų valstybinių Kinijos įmonių. Pareigūnai svarstė, kaip kreiptis į JAV arba trečiojoje šalyje įsikūrusias įmones, kurios iš dalies priklauso privačioms Kinijos įmonėms. Kita diskusijų sritis buvo tai, ar baterijos, pagamintos, naudojant Kinijos įmonės licencijuotą technologiją, gali gauti subsidiją.

 

     Draudimas nuo 2024 metų įsigalios gaminamiems akumuliatorių komponentams, o 2025 metais – į juos patenkantiems mineralams. Nepriklausomai nuo to, kaip Bideno administracija įgyvendins taisyklę, automobilių pramonės ekspertai mano, kad šis reikalavimas artimiausiu metu sumažins automobilių, kuriems gali būti suteiktas kreditas, skaičių." [1]


Jei Amerikos valdžia blokuos kinus iš Amerikos rinkos, amerikietiški automobiliai bus daug brangesni, nei kiniški, todėl amerikietiški automobiliai bus pašalinti iš konkurencijos didžiulėje pasaulio rinkoje. Amerikiečiai iš jų mažos rinkos gaus daug mažiau pinigų moksliniams tyrimams ir plėtrai. Dėl to amerikietiški automobiliai bus daug prastesnės kokybės, nei kiniški.

 

1. U.S. News: China Role in EV Market Hinges on Tax-Credit Rules. Duehren, Andrew.  Wall Street Journal, Eastern edition; New York, N.Y.. 30 Nov 2023: A.2.

China Role in EV Market, Quality and Price of American EV's Hinges on Tax-Credit Rules


"The Biden administration is expected to release tax-credit rules on Friday that could shape the American market for electric vehicles (EV's), people familiar with the matter said.

The U.S. last year revamped a $7,500 tax subsidy for people who buy new EVs. One of the changes says consumers won't be able to claim the credit if they purchase cars containing battery materials from a "foreign entity of concern." Lawmakers included the rule in the Inflation Reduction Act to push automakers to rely less on dominant Chinese suppliers.

Defining the vague phrase has emerged as a challenge for the Biden administration. How it addresses the term in the proposed rules, expected Friday, could help determine how much Americans will pay for many EVs in the coming years.

The White House hopes the new tax-credit rules will encourage the development of auto-supply chains in the U.S. and distance the industry from China, the most important source of clean-energy technology and a geopolitical rival. 

At the same time, disqualifying vehicle batteries with even minor contributions from Chinese companies could mean that few, if any, EVs would be eligible for the $7,500 credit, potentially slowing the transition away from gasoline-powered cars.

"A lot rides on how exactly the Treasury Department defines this rule insofar as it applies to the ability of car manufacturers to use parts from Chinese corporations in their supply chains," analysts at Beacon Policy Advisors, a policy-research firm, wrote in a note.

A Treasury spokeswoman declined to comment.

The tax-credit rule comes as demand for electric vehicles has shown signs of cooling, prompting several automakers to adjust their plans for EV investment. While sales of EVs have still grown significantly, the rate of growth has slowed compared with last year.

The Biden administration's guidance will likely block the subsidy for cars containing batteries, components or minerals made by state-owned Chinese companies. Officials have been weighing how to address companies based in the U.S. or in a third country that are partially owned by private Chinese companies. Whether batteries built with technology licensed from a Chinese company can qualify for the subsidy has been another area of debate.

The prohibition will come into effect in 2024 for manufactured battery components and in 2025 for the minerals that go into them. Regardless of how the Biden administration enforces the rule, auto industry experts expect the requirement will reduce the number of cars eligible for the credit in the near term." [1]


If American government will block the Chinese from the American market then American cars will be much more expensive, than Chinese, therefore American cars will be excluded from competition in huge world market. Americans will get much less research and development money from their small market. American cars will be much worse quality than Chinese cars as a result. 

1. U.S. News: China Role in EV Market Hinges on Tax-Credit Rules. Duehren, Andrew.  Wall Street Journal, Eastern edition; New York, N.Y.. 30 Nov 2023: A.2.