„Meta“ dirbtinio intelekto modeliai yra vieni iš labiausiai, privatumą tausojančių, modelių, kurie gali juos įdiegti savo kompiuteryje ir ten naudoti be jokių papildomų duomenų. Duomenų apsauga ES dabar tam užkerta kelią

 „Europos Sąjungos taisyklėmis buvo siekiama pažangos Europoje, kai kalbama apie dirbtinį intelektą (AI). Dabar akivaizdu: tai nepasiteisino.

 

Ursula von der Leyen didžiavosi ir buvo nusiteikusi labai optimistiškai. „Tai pirmas toks pasaulyje“, – sausio mėnesį Davose vykusiame Pasaulio ekonomikos forume susirinkusiems verslininkams ir vadovams sakė ji. „Ir dar vienas pavyzdys, kaip demokratijos ir įmonės gali sustiprinti viena kitą.

 

ES Komisijos pirmininkas kalbėjo apie įstatymą, kuriuo Europos Sąjunga reguliuoja dirbtinį intelektą. Viltis: naujasis standartas apsaugos europiečius nuo tamsiosios AI pusės. Tai sukuria pasitikėjimą. Technologija bus plėtojama teisiškai saugiai ES ir suras klientų. Kitos šalys priimtų šias taisykles, tada Europos įmonės turėtų konkurencinį pranašumą.

 

Įstatymas priimtas tik keturis mėnesius ir dar nevisiškai galioja – ir jau dabar aišku, kad šie tikslai buvo gerokai nerealūs. Kalifornijoje, kur yra populiariausios dirbtinio intelekto programos, greitu metu nebus jokių taisyklių. Praėjusią savaitę gubernatorius vetavo planuojamą įstatymą. Vieniems pasirodė per sunku, kitiems nepakankamai sunku, o ką rado pats gubernatorius, nėra iki galo aišku. Bet kokiu atveju Kalifornijos įmonės gali toliau vystytis iš visų jėgų. Ir nenumatoma, kad baigtas įstatymas bus panašesnis į ES taisykles.

 

„Amerika diegia naujoves, Kinija kopijuoja, o Europa reguliuoja“

 

Galima būtų tai žinoti. ES parlamentarai jau išreiškė visas šias viltis, kai buvo priimtas Bendrasis duomenų apsaugos reglamentas. Netrukus išdidžiai prabilo, kad kitos šalys pasektų pavyzdžiu. Tarsi ES galėtų eksportuoti įstatymus ir kompensuoti tai, kad IT klausimais ji nelabai ką nuveikia. Viskas susiklostė kitaip. Kai prieš kelerius metus „Facebook“ paskubomis atidarė naują socialinį tinklą „Siūlai“, duomenų apsaugos funkcijos dar nebuvo paruoštos. Netrukus prieš tai Italija užrakino „ChatGPT“. Rezultatas: „Facebook“ pradėjo veikti be ES.

 

Matyt, didelės įmonės iš to pasimokė: galite tai daryti dažniau. „Google“ dirbtinis intelektas, kai jis buvo išleistas, buvo prieinamas 150 šalių, tačiau atsitiktinai ne ES. Neseniai „Apple“ europiečiams pasakė, kad jos dirbtinis intelektas kol kas jiems nebūtinai pasiekiamas. Apple tuo metu buvo apkaltinta godumu. Tačiau kiekvienas, kaltinantis „Apple“ godumu, turi pripažinti: matyt, net godumas nepadaro ES patrauklia.

 

„Meta“, „Instagram“ ir „WhatsApp“ įmonė, daro panašų dalyką. Kadangi jai nebuvo leista mokyti dirbtinio intelekto pagal Europos vartotojų duomenų rinkinius, AI į Europą neatkeliauja. Duomenų apsauga turėjo įtakos – viena vertus. Kita vertus, „Meta“ dirbtinio intelekto modeliai yra vieni iš labiausiai, privatumą tausojančių, modelių, kurie gali juos įdiegti savo kompiuteryje ir ten naudoti be jokių papildomų duomenų išnešimo. Duomenų apsauga ES dabar tam užkerta kelią.

 

Ar bent Europos įmonės turi konkurencinį pranašumą? Atsakymą pateikė Hamburgo startuolis „Oxolo“. Iki šiol įmonė sukūrė dirbtinį intelektą, kuris generuoja vaizdo įrašus. Tačiau rugpjūtį įmonė veiklą nutraukė. Steigėjai taip pat kaltino ES teisės aktus: įmonė yra griežtai reguliuojama, kaip potenciali netikrų vaizdo įrašų kūrėja, tačiau neaišku, kaip ji turėtų elgtis.

 

Vis dar neaišku, ar „Oxolo“ nesėkmė sumažins netikrų vaizdo įrašų skaičių ES. Įmonės už ES ribų vis dar egzistuoja. Dabar startuoliai dažnai žlunga ir ne visada kalti reglamentai.

 

 Tačiau Oksfordo universitetas dabar išnagrinėjo duomenų apsaugos taisyklių poveikį: mažos įmonės prarado tris procentus pardavimų ir devynis procentus pelno. Tyrėjai tik praktiškai nerado jokio neigiamo poveikio didelėse IT įmonėse.

 

„Amerika kuria naujoves, Kinija kopijuoja, o Europa reguliuoja“, – sakoma senesniame posakyje. Kinija išmoko kažko naujo. Dabar atėjo Europos eilė.“ [1]

 

1. Europas Debakel mit der KI. Frankfurter Allgemeine Zeitung (online) Frankfurter Allgemeine Zeitung GmbH. Oct 4, 2024. Von Patrick Bernau

Meta's AI models are among the most data protection-friendly of all; anyone can install them on their own computer and use them there without any further data flowing anywhere. Data protection is now preventing this in the EU

 

"The European Union's rules were intended to bring Europe forward in terms of AI. Now it is clear: That didn't work.

 

Ursula von der Leyen was proud and very optimistic. "It is the first of its kind in the world," she told the assembled entrepreneurs and managers in January at the World Economic Forum in Davos. "And another example of how democracies and companies can strengthen each other."

 

The President of the EU Commission spoke about the law with which the European Union regulates artificial intelligence. The hope: The new standard will protect Europeans from the dark side of AI. This will create trust. The technology will develop legally in the EU and find customers. Other countries will adopt the rules, then European companies will have a competitive advantage.

 

The law has only been passed for four months, not yet fully in force - and it is already clear that these goals have been missed by a long way. In California, the home of the most popular AI applications, there will be no rules any time soon. Last week, the governor there vetoed the planned law. Some thought it was too harsh, others not harsh enough, and what the governor himself thought is not entirely clear. In any case, the Californian companies can continue to develop it with all their might for now. And it is not foreseeable that the finished law will be more similar to the EU rules.

 

"America innovates, China copies and Europe regulates"

 

We could have known. EU parliamentarians had already expressed all these hopes when the General Data Protection Regulation came into force. Other countries soon took their cue from it, it was said proudly. As if the EU could export laws and thus compensate for the fact that it does not get much done in IT matters. Things turned out differently. When Facebook hastily launched a new social network called "Threads" a few years ago, the data protection functions were not yet ready. Shortly before, Italy had blocked ChatGPT. The result: Facebook started without the EU.

 

Large companies have obviously learned from this: You can do this more often. Google's artificial intelligence was available in 150 countries when it was released, but by chance not in the EU. Apple recently informed Europeans that its artificial intelligence would not necessarily come to them for the time being. Apple was accused of greed at the time. But anyone who accuses Apple of greed has to admit: Apparently not even greed makes the EU attractive.

 

Meta, the company behind Instagram and Whatsapp, does something similar. Because it was not allowed to train its AI on data sets from its European users, the AI ​​is not coming to Europe. Data protection has worked - on the one hand. 

 

On the other hand, Meta's AI models are among the most data protection-friendly of all; anyone can install them on their own computer and use them there without any further data flowing anywhere. Data protection is now preventing this in the EU.

 

So do European companies at least have a competitive advantage? The answer is provided by a Hamburg start-up called Oxolo. The company has previously developed an artificial intelligence that generated videos. But in August the company ceased operations. The founders also blamed EU legislation: The company is heavily regulated as a potential generator of fake videos, but it is unclear exactly how it should behave.

 

It is still uncertain whether Oxolo's failure will reduce the density of fake videos in the EU. The companies outside the EU still exist. Now start-ups often fail, and regulation is not always to blame.

 

But Oxford University has now investigated the effect of data protection rules: small companies lost three percent of their sales and nine percent of their profits. The researchers only found virtually no negative effects on large IT companies.

 

"America innovates, China copies and Europe regulates," goes an old saying. China has learned from its mistakes. Now it's Europe's turn." [1]

 

1. Europas Debakel mit der KI. Frankfurter Allgemeine Zeitung (online) Frankfurter Allgemeine Zeitung GmbH. Oct 4, 2024. Von Patrick Bernau

Kaip dirbtinis intelektas ir miRNR dera prie šių dienų mokslo

 "Mokslinės Nobelio premijos savo ruožtu visada pagerbė žmogaus intelektą. Šiais metais pirmą kartą buvo pripažintas ir dirbtinio intelekto (AI) transformacinis potencialas. Šis pripažinimas prasidėjo antradienį, spalio 8 d., kai Švedijos karališkasis apdovanojimas Mokslų akademija fizikos premiją skyrė John Hopfield iš Prinstono universiteto ir Geoffrey Hinton iš Toronto universiteto už kompiuterių mokslo proveržius, neatsiejamus nuo daugelio galingiausių šių dienų AI modelių.

 

 Kitą dieną geidžiamo skambučio iš Stokholmo sulaukė ir vieno tokio modelio kūrėjai. Demis Hassabis ir Johnas Jumperis iš DeepMind, Google AI įmonės, gavo pusę chemijos prizo už AlphaFold, programos, galinčios numatyti trimatę baltymų struktūrą, sukūrimą, ilgalaikį didžiulį biochemijos iššūkį. Antroji premijos pusė atiteko Vašingtono universiteto biochemikui Davidui Bakeriui už kompiuterinį darbą, kuriant naujus baltymus.

 

 AI dėmesys nebuvo vienintelis šiuose skelbimuose bendras dalykas. Abiem atvejais apdovanojamas tyrimas nepriklausytų apdovanojimus skiriančių komitetų kompetencijai (AI tyrimai yra kompiuterių mokslas; baltymų tyrimai, be abejo, priskiriami biologijai).

 

 Ribų stūmimas

 

 Toks lankstumas nėra precedento neturintis dalykas. Pavyzdžiui, 1973 m. trys novatoriški gyvūnų elgesio tyrinėtojai, dirbę su bitėmis, žąsimis ir žuvelėmis, buvo įtraukti į fiziologijos kategoriją. Tačiau Dr. Hinton ir Hopfield apdovanojimas pripažįsta pasiekimus, turinčius gilesnių pasekmių.

 

 Abu tyrėjai savo lemiamą darbą atliko devintojo dešimtmečio pradžioje, tuo metu, kai kompiuterių aparatinė įranga negalėjo išnaudoti visų šių tyrimų privalumų. 

 

Dr Hopfieldas buvo atsakingas už tai, kas tapo žinoma kaip Hopfieldo tinklas – dirbtinio neuroninio tinklo, kuris elgiasi, kaip fizinė struktūra, vadinama sukimosi stiklu, tipą, o tai suteikė akademijai menką priežastį pavadinti šią sritį „fizika“. 

 

Dr. Hintono indėlis buvo panaudoti algoritmą, žinomą, kaip atgalinis propagavimas, norint apmokyti neuroninius tinklus.

 

 Dirbtiniai neuroniniai tinklai yra kompiuterinės programos, laisvai pagrįstos tuo, kaip manoma, kad veikia tikri, biologiniai nervinių ląstelių arba neuronų tinklai. Visų pirma, jungčių (žinomų, kaip svoriai) tarp „mazgų“ (neuronų atitikmenų) tokiuose tinkluose stiprybės yra kintančios. Šis plastiškumas suteikia tinklui galimybę kitaip apdoroti informaciją, atsižvelgiant į ankstesnius rezultatus; arba, kitaip tariant, mokytis. „Hopfieldo“ tinklai, kuriuose kiekvienas mazgas yra prijungtas prie visų kitų, išskyrus jį patį, ypač gerai mokosi išgauti dėsningumus iš negausių ar triukšmingų duomenų.

 

 Dr. Hintono algoritmas padidino neuroninių tinklų mokymosi galimybes, leisdamas jiems veikti trimis aspektais. Hopfieldo tinklai ir panašūs į juos iš esmės yra dvimačiai. Nors jie iš tikrųjų egzistuoja tik kaip programinės įrangos modeliavimas, jie gali būti laikomi fiziniais mazgų sluoksniais. Tačiau sudėkite tokius sluoksnius vieną ant kito ir treniruokite juos, keisdami svarmenis, kai signalai juda atgal ir pirmyn tarp sluoksnių (ty, sklinda atgal ir į priekį), ir turėsite daug sudėtingesnę mokymosi sistemą.

 

 Dr. Hintonas taip pat, naudodamas matematikos šaką, vadinamą statistine mechanika, pakoregavo Dr. Hopfieldo tinklus, kad sukurtų vadinamąsias Boltzmanno mašinas. (Statistinę mechaniką, kuria grindžiamas šiuolaikinis antrojo termodinamikos dėsnio supratimas, išrado Ludwigas Boltzmannas, artimas Alfredo Nobelio amžininkas.) Boltzmanno mašinos gali būti naudojamos, kuriant sistemas, kurios mokosi be priežiūros ir nustato duomenų šablonus be to. kad būtų aiškiai mokomos.

 

 Taigi šių dviejų tyrėjų veikla mašininį mokymąsi iš tikrųjų padarė įspūdingu. Dirbtinio intelekto modeliai dabar gali ne tik mokytis, bet ir kurti (arba, skeptikų žodžiais, pertvarkyti ir atgaivinti pačiu sudėtingiausiu būdu). Taigi tokios priemonės tapo gebėjimo atlikti labai specifines užduotis, tokias, kaip vėžinių ląstelių atpažinimas audinių mėginių nuotraukose ar dalelių fizikos duomenų kalnų supaprastinimas, ir bet ko – nuo ​​esė rašymo tingiems studentams iki robotų valdymo.

 

 Daktaras Hintonas, kurį akademijos detektyvai susekė viešbutyje Kalifornijoje, kad praneštų džiugią žinią, ir kuris, nepaisant laiko skirtumo, linksmai sutiko atsakyti į spaudos klausimus, atrodė ir susirūpinęs, ir didžiavosi jo pasiekimais. Jis, kaip ir daugelis šios srities atstovų, nerimavo dėl to, kaip mašinų intelektas, pranokęs žmonių įvairovę, vėliau elgsis su jo kūrėjais. 

 

Tačiau jis taip pat svarstė, kad, padėdamas dirbti protinį darbą, AI gali turėti tokį pat didelį poveikį visuomenei, kaip ir pramonės revoliucijos pagalba fiziniam darbui.

 

 Tokie svarstymai buvo laiku. Nepraėjus 24 valandoms, akademija pripažintų atliktus tyrimus, AI modelių pagalba apie baltymų struktūrą.

 

 Grįžkite į lanką

 

 Baltymai yra pagrindinė cheminė gyvybės statybinė medžiaga. Jie sudaryti iš mažesnių molekulių, vadinamų aminorūgštimis, išdėstytų ilgomis grandinėmis, kurios susilanksto labai sudėtingais ir specifiniais būdais. Galutinė sulankstyto baltymo forma lemia jo biologinę funkciją. Kitaip tariant, norint suprasti baltymus, o kartu ir biologiją, reikia suprasti jų struktūrą.

 

 Dr Baker tokį supratimą pasiekė darydamas. 2003 m. reikšmingame dokumente jam pavyko sukurti visiškai naują baltymą. Naudodamas kompiuterinę programą, kurią pavadino Rosetta, jis rado aminorūgščių seką, galinčią susilankstyti gamtoje nematytais būdais. Kai seka buvo atkurta laboratorijoje ir susiformavo baltymas, jis nustatė galutinę jos struktūrą, naudodamas techniką, vadinamą rentgeno kristalografija: ji labai atitiko tai, ką jis buvo užsibrėžęs sukurti. Rosetta, dabar vadinama Rosetta Commons, vėliau tapo programinės įrangos paketu, kurį naudoja baltymų chemikai visame pasaulyje, o skaičiavimo baltymų projektavimas padėjo viskam, pradedant vakcinų kūrimu ir baigiant toksiškų cheminių medžiagų aptikimu.

 

 Eiti kitu keliu ir nuspėti baltymo struktūrą pagal jo aminorūgščių seką yra problema, kuriai įveikti prireikė dar ilgiau dirbti. Atsižvelgiant į beveik neribotą konfigūracijų, į kurias gali susilankstyti baltymas, skaičių – kai kuriais skaičiavimais, net 10 300 vieno sudėtingo baltymo atveju – net kompiuteriai turėjo ribotą sėkmę. DeepMind AlphaFold 1 ir 2 (abu dirbtiniai neuroniniai tinklai), paviešinti atitinkamai 2018 ir 2020 m., buvo pirmieji, kurie netgi priartėjo prie sprendimo. „AlphaFold 2“ dabar turi daugiau, nei 200 m baltymų struktūros prognozių duomenų bazę, o numatymo tikslumas artėja prie 90%.

 

 Nors seras Demisas ir daktaras Jumperis šiais metais buvo įtraukti į įvairius varžovų premijai gauti sąrašus, daugelis susimąstė, ar dar per anksti AlphaFold pripažinti. Tačiau tai jau padarė tikrą poveikį: „DeepMind“ teigia, kad kai kurie 2 mln. mokslininkų jau naudoja jį savo tyrimuose. Gegužės mėn. išleistas „AlphaFold 3“ apima ne tik baltymus, bet ir prognozuoja daugelio kitų biomolekulių, tokių kaip DNR, struktūrą, taip pat mažas molekules, kurios gali veikti, kaip vaistai. Jis taip pat gali numatyti, kaip skirtingos skirtingos struktūros molekulės dera tarpusavyje, pavyzdžiui, kaip viruso smaigalio baltymas gali sąveikauti su organizme esančiais antikūnais ir cukrumi.

 

 Pirmą kartą pasirinkęs pagerbti darbą, atliktą su AI modeliu, komitetas atvėrė galimybę ateityje gauti daugiau tokių prizų. Tai lygiai taip pat gerai; AI jau kurį laiką skverbiasi į visas mokslo sritis, kaip iliustravo daktaras Bakeris, kai jam buvo paskambinta per komiteto spaudos konferenciją. Jis sakė, kad AlphaFold įkvėpė jį sukurti generatyvinius AI modelius, galinčius kurti naujus baltymus. "Mūsų nauji AI metodai yra daug galingesni", - sakė jis.

 

 Mega svarbu

 

 Prizas už fiziologiją ar mediciną savo ruožtu vengė AI paminėjimo. Ji taip pat buvo apsaugota nuo kaltinimų dėl žanro keitimo, tęsiant akademijos tendenciją vis labiau pripažinti mažiausius molekulinio ir ląstelių lygmens pasiekimus, o ne dirbti su fiziologija ar organais, nes būtent šiose mikroskopinėse skalėse yra įdomiausios mokslo sritys.

 

 Nugalėtojais tapo Victoras Ambrosas iš Masačusetso universiteto medicinos mokyklos ir Gary Ruvkunas iš Masačusetso bendrosios ligoninės už mikro-RNR (miRNR) atradimą ir jos vaidmenį „post-transkripcijos genų reguliavime“. Tai mažų molekulių klasė, kurią sudaro tik 20–24 nukleotidai (genomo A, C, G, U raidės), ir jos atlieka pagrindinį vaidmenį ląstelių veikloje.

 

 Kiekvienos žmogaus ląstelės branduolyje yra visas instrukcijų rinkinys – genomas – kaip sukurti žmogų. Pagrindinis biologijos klausimas yra tai, kaip tas pats genų ir instrukcijų rinkinys gali sukelti tokius skirtingus kūno ląstelių tipus – nuo ​​raumenų iki kepenų ląstelių per smegenyse esančius neuronus. Atsakymas yra tas, kad ne visi genai, esantys branduolyje, yra paverčiami baltymais. Skirtingų tipų ląstelės seka savo vystymosi kelius, naudodamos tik tuos genetinius nurodymus, susijusius su jų augimu ir vystymusi. Kiekvienam ląstelių tipui būtiną atranką iš dalies kontroliuoja dr. Ambros ir Ruvkun atrastos miRNR molekulės.

 

 Jos visų pirma veikia, prisijungdamos prie kitos ląstelės molekulės, žinomos, kaip pasiuntinio RNR (mRNR), tikslinių dalių, kurios perduoda informaciją iš genomo DNR į, baltymus gaminančias, gamyklas ląstelėse. Trukdydama mRNR molekulėmss, miRNR gali pakeisti arba užkirsti kelią baltymų gamybai. Pabrėždama didėjančią šios molekulinės biologijos srities svarbą, mRNR praėjusiais metais buvo apdovanota Nobelio premija.

 

 1993 m. radus miRNR, šiandien buvo galima suprasti, kad mūsų ląstelėse yra daugiau, nei tūkstantis šių mažų molekulių. Šis atradimas turėjo didelių pasekmių biologijai. Nenormalus miRNR molekulių reguliavimas gali prisidėti, kai žmonės serga vėžiu ir epilepsija. Nustatyta, kad genų, koduojančių miRNR molekules, mutacijos sukelia tokias sąlygas, kaip įgimtas klausos praradimas ir manoma, kad jos yra susijusios su daugelio akių ligų, tokių, kaip katarakta, glaukoma ir geltonosios dėmės degeneracija, patologijoje. Manoma, kad miRNR molekulės taip pat yra svarbios daugeliui kaulų ligų, tokių, kaip osteoporozė, osteosarkoma ir kaulų metastazės.

 

 Daktarai Ambrosas ir Ruvkunas, kurie devintojo dešimtmečio pabaigoje dirbo toje pačioje laboratorijoje Masačusetso technologijos institute, atrado miRNR molekules, naudodami pagrindinį biologinio tyrimo įrankį – apvaliąją kirmėlę Caenorhabditis elegans. Jie tyrinėjo dvi mutantines kirminų padermes, turinčias genų defektų, lemiančių gyvūnų vystymąsi ir darbą. Tai darydami, mokslininkai parodė, kad genas, vadinamas lin-4, pagamino neįprastai trumpą RNR molekulę, kuri nekodavo jokių baltymų ir, atrodo, slopina kito geno aktyvumą.

 

 Teikdamas premiją Karolinskos instituto Nobelio komitetas pažymėjo, kad kai mokslininkai paskelbė jų rezultatus, jie sutiko „beveik kurtinančią mokslo bendruomenės tylą“. Buvo manoma, kad neįprastas C. elegans genų reguliavimo mechanizmas yra šio organizmo ypatumas, nesusijęs nei su žmonėmis, nei su kitais sudėtingesniais organizmais. Šis požiūris ilgainiui pasikeitė, nes tapo aišku, kad genai, koduojantys miRNR, buvo rasti visoje gyvūnų karalystėje.

 

 „Novo Nordisk“, Danijos farmacijos milžinė, yra viena iš įmonių, bandančių gaminti vaistus, naudojant miRNR. Šiais metais ji įsigijo Vokietijos firmą Cardior, kurios pagrindinis vaistų kandidatas CDR132L veikia, blokuodamas tam tikrą miRNR, tikintis padėti pacientams, sergantiems lėtiniu širdies nepakankamumu ir širdies hipertrofija (širdies sienelių sustorėjimu ir sustingimu).

 

 Šių metų prizas pabrėžia besitęsiančią tendenciją pripažinti atradimus molekuliniu lygmeniu. Pastaruoju metu kelios Nobelio premijos buvo skirtos technologijoms, kurios turėjo akivaizdų klinikinį pritaikymą, pavyzdžiui, vėžio imunoterapija (2018 m.) ir genų redagavimas (2020 m.). Galbūt, nenuostabu, kad, tobulėjant molekulinių ir genetinių tyrimų technologijoms, mokslininkai įgyja vis daugiau įžvalgų apie ląstelių funkciją, todėl su jomis gali padaryti gilesnių ir naudingesnių atradimų.

 

 Nobelio siekiai

 

 Vis didesniam skaičiui tyrėjų visame pasaulyje, kurie savo darbe remiasi dirbtiniu intelektu, šių metų apdovanojimų ilgalaikė žinia gali būti kitokia: jie taip pat vieną dieną galės pagauti prestižiškiausius mokslo gongus. Savo ruožtu dr. Jumperis sakė: „Tikiuosi... kad mes atvėrėme duris daugybei neįtikėtinų mokslinių laimėjimų, susijusių su skaičiavimais ir dirbtiniu intelektu.“ [1] 

 

1.  Honouring intelligence. The Economist; London Vol. 453, Iss. 9418,  (Oct 12, 2024): 68, 69, 70.