„Dirbtinio intelekto naudojimas medicinos prietaisuose sparčiai auga, atverdamas kelią potencialiai gyvybes gelbėjimo pažangai ir bauginančiams iššūkiams reguliavimo institucijoms, atsakingoms už naujų produktų saugumą.
Jei technologijų įmonės pasieks savo kelio tikslą, nerimaujantys pacientai vieną dieną gali nuspręsti kalbėtis su pokalbių robotu, o ne su žmogumi terapeutu. Pacientas, atvykstantis į ligoninę, būtų įvertintas AI valdoma rizikos skaičiuokle, o automatizuotas asistentas padėtų atlikti tyrimus. Tokios dirbtinio intelekto programėlės, naudojamos diagnozei ar gydymui, būtų laikomos medicinos prietaisais, kuriuos prižiūri Maisto ir vaistų administracija, o tai reiškia, kad kūrėjams gali prireikti šios agentūros leidimo jomis prekiauti.
FDA yra viena iš daugelio JAV agentūrų, kurios stengiasi rasti tinkamą politiką, kai AI revoliucija įsibėgėja. Nuo 2020 m. iki 2022 m. pabaigos FDA patvirtino daugiau, nei 300 įrenginių su AI funkcijomis – daugiau, nei per visą ankstesnį dešimtmetį. „Mums tuneliu atvažiuoja traukinys, kuris greitai atvažiuoja, ir netrukus susidurs su iššūkiu“, – sako Amy Abernethy, kuri 2019–2021 m. dirbo FDA vyriausiąja maisto ir vaistų komisaro pavaduotoja, o dabar yra Verily Life vyriausioji medicinos pareigūnė. Verily Life, Alphabet vienetas, gaminantis medicinos prietaisus su dirbtiniu intelektu.
Dešimtmečius agentūra į medicinos prietaisus žiūrėjo taip pat, kaip į vaistus: kaip į statinius junginius. Kai FDA patvirtina įrenginį, gamintojas gali parduoti tą versiją. Prieš atnaujinant į naują versiją, ją turi patvirtinti reguliatorius. Tačiau AI palaikantys įrenginiai dažnai naudoja algoritmus, skirtus greitai atnaujinti arba net mokytis savarankiškai. Agentūra sprendžia, kaip elgtis su šia greitai besikeičiančia technologija, tuo pačiu užtikrinant įrenginių saugumą.
„Vienas iš pagrindinių dirbtinio intelekto gaminio privalumų yra tai, kad laikui bėgant jį galima patobulinti“, – sako Timas Sweeney, „Inflammatix“, kraujo tyrimų, skirtų numatyti infekcijos buvimą, tipą ir sunkumą, kūrėjas. Jei bendrovė sužinotų, kad tam tikras organizmo imuninio atsako modelis stipriai rodo, pavyzdžiui, sepsio pradžią, ji norėtų perkvalifikuoti savo algoritmus, kad į tai atsižvelgtų. „Jei turite daug papildomų duomenų, turėtumėte pagerinti savo rezultatus“, - sako Sweeney.
Tačiau pagal tradicinį FDA priežiūros metodą tokios įmonės, kaip „Inflammatix“, greičiausiai, turės gauti papildomą leidimą, prieš keisdama jos algoritmus.
Agentūra pradeda nukreipti kūrėjus į alternatyvų kelią, balandį pateikdama oficialias gaires, kaip jie gali pateikti lankstesnius planus įrenginiams, kuriuose naudojamas AI. Gamintojas gali pateikti „Iš anksto nustatytą pakeitimų valdymo planą“, kuriame nurodomi numatomi pakeitimai. FDA darbuotojai, įskaitant teisininkus, gydytojus ir technologijų ekspertus, peržiūri planus ir numatomų pakeitimų apimtį. Kai įrenginys bus patvirtintas, įmonė gali pakeisti gaminio programavimą be FDA palaiminimo, jei pakeitimai buvo plano dalis.
Tikslas yra „užtikrinti, kad rinka turėtų tam tikrą lankstumą ir toliau stumti naujovių, kurias jie daro, ribas, kartu laikydamiesi apsauginių turėklų, kuriuos nustatėme, patvirtindami produktą“, - sako Troy Tazbaz, bendrovės direktorius iš FDA skaitmeninės sveikatos kompetencijos centro.
Daugelis prietaisų gamintojų džiaugėsi FDA kryptimi, nors jie paprašė agentūros daugiau aiškumo dėl pakeitimų, kuriuos ji leistų. „Bus sudėtinga iš anksto nustatyti galimus pokyčius, kuriuos norėtume padaryti“, – sako Lara Jehi, padėjusi sukurti dirbtiniu intelektu pagrįstus pacientų vertinimo įrankius kaip Klivlando klinikos sveikatos sistemos vyriausioji tyrimų informacijos pareigūnė. „Vienintelis dalykas, kurį žinome, yra nuspėjamas moksle, yra tai, kad jis nenuspėjamas“.
Smegenų implantų, skirtų sunkiai epilepsijai gydyti, gamintoja „NeuroPace“ svarstytų „pakeitimų kontrolės planą“ kaip naujos savo prietaiso versijos, palaikančios dirbtinį intelektą, dalį, sako Martha Morrell, bendrovės vyriausioji medicinos pareigūnė.
Prietaisas dabar tiekia elektros srovę, kad sustabdytų priepuolius, ir tas sroves pakeičia tik gydytojas, peržiūrėjęs paciento duomenis. Ateityje, pasak Morrell, prietaisui gali būti suteikta galia interpretuoti paciento smegenų bangas ir nuspręsti, kokią srovę tiekti realiuoju laiku, laikantis iš anksto nustatytų saugos ribų.
Morrell sako, kad net ji, būdama „A tipo gydytoja“, jaučiasi nepatogiai, perleisdama tokią galią įrenginiui. Tačiau ji taip pat mano, kad pacientai bus naudingi ir kad FDA ir bendrovė turi išsiaiškinti standartą, būtiną, kad įsitikintų, jog prietaisas bus saugus.
Po naujausių FDA rekomendacijų dėl dirbtinio intelekto įrenginių, ji prognozuoja, kad „už jų bus dar viena, o už jos taip pat bus dar viena, nes stengiamės laikytis šio didžiulio kanalo pralaidumo.”
Kritikai mano, kad nauja FDA kryptis gali sukelti pavojų, nurodydami, kad buvo atvejų, kai medicinos prietaisų programinės įrangos klaidos kėlė rimtą pavojų pacientams. Anot jų, dirbtinio intelekto sistemos yra papildomas iššūkis, nes už jas atsakingi žmonės ne visada visiškai supranta, kaip jos veikia, o galimas problemas, tokias, kaip rasinis šališkumas, gali būti sunku įvertinti. „AI sukelia labai įvairią žalą – algoritminę žalą, kurią sunku suprasti ir paaiškinti“, – sako Masonas Marksas, Floridos valstijos universiteto sveikatos teisės profesorius. Leisdama keisti sudėtingus algoritmus neatliekant reguliavimo kontrolės, jis sako: „FDA suteikia gamintojams daug veiksmų laisvės“.
FDA atstovas sakė, kad agentūros atliktas prietaisų vertinimas atkreipia dėmesį į galimą šališkumą.
Ateityje šiuos rūpesčius galėtų išspręsti nauja politika, kurią aptarė kai kurie FDA pareigūnai: reikalaujama stebėti AI įrenginius realiuoju laiku jiems patekus į rinką. Tai atrodytų kitaip, nei tradicinis požiūris, kai FDA patvirtinto prietaiso gamintojas turi tiesiog pranešti apie „nepageidaujamus reiškinius“, kurie gali turėti įtakos pacientams. Naujais stebėjimo reikalavimais būtų siekiama užtikrinti, kad gamintojai atidžiai stebėtų jų algoritmų veikimą. Tačiau norint juos priimti, greičiausiai reikės teisinių įgaliojimų, kurių FDA neturi. Pramonės grupės gali daryti lobizmą, kad agentūra neįgytų tokį autoritetą, jei mano, kad reikalavimai yra pernelyg įkyrūs.
Šios diskusijos tik dar labiau išaugs, nes vis daugiau kūrėjų įtrauks generatyvias AI sistemas, kurios gali sukurti žmogišką teksto, nuotraukų, vaizdo įrašų ir kitos medijos išvestį.
„Woebot Health“ siūlo robotą, kurį, tikimasi, psichiatrai, gydytojai ar draudikai rekomenduos, kad padėtų pacientams spręsti psichikos sveikatos problemas. Botas skatina ir reaguoja 24 valandas per parą, 7 dienas per savaitę. Kaip saugumo priemonę, Woebot teigia, kad jo atsakymai apsiriboja žmonių iš anksto patvirtintu pasirinkimu. Bendrovė išbando generatyvaus AI modelio naudojimą, kad padėtų suprasti, ką sako vartotojai, tačiau nedrįsta leisti atvirų pokalbių.
„Woebot“ savo pokalbių robotą parduoda, kaip psichikos sveikatos palaikymo programą, vengdamas vartoti tam tikrus terminus, pvz., „gydymas“, dėl kurių gali prireikti FDA peržiūros. Agentūra turi teisę reguliuoti bet kokį prietaisą, skirtą ligoms diagnozuoti, gydyti ar profilaktikai – tai plati kompetencija, taikoma daugeliui medicinos programinės įrangos funkcijų. Ji netaiko savo taisyklių mažos rizikos situacijose, pvz., sveikatingumo programose.
Woebot sako, kad nori gauti FDA patvirtinimo antspaudą. Tačiau ji taip pat nori turėti galimybę parduoti jos produktą be recepto ir pasiekti daug platesnę vartotojų bazę. FDA patvirtintos „skaitmeninės terapijos“ psichikos sveikatos priežiūrai paprastai nėra leidžiama parduoti tiesiogiai vartotojams. "Kaip galime užtikrinti, kad šios priemonės būtų kliniškai patvirtintos, [bet] nebūtinai reikalauja recepto?" sako Robbertas Zusterzeelis, Woebot reguliavimo mokslo ir strategijos viceprezidentas. "Kažkuriuo atveju FDA turi apsvarstyti šį vidurinį variantą."
Tai rodo kitą galimą FDA politikos poveikį: agentūros reguliavimo ribos galiausiai formuoja produktų kūrimą.
"Tai sukuria juokingą paskatų rinkinį." sako Ariel Dora Stern, Harvardo verslo mokyklos profesorė, studijavusi FDA reglamentavimą. „Kalbėjausi su startuoliais, kurie iš esmės siekia mažesnių problemų, nei gali išspręsti jų algoritmai, vien todėl, kad reguliavimas yra kažkas, ko jie nenori priartėti su 10 pėdų stulpu.“ [1]
1. The Future of Everything: The Artificial Intelligence Issue --- Medical Devices Get Smarter. Can the FDA Keep Up? Use of AI means devices and apps can learn and change, making regulators' job harder. Ryan, Tracy. Wall Street Journal, Eastern edition; New York, N.Y.. 12 Oct 2023: R.8.
Komentarų nėra:
Rašyti komentarą