Klíčové jídlo
- FDA nedávno vydala akční plán pro regulaci umělé inteligence v oblasti medicínských technologií.
- Klíčovou součástí plánu je umožnění předběžné kontroly modifikací algoritmů, což urychlí procesy.
- Odborníci tvrdí, že tyto předpisy jsou krokem správným směrem a budou mít významný dopad na péči o pacienty.
Minulý týden vydal Úřad pro kontrolu potravin a léčiv (FDA) svůj první akční plán umělé inteligence / strojového učení, který poskytuje dohled nad tímto typem rostoucí technologie v lékařské oblasti. I když jsme viděli umělou inteligenci používanou v mnoha různých odvětvích, jako je potravinářský průmysl, bezpečnostní prostor a maloobchod, technologie je stále do značné míry neregulovaná. Odborníci si však myslí, že tato rychle se rozvíjející technologie přinese obrovské výhody jak lékařům, tak pacientům – pokud to bude regulováno podle pokynů. „Regulace AI není jen dobrá věc, ale je nezbytná k ochraně pacientů a budování důvěry v tuto slibnou technologii,“ napsal Sam Surette, vedoucí regulačních záležitostí a zajišťování kvality ve společnosti Caption Health,
Záchranný drát v e-mailu. „Dozor FDA zajišťuje, že výrobky v oboru prokázaly bezpečnost a účinnost prostřednictvím přísného testování výkonu.“
Přístup FDA k AI
Plán FDA se soustřeďuje na transparentnost a monitorování výkonu, aby poskytly zdravotnickým zařízením AI záruku bezpečnosti a účinnosti. Mezi klíčové komponenty akčního plánu patří podpora snah regulačních věd o vývoj metodiky pro hodnocení a zdokonalování algoritmů strojového učení (včetně identifikace a eliminace předpětí). Plán také stanoví, jak FDA zamýšlí zjistit vhodné postupy vývoje strojového učení, pracovat se zúčastněnými stranami, které proces pilotují, a další.
„Plán nastiňuje holistický přístup založený na dohledu nad celkovým životním cyklem produktu, který má podpořit obrovský potenciál, který tyto technologie mají ke zlepšení péče o pacienta a zároveň k zajištění bezpečné a efektivní funkce softwaru, která zvyšuje kvalitu péče, kterou pacienti dostávají,“ Bakul Patel, ředitel Centrum pro digitální zdraví v Centru pro zařízení a radiologické zdraví, uvedlo v tiskové zprávě FDA. Patel dodal, že akční plán se časem změní, protože budou vydány a vylepšeny nové aplikace pro tuto technologii. „Abychom zůstali aktuální a věnovali pozornost bezpečnosti pacientů a zlepšili přístup k těmto slibným technologiím, očekáváme, že se tento akční plán bude v průběhu času dále vyvíjet,“ uvedl. „Regulace umělé inteligence není jen dobrá věc, ale také zásadní pro ochranu pacientů a budování důvěry v tuto slibnou technologii.“ Surette uvedl, že snad nejdůležitějším aspektem plánu FDA pro regulaci AI je tento „předem stanovený plán kontroly změn“, který umožní úpravy v průběhu času. „Použití těchto předem stanovených plánů kontroly změn umožňuje FDA předem zkontrolovat možné úpravy, což odstraňuje potřebu nové kontroly před uvedením na trh před každou významnou aktualizací algoritmu,“ napsal. Joe Mullings, předseda představenstva a generální ředitel společnosti The Mullings Group, uvedl, že rámec AI FDA nemůže přijít v lepším čase, protože algoritmy AI se neustále mění. „AI používá algoritmy a algoritmy jsou stále černým druhem umění, takže mít takového strážce jako FDA je zásadní,“ řekl Záchranný drát v telefonickém rozhovoru. „[AI] správným způsobem ovlivní zdravotní péči v dramatickém měřítku, jaké jsme nikdy předtím neviděli. “
Dopady větší AI ve zdravotnictví
Odborníci tvrdí, že AI ve zdravotnictví mají klady a zápory a že FDA musí zohlednit obojí, aby zajistila řádnou regulaci. Pokud jde o výhody, Mullings uvedl, že regulace AI v med-tech by umožnila řešení individuální péče o pacienta ještě rychleji. „Bereme tyto špičkové kliniky, lékaře a chirurgy a jsme schopni jim poskytnout vyšší úroveň informací, aby mohli činit svá rozhodnutí; brát již tak skvělého klinika, lékaře nebo chirurga a zajistit mu vyrovnanost větší, “řekl. Dodal, že lékaři mohou rozhodovat ve jménu pacientů s vyšší mírou přesnosti, než by jinak.
Díky doporučení FDA to znamená, že bude snazší dělat věci, jako je použití AI ke čtení rentgenových snímků, získávání a interpretace ultrazvukových vyšetření a dokonce urychlení procesu detekce COVID-19 u pacientů v nemocnici analýzou rutinních vzorků krve. Existují však další důsledky, pokud jde o AI a její algoritmy vytvořené člověkem. Mullings poukázal na problémy AI se zaujatostí, zejména vůči barevným lidem. „V klinických studiích narazíme na problémy, které plně nezohledňují barevné lidi a nadměrně indexují bílou populaci,“ řekl Mullings. „Algoritmy jsou rovnice napsané člověkem, které budou mít v sobě nevědomé zkreslení. Toto integrované zkreslení pak zesiluje tuto potenciální chybu a po nějaké době s ní lékař činí slepá rozhodnutí.“ Stále však existuje naděje, že tato zaujatost a další překážky AI, jako je dlouhodobý proces shromažďování a označování dat, se s těmito novými předpisy výrazně sníží. „Komunita digitálního zdraví ocenila proaktivní přístup FDA k AI,“ napsala Surette. „Tento akční plán pro umělou inteligenci, který vydala FDA, představuje další krok v regulaci regulačního dohledu nad touto relativně rodící se oblastí, který by měl být povzbudivý pro ty, kteří jsou v med-tech komunitě.“
