Van gesteelde ure tot menslike aanraking: Wat KI aan die geneeskunde moet bewys Deel 5 van 5

Ons het hierdie reeks in ’n vertrek vol liasseerkabinette begin, en ons kom nou by sy laaste vraag uit. Sagteware het die geneeskunde se geheue gedigitaliseer, toe gespesialiseer, toe gefragmenteer, toe stilweg die kliniese uur vir homself opgeëis; kunsmatige intelligensie het vyftig jaar lank nader gekom en het uiteindelik aangekom. Die diefstal is in ure gemeet, maar wat die ure bevat het, was aandag: die kyk, luister en raaksien waarvan geneeskunde werklik gemaak is. Sal die nuwe intelligensie daardie aandag teruggee, of bloot die volgende dief met beter maniere word? Hierdie reeks sluit af deur te vra hoe bewys sou lyk, en wie die standaard mag stel. Omdat ons span self hierdie tegnologie bou, het ons minder reg as enigiemand anders om belowende resultate met bewese voordeel te verwar. Hierdie slotaflewering pas dieselfde agterdog op KI toe wat die vroeëre dele op alles anders toegepas het.

“The secret of the care of the patient is in caring for the patient.”

Francis W. Peabody, MD, toespraak voor Harvard se mediese studente, 1926, in 1927 in JAMA gepubliseer [1]

Aandag, gemeet

Begin by wat reeds waargeneem kan word. By die ontplooiing wat ons in deel vier ontmoet het, het 84% van dokters wat omgewings-KI-skrywers gebruik, ’n positiewe uitwerking op kommunikasie met hul pasiënte aangemeld, en die pasiënte het dieselfde ding uit die ander stoel opgemerk: 47% het gesien hul dokter kyk minder na die rekenaar, en 39% het gesê hul dokter praat meer direk met hulle [2]. Dít is die syfers om aan vas te hou, meer as enige telling van minute, want hulle meet presies die ding wat deel twee gewys het verlore gaan. Die tydskattings is vroeër, sagter bewyse: waarnemend, saamgevoeg, tot dusver uit enkele gesondheidstelsels eerder as gerandomiseerde vergelykings, en elke KI-opgestelde nota moet steeds deur die dokter nagegaan en onderteken word [2, 3]. Die wyer literatuur konvergeer op dieselfde klem en bevind dat die mees konsekwente voordele verminderde kognitiewe las, beter pasiëntbetrokkenheid en verbeterde welstand is, met tydsbesparings wat van omgewing tot omgewing wissel [4]. ’n Geslag lank was die persoon in die spreekkamer wat die minste aandag gekry het, die een op die ondersoekbank. Die vroeë bewyse sê dit begin omkeer. Om dit duursaam te bewys, oor stelsels, tale en bevolkings heen, is die werk wat voorlê.

’n Kollega in die hoek

’n Ander klas KI, en dit is belangrik om die klasse uitmekaar te hou, help met die besluite self. In Nairobi het die eerstelynsorgnetwerk Penda Health ’n kliniese KI-medevlieënier, saam met OpenAI ontwikkel, oor 39 849 pasiëntbesoeke in 15 klinieke laat loop. Die kliniese spanne wat dit gebruik het, het 16% minder diagnostiese foute en 13% minder behandelingsfoute gemaak, met die grootste winste in die besoeke wat sy ernstigste veiligheidswaarskuwings laat afgaan het [5]. Twee dinge tempereer die resultaat. Hoewel klinici ewekansig toegewys is, is die studie deur OpenAI befonds en gepubliseer, wat ook aan die ontleding deelgeneem het, en dit bly ’n voorpublikasie; toe ’n onafhanklike gerandomiseerde proef van dieselfde instrument, deur die Gates-stigting befonds, in 2026 gevolg het, het dit geen betekenisvolle vermindering in behandelingsmislukking gevind nie [12]. En dit is bewyse oor besluitsteun, nie oor dokumentasiegereedskap soos omgewings-KI-skrywers nie; die kategorieë mag nie mekaar se resultate leen nie. Wat die studie bemoedigend maak, is sy ontwerpfilosofie. Die instrument kyk stil toe, praat selde en eskaleer net wanneer dit moet, en die mens neem die finale besluit. Maar deel twee het hierdie reeks geleer wat toesig werd is wanneer dit sleg ontwerp is: mense leer om raserige hulp weg te klap. Die spieëlbeeldmislukking, outomatiseringsvooroordeel, kan “die mens besluit” stilweg in “die mens stem saam” verander. ’n Veiligheidsnet is net so goed soos die aandag wat dit die mens vry laat om te gee, en die beskermingsmaatreël moet dus gebou word om toesig werklik te maak eerder as seremonieel.

’n Blik uit die Suide: Waar die lig neerstryk

Suid-Afrika dra een van die wêreld se swaarste tuberkuloselaste, en verskeie van die siftingsprodukte wat deur die WGO onderskryf word, waarvan ses nou sy prestasiestandaarde haal, is geëvalueer teen films uit Suid-Afrika se eie nasionale TB-voorkomsopname [6, 7]. Wat nuut is, is die reikwydte. Gekoppel aan die jongste ultradraagbare X-straalmasjiene kan sifting nou per bakkie reis na gemeenskappe wat geen radioloog ooit sal besoek nie [8]. En onthou die verpleegkundige uit deel twee, wat elke konsultasie in ’n papierregister skryf sodat ’n klerk dit kan oortik. Alles wat hierdie reeks ondersoek het, loop op haar uit: intelligensie wat stilweg op die agtergrond dokumenteer, naslaan en rapporteer, sou meer aandag teruggee in ’n tweeverpleegkundige-kliniek in Limpopo as in enige Kaliforniese mediese sentrum. Of dit haar werklik bereik, in haar taal, op haar kliniek se konnektiwiteit en onder haar land se wetgewing, is die werklike toets van hierdie tegnologie.

Die beskermingsmaatreëls

Niks hiervan is gewaarborg nie, en dit is waar die reeks sy eie standaard die hardste moet toepas. Begin by vooroordeel. In 2019 het navorsers in Science gewys dat ’n wyd gebruikte Amerikaanse sorgbestuur-algoritme, gebou op vorige gesondheidsorgkoste as sy maatstaf vir mediese behoefte, swart pasiënte stelselmatig te kort gedoen het: om dit reg te stel, sou die aandeel swart pasiënte wat vir bykomende hulp uitgewys word, van 17,7% tot 46,5% verhoog het [9]. Babyl se oornagverdwyning uit Rwanda, in deel vier vertel, dra die eweknie-les oor eienaarskap: ’n klinies suksesvolle diens is nie veilig as sy afskakelaar op ’n ander vasteland woon nie. En die WGO het op die nuutste geslag stelsels gereageer met toegewyde riglyne oor die etiek en beheer van groot multimodale modelle in gesondheid [10].

Vir dokumentasie-KI spesifiek is die kontrolelys langer, en ’n maatskappy wat hierdie gereedskap bou, behoort die eerste te wees om dit neer te skryf. Wat is die weglatings- en hallusinasiekoerse, en wie meet dit? Wanneer ’n nota woorde aan die verkeerde spreker toeskryf, of ’n ontkenning laat val, wie vang dit? Het die pasiënt tot die opname toegestem; waar woon die klank, vir hoe lank, en onder wie se wetgewing? Suid-Afrika se POPIA maak doelbeperking ’n regsverpligting, nie ’n voorkeur nie, en verbied dat pasiëntdata na die buiteland geskuif word tensy een van sy artikel 72-voorwaardes nagekom word. Wat is die medies-regsposisie van ’n KI-opgestelde nota, en kan elke nota nagespoor word na die modelweergawe wat dit opgestel het en na die regstelling wat gevolg het? Hoe hou akkuraatheid stand oor aksente en tale heen in ’n land met twaalf amptelike tale? En wat doen die stelsel wanneer dit onseker is? Dit is nie redes om die tegnologie te weier nie. Dit is die prys om dit te vertrou, en enige verskaffer wat nie bereid is om dit in die openbaar te beantwoord nie, het dit reeds beantwoord.

Volle sirkel

In 1926, voordat die eerste elektroniese rekenaar bestaan het, het Francis Peabody vir ’n saal vol Harvard-mediese studente die ding gesê waar hierdie hele reeks om bly draai het: die geheim van die sorg van die pasiënt lê in die omgee vir die pasiënt [1]. ’n Eeu se tegnologie het hom nóg verkeerd bewys nóg, tot onlangs, besonder goed gedien. Papier het die omgee onder liasseerkabinette begrawe. Die eerste sagtewaregolf het die rekord bevry en die dokter gevange geneem. Die groot digitalisering het die fakturering verbind voordat dit die sorg verbind het. En toe, stadig en uiteindelik, het masjiene gekom wat kon luister, opsom, merk en gaan haal, en aandag het terug na die bed begin vloei.

Wat ons terugbring na waar deel een begin het, by Eric Topol se oortuiging dat KI se grootste geleentheid “is the opportunity to restore the precious and time-honored connection and trust - the human touch - between patients and doctors” [11]. Vyf aflewerings later is die uitspraak waaragter ek kan staan dít: die geleentheid is werklik, en die uitkoms is nog nie verdien nie. Elke vorige geslag gesondheidsorgsagteware het een probleem opgelos en ’n ander geskep, en hierdie een sal geen uitsondering wees nie, tensy dit aan ’n strenger standaard gehou word as sy voorgangers, deur die dokters, verpleegkundiges en pasiënte wat dit beweer om te dien. Die doel van gesondheidsorgsagteware was nooit die sagteware nie. Dit was nog altyd die twee mense in die vertrek.

’n Nota oor uitkykpunt: Akili AI, waar ek werk, bou kliniese dokumentasie- en werkvloeitegnologie vir gesondheidspanne in Afrika en verder. Hierdie reeks is van binne daardie poging geskryf, en presies daarom moet sy standaard van bewys hoër wees as sy entoesiasme.

Verwysings

Die verwysingslys is identies aan die Engelse uitgawe.