Număr vizualizări 331 ori
În ultimii ani, IA pătrunde tot mai mult în medicină. Dar nu totul este „roz”, așa cum încearcă să ne convingă companiile care vând aparate și programe medicale înzestrate cu IA. Ilustrația de mai sus prezintă un „braț” chirurgical al robotului Da Vinci cu care se operează cancere de prostată, colon, ginecologice etc. Avantajul principal al sistemului este precizia.
FDA (Food and Drug Administration), instanța care aprobă folosirea medicamentelor și echipamentului medical nou în SUA (recunoscută și în alte țări, inclusiv Israel) a publicat în mai 2025 lista de aparate medicale care folosesc algoritmii IA. (1) Ea cuprinde echipamente medicale cu software (logiciale) introduse în aproape toate specialitățile medicale ale spitalelor cu profil general. Și Israel contribuie la dezvoltarea sistemelor IA în medicină, după cum arată următorul videoclip:
IA a intrat în uz și în spitalele din România.
Un mare avantaj al IA este în radiologie, la depistarea unor patologii, de exemplu cancere, pe care medicul nu le observă ori pentru că sunt prea mici, ori pentru că îi lipsesc cunoștințele necesare pentru a pune diagnosticul corect.
Întrebarea cheie, dacă mașinile pot gândi, a pus-o încă în 1950 celebrul matematician Alan Turing, părintele informaticii și al primelor computere.(2)
În medicină este adesea nevoie de o gândire analitică și de multă experiență. În stadiul actual, IA poate instrui chirurgul cum să opereze, dar complicațiile din timpul operațiilor pot fi atât de complexe, încât ele necesită gândire umană și experiență.
IA este folosită de medici și la completarea fișelor medicale, sub formă de chatboți. Un chatbot este un program de calculator care simulează o conversație umană prin text sau voce, folosind IA, de exemplu ChatGPT, Gemini etc. O problemă serioasă apare atunci când pacientul, pe baza unei „discuții” cu un chatbot, își pune singur diagnosticul – și acesta este eronat.
Agenția de știri Reuters atrage atenția asupra greșelilor provocate de aparatele medicale înzestrate cu IA, fie din cauza lipsei de precizie a informațiilor transmise de IA în timpul unor operații, fie din incapacitatea unor chirurgi de a înțelege informația transmisă.(3) În ultimii ani s-au raportat numeroase greșeli ale roboților în timpul operației, unele cauzând complicații serioase pacienților, dar greșeli apar și în alte specialități care folosesc acest sistem.
Producătorii se străduiesc să adauge programe de IA la multe aparate medicale ca să fie „moderne”, dar este și un pretext pentru a le mări prețurile. Între timp, FDA primește tot mai multe reclamații legate de defecte în funcționarea unor aparate și complicațiile suferite de pacienți din această cauză. În cele mai multe cazuri IA nu a transmis chirurgului poziția exactă a aparatului în organul operat. Unele aparate au fost puse pe piață, deși firma a recunoscut că gradul de precizie era doar 80%.
În 2021, concernul Johnson & Johnson a introdus un algoritm la aparatura folosită în operațiile O.R.L. Cele mai problematice au fost operațiile pe sinusuri. După o asemenea procedură, un pacient a avut o scurgere a lichidului cerebrospinal, un risc semnificativ de meningită. În cariera noastră am văzut asemenea cazuri la operații pe sinusuri, dar IA ar fi trebuit să elimine aceste greșeli. FDA a raportat și două cazuri în care bolnavii au suferit infarcte cerebrale din cauza rănirii accidentale a arterei carotide interne în timpul operației pe sinusuri.
La ora actuală, FDA a aprobat 1.357 aparate medicale care folosesc IA, poate deja și mai multe – dublu față de anul 2022 (3) și la 115 dintre ele s-au semnalat probleme de software, algoritmi sau programare. Cazurile raportate FDA sunt în creștere, de exemplu o ecografie făcută la o gravidă cu aparatul Sonio Detect nu a identificat corect anatomia fătului. La trei spitale mari din SUA, 60 de aparate care foloseau IA au fost returnate la compania care le comercializa. Raportate au fost și defectele de la 16 monitoare produse de compania Medtronic (care funcționează și în Israel). Ele nu au depistat tulburări de ritm cardiac. Din fericire, niciun pacient nu a avut complicații din cauza acestor defecte.
FDA face față cu greu volumului uriaș de cereri de aprobare a echipamentelor înzestrate cu IA. Unele firme cer și primesc aprobarea FDA pe baza aprobării anterioare a aceluiași aparat, dar fără IA. Unii consideră că acest lucru este nesatisfăcător. Având în vedere numărul mare de defecte și de așa-zisele „halucinații” posibile ale IA, noi credem că introducerea noului echipament înzestrat cu IA trebuie controlată în mod strict pentru a proteja pacienții de complicații.
E clar că deocamdată inteligența artificială nu o poate înlocui pe cea umană în medicină și în alte domenii și cine încearcă, își asumă riscuri semnificative.
Peter Szmuk și Tiberiu Ezri
Bibliografie:
2. https://courses.cs.umbc.edu/471/papers/turing.pdf
3. https://apple.news/A9_7c5nUVT5aKpzqYndWuzw
Sursa ilustrațiilor:
1. https://commons.wikimedia.org/wiki/File:Laproscopic_Surgery_Robot.jpg
Nimur at the English-language Wikipedia, CC BY-SA 3.0 <http://creativecommons.org/licenses/by-sa/3.0/>, via Wikimedia Commons
2. https://commons.wikimedia.org/wiki/File:Alan_turing_header.jpg Elliott & Fry, Public domain, via Wikimedia Commons
17 Comments
Sunt curioasa ce va reusi Bill Gates sa implementeze din programul lui de salvare a unor joburi umane (AI fiind singura tewhnologie din istorie care distruge joburile in loc sa creeze noi locuri de munca, sustine el).si atenuarea riscurilor pe care le prezinta AI.
Solutiile pe care le propune:
!. sa fie puse deoparte anumite joburi pt. fiinte umane, in exclusivitate;
2. Sa se infiinteze comisii independente globale care sa elimine sau sa micsoreze cazurile de AI care reuseste sa scape de sub controlul uman si actioneaza independent (companiile AI fiind prea avide de profituri si obsedate de concurenta ca sa actioneze prudent, riscand in timp vieti umane);
3. Sa se perceapa niste taxe care sa incetineasca procesul de automaizare, banii de taxe fiind dirijati spre secritate).
Mi se par solutii rezonabile si B.G. care a devenit recent un luptator contra AI, asemenea altor executives, speriati de perspectiva unui viitor la cheremul masinilor a declarat ca-si va folosi tot timpul si energia ca sa alerteze guvernele tuturor tarilor la pericolul pe care il constituie AI.
Ma intreb ce se va alege de activitatea lui caritabila, careia, pana nu demult, ii dedica tot timpul si energia lui?!
Din articolul tau draga Tibi, foarte incitant ca intotdeauna retin urmatoarele:
“Un mare avantaj al IA este în radiologie, la depistarea unor patologii, de exemplu cancere, pe care medicul nu le observă ori pentru că sunt prea mici, ori pentru că îi lipsesc cunoștințele necesare pentru a pune diagnosticul corect.”
Ca de altfel si in alte situatii mentionate, in mintea mea nu e prea clar modul in care AI ia hotarari in operatii sau cum se explica situatia de mai sus?
Ar trebui să existe o metodă de verificare a soluţiilor date de acest nou exemplar apărut pe lume, chiar şi la baabel, în urma dialogului purtat cu el , de curând, de către Andrea . Personajul AI, nu numai că îşi execută misiunea de traducător, sau poate alte misiuni în alte domenii, dar îşi exprimă şi părerile, face şi modificări de conţinut, precum exemplific mai jos. Acestea pot fi greşite. Verificarea, chiar şi pentru lucruri simple e obligatorie, cu atât mai mult în probleme medicale.
Scrisesem că tatăl meu fusese arestat între 1961-1969, şi AI a corectat anul final la 1964, schimbându-l cu anul 1964, au fost eliberaţi de către Dej, majoritatea prizonierilor politici. Afirmaţia este reală, doar că în particular e falsă. Corectând greşeala , personajul AI, şi-a exprimat regretul că a greşit. Deci deocamdată, situaţiile sunt sub un relativ control, nu e sigur că aşa va fi şi mai departe.
Aşa este, AI uneori fabulează. Trebuie folosit cu discernământ, iar discernământul cere experienţă şi o competenţă relativă. Cred că aici e pericolul cel mai mare, pentru că e foarte tentant să fie utilizat şi de elevii, studebţii şi adulţii comozi (ca să nu spun leneşi).
DL, PROF,GABI GURMAN
FELICITARI
AI LA NOI IN BUHUSI
“SA TRAIASCA AI NOSTRII”
DE LA TRASURA LUI STRUL …….LA INTELIGENTA ARTIFICIALA
Un articol de mare actualitate căci suntem preocupați în bună măsură de dezvoltarea acestor instrumente care înglobează multă inteligență și sunt foarte utile. Până dau greș…
Mă gândesc la faptul că, probabil, în SUA sunt cel mai răspândit folosite și, având în vederea aplecarea societății americane spre procese și despăgubiri în cazuri de malpraxis, cred că firmele de avocatură will get busy…
Este clar ca IA în toate domeniile se va perfecționa, dar cu ce preț?
Deocamdată e greu de prevăzut cu ce preţ, în afară de cel foarte, foarte mare pentru echipamentele extrem de performante. Cred că e acelaşi fenomen de teamă ca atunci când a apărut trenul sau primele automobile. Omul le-a acceptat, s-a folosit de ele şi a trebuit să se perfecţioneze. Aşa va fi şi cu AI, omul trebuie să se adapteze şi să devină tot mai informat şi mai inventiv.
O traducere hazlie!
Cred că, deşi IA există de ceva timp, nu a trecut perioada ei de pionierat şi e firesc să apară şi erori în aplicarea şi utilizarea sa. Cred că e un instrument foarte valoros şi, cu timpul, va deveni indispensabil. Desigur, atâta timp cât rămâne un instrument care ajută omul. Pe de altă parte, câte erori umane apar în activitatea medicală! Unele studii estimează că erorile de diagnostic apar în aproximativ 5–20% dintre întâlnirile medic–pacient. În comparaţie, o meta-analiză din 2024 a găsit pentru IA generativă o acurateţe diagnostică de aproximativ 57%. Cifrele nu sunt direct comparabile, fiind obţinute în contexte diferite, dar mi se pare interesant că nici omul, nici IA nu sunt infailibili – iar performanţa IA se îmbunătăţeşte foarte rapid. Nu trebuie să cerem IA perfecțiunea pe care, în realitate, nici oamenii nu o au.
Foarte de acord cu tot comentariul, dar cea mai importantă frază este “atâta timp cât rămâne un instrument care ajută omul”. Și mi-e teamă ca nu vom putea controla momentul când rolurile se vor inversa. Recent TV Israel a raportat ca hakeri iranieni încearcă să pătrundă în anumite puncte strategice israeliene cu ajutorul I.A.
Pe mine mă înspăimântă acest articol. M-am gândit ca mulți alții că această tehnologie fantastică este de bun augur doar cu condiția interpretarii creatoare a minții umane.De aici și atitudinea mea cam neâncrezătoare., deocamdată tocmai pentru că eu însămi am descoperit inexactități din fericire în domenii care nu periclitează sănătatea dar pot provoca confuzii
Sunt de acord cu ce scrieți. Cred că în viitor, balanța risc/beneficiu va fi în defavoarea umanității.
Sper să trăiesc atâta timp cât eu mă pot folosi de AI și nu ea de mine!!!
GbM
Și eu sper.
Foarte haios!
Eu prevăd multe probleme dăunătoare în viitor din cauza AI așa cum am descris intr-un articol precedent. Recent s-a anunțat la noi la TV încercarea infiltrării prin AI a hakerilor dușmani în anumite instituții strategice.
Nu am nicio indoială ca AI e un serios dușman potențial
GbM
Inteligența artificială în sine nu e un lucru rău (în afară de consumul fantastic de energie), dar trebuie bine antrenată și folosită cu discernământ.
Să-ți dau un exemplu (nu din medicină): un producător de ulei vegetal din Israel („kașer parve”) i-a dat inteligenței artificiale să-i traducă eticheta în engleză și a ieșit „kasher fur”. Intelgența artificială a citit „parva”, nimeni nu a verificat și a ieșit „blană”.