Rasa umană, prezisă de inteligența artificială pe baza radiografiilor. De ce îi neliniștește asta pe cercetători?

Modelele de învățare profundă bazate pe inteligența artificială (AI) pot identifica rasa umană pe baza radiografiilor, au dezvăluit noi cercetări, ceva ce ar fi imposibil pentru un medic care privește aceleași imagini.

Descoperirile ridică câteva întrebări îngrijorătoare cu privire la rolul AI în diagnosticul, evaluarea și tratamentul medical: ar putea prejudecățile rasiale să fie aplicate neintenționat de către un software de calculator atunci când se studiază imagini ca acestea?

• Ce s-a întâmplat cu dinții oamenilor atunci când fluorul a fost scos din apă?
• Ce a arătat un studiu pe mii de gemeni despre legătura dintre depresie și fructe

După ce au antrenat un AI folosind sute de mii de radiografii etichetate cu detalii despre rasa pacientului, o echipă internațională de cercetători în domeniul sănătății din SUA, Canada și Taiwan a testat sistemul pe radiografii pe care pe care computerul nu le mai văzuse și care nu aveau etichete, scrie Science Alert.

Algoritmul care „ghicește” rasa umană este îngrijorător de precis

AI a putut prezice rasa umană a pacientului pe baza acestor imagini cu o acuratețe surprinzătoare, chiar și atunci când radiografiile erau de la persoane de aceeași vârstă și de același sex. Sistemul a atins niveluri de precizie de 90% cu unele grupuri de imagini.

„Am urmărit să efectuăm o evaluare cuprinzătoare a capacității AI de a recunoaște identitatea rasială a unui pacient din imaginile medicale”, scriu cercetătorii în lucrarea lor, publicată în The Lancet Digital Health.

„Astfel arătăm că modelele standard de învățare profundă AI pot fi antrenate pentru a prezice cu performanță ridicată rasa pe baza unor imagini medicale realizate cu mai multe modalități de imagistică; performanța a fost susținută în condiții de validare externă”, au mai scris cercetătorii.

Prejudecățile AI

Cercetarea reiterează rezultatele unui studiu anterior care a constatat că scanările cu inteligență artificială ale imaginilor cu raze X aveau mai multe șanse să rateze semnele de boală la oamenii de culoare. Pentru a împiedica acest lucru, oamenii de știință trebuie să înțeleagă de ce acesta se întâmplă.

Prin însăși natura sa, AI imită gândirea umană pentru a identifica rapid modele în date. Cu toate acestea, asta înseamnă că inteligența artificială poate avea fără să vrea aceleași tipuri de prejudecăți. În plus, complexitatea AI face dificilă dezlegarea prejudecăților cu care ar putea fi construită.

În prezent, oamenii de știință nu sunt siguri de ce sistemul AI este atât de bun la identificarea rasei din imagini care nu conțin astfel de informații, cel puțin nu la suprafață. Chiar și atunci când sunt furnizate informații limitate, eliminând indiciile privind densitatea osoasă, de exemplu, sau concentrându-se pe o mică parte a corpului, modelele s-au comportat în continuare surprinzător de bine la aflarea rasei raportate în dosar.

Este posibil ca sistemul să găsească semne de melanină (pigmentul care dă culoarea pielii) pe care știința încă nu le-a descoperit.

Ne vom putea baza mai mult pe AI în viitor?

„Descoperirea faptului că AI poate prezice cu exactitate rasa auto-raportată, chiar și din imaginile medicale corupte, tăiate și cu zgomote, adesea atunci când experții clinici nu pot, creează un risc enorm pentru toate implementările de modele din imagistica medicală”, scriu cercetătorii.

Cercetarea se adaugă la o grămadă tot mai mare de dovezi că sistemele AI pot reflecta adesea prejudecățile ființelor umane, fie că este vorba de rasism, sexism sau altceva. Datele de antrenament deformate pot duce la rezultate denaturate, făcându-le mult mai puțin utile.

Acest lucru trebuie să fie balansat cu potențialul puternic al inteligenței artificiale de a obține mult mai multe date mult mai rapid decât pot oamenii, peste tot, de la tehnici de detectare a bolilor la modele de schimbări climatice.

Rămân o mulțime de întrebări fără răspuns din studiu, dar deocamdată este important să fim conștienți de potențialul ca prejudecățile rasiale să apară în sistemele de inteligență artificială, mai ales dacă vom alege să ne bazăm mai mult pe AI în viitor.

Vă recomandăm să citiți și:

Legătura dintre inflamație și durerea cronică de spate ar putea fi alta decât s-a crezut

Un număr mare de tineri cu depresie nu se tratează deloc. Care este cauza?

Dieta bogată în fibre, asociată cu o rezistență mai mică la antibiotice

Consumul de afine poate reduce riscul de demență, potrivit unui studiu