Inteligența artificială nu-și putea imagina o femeie ca mine - până acum

Jess Smith nu și-a imaginat că urma să declanșeze un experiment social atunci când, vara trecută, și-a încărcat o fotografie într-un generator de imagini bazat pe inteligența artificială.

Fosta înotătoare paralimpică din Australia a vrut să-și îmbunătățească poza de profil, așa că a încărcat o fotografie cu ea văzută integral și a specificat clar că îi lipsește partea inferioară a brațului stâng, de la cot în jos.

Dar ChatGPT nu a putut să genereze imaginea solicitată de Jess și, deși ea a încercat mai multe comenzi, rezultatele au fost în mare parte aceleași - ele înfățișau o femeie cu două brațe sau cu un dispozitiv metalic reprezentând o proteză.

Jess a întrebat IA de ce îi este atât de greu să creeze imaginea, iar acesta i-a spus că nu dispune de suficiente informații pe baza cărora să genereze.

„A fost o revelație importantă pentru mine: desigur, inteligența artificială reflectă lumea în care trăim și nivelul de inegalitate și discriminare care există”, spune ea.

Până la începutul lunii octombrie 2025, Smith nu reușise să creeze o imagine care să o reprezinte, dar generarea a fost posibilă când Jess a încercat din nou, după ce BBC l-a întrebat pe ChatGPT cauza eșecului.

Jess a rămas uimită când a văzut că inteligența artificială a putut crea o imagine fidelă a unei femei cu un singur braț, la fel ca ea.

„Oh, Doamne, a funcționat! Este extraordinar, în sfârșit a fost actualizat sistemul”, a declarat Jess pentru BBC. „Este un progres remarcabil”.

Poate părea un lucru nesemnificativ, însă această schimbare contează pentru milioane de persoane cu dizabilități.

„Să fii reprezentat în tehnologie înseamnă să nu fi lăsat la urmă, ci să fii integrat ca o parte a lumii care se creează”, spune Jess.

„Inteligența artificială evoluează, și toți avem de câștigat atunci când această evoluție se axează pe integrare. E mai mult decât un avans tehnologic, este un progres al omenirii”.

Un purtător de cuvânt al OpenAI, compania care a creat ChatGPT, a afirmat că s-au realizat „îmbunătățiri semnificative” ale modelului lor de generare de imagini în ultima perioadă.

Reprezentanții au adăugat: „Știm că încă există dificultăți, mai ales legate de reprezentarea echitabilă, și depunem eforturi pentru a îmbunătăți acest aspect - inclusiv prin perfecționarea proceselor ulterioare instruirii modelului de IA și prin includerea unor exemple mai diverse, care să ajute în timp la reducerea prejudecăților”.

Deși dizabilitatea lui Smith este în prezent redată corect de IA, Naomi Bowman, care vede doar cu un singur ochi, se confruntă în continuare cu o problemă similară.

Ea i-a cerut lui ChatGPT să estompeze fundalul unei fotografii, dar ea spune că acesta în schimb „i-a modificat complet fața și i-a uniformizat ochii”.

„Chiar și când i-am explicat în mod clar că am o problemă la un ochi și că nu trebuie să îmi schimbe fața, nu a reușit să înțeleagă”, afirmă ea.

La început, lui Naomi i s-a părut amuzant, dar ea spune că „acum mă întristează, pentru că scoate la iveală prejudecățile înrădăcinate în inteligența artificială”.

Ea cere ca modelele IA să fie „instruite și evaluate prin proceduri riguroase pentru a reduce prejudecățile și pentru a garanta că seturile de date sunt suficient de ample, astfel încât toate persoanele să fie reprezentate și tratate în mod echitabil”.

Generarea de imagini prin ChatGPT a fost uneori criticată datorită grijilor privind impactul utilizării IA asupra mediului.

Conversații incomode

Experții spun că prejudecățile și stereotipurile prezente în activitatea inteligenței artificiale reflectă adesea aceleași detalii trecute cu vederea în societate, iar lipsa de reprezentare nu se limitează doar la persoanele cu dizabilități.

Abran Maldonado, directorul executiv al Create Labs, o companie americană care dezvoltă sisteme de inteligență artificială ce țin conte de contexte culturale, spune că diversitatea în IA pornește începând de la cei care participă la instruirea și la etichetarea seturilor de date folosite.

„Este vorba de cine e prezent când se creează datele”, explică el. „Este nevoie de diversitate culturală de la început”.

Internetul nu oferă mereu o reprezentare fidelă a lucrurilor și Maldonado adaugă că inteligența artificială riscă să ignore complet oamenii care au trăit anumite experiențe, dacă aceștia nu sunt consultați.

Un exemplu binecunoscut a reieșit dintr-un studiu efectuat în 2019 de guvernul SUA, care a constatat că algoritmii de recunoaștere facială identificau fețele afro‑americane și asiatice cu mai puțină acuratețe decât pe cele caucaziene.

Deși are un singur braț, Jess nu se consideră o persoană cu dizabilități; ea spune că obstacolele cu care se confruntă sunt, de fapt, impuse de societate.

„Dacă folosesc o toaletă publică și trebuie să țin mânerul robinetului apăsat, asta mă pune în dificultate - nu pentru că nu aș fi capabilă, ci pentru că designerul nu a luat în calcul nevoile mele”.

Jess crede că există riscul ca aceeași neglijență să se manifeste și în domeniul inteligenței artificiale, prin dezvoltarea unor sisteme și spații care nu iau în calcul pe toată lumea.

Atunci când Jess și‑a împărtășit experiența pe LinkedIn, cineva i-a dat un mesaj pentru a‑i spune că aplicația lui IA poate genera o imagine a unei femei cu un singur braț.

„Am încercat și s-a întâmplat același lucru, nu am putut genera imaginea”, spune ea.

Jess i-a relatat persoanei respective, însă nu a primit niciun răspuns. Ea spune că astfel de reacții sunt tipice atunci când vine vorba de discuții despre dizabilități.

„Discuția este prea incomodă și inconfortabilă, iar oamenii se retrag”.

Acest articol a fost scris și revizuit de jurnaliști BBC, folosind inteligența artificială pentru a ajuta în procesul de localizare, ca parte a unui proiect pilot.

Editat de Andreea Gheorghe.