Nola AIrenganako hurbilketa kontzientea hartzeak datu multzo alboratuak murrizten dituen

Datu multzo multzoak eta AI etikoa

AI bidezko soluzioek datu multzoak behar dituzte eraginkorrak izateko. Eta datu multzo horien sorrera maila sistematikoan alborapen arazo inplizitu batekin josia dago. Pertsona guztiek jasaten dituzte alborapenak (kontzienteak zein inkontzienteak). Alborapenek edozein forma har ditzakete: geografikoak, linguistikoak, sozioekonomikoak, sexistak eta arrazistak. Eta alborapen sistematiko horiek datuetan biltzen dira, eta horrek alborapena iraunarazten eta handitzen duten AI produktuak sor ditzakete. Erakundeek arretaz hurbilketa bat behar dute datu multzoetan sartzen diren alborapenak arintzeko.

Alborapenaren arazoa azaltzen duten adibideak

Garai hartan prentsa negatibo asko bildu zuen datu-multzoaren alborapenaren adibide aipagarri bat curriculuma irakurtzeko irtenbide bat izan zen, gizonezkoen hautagaiei mesede egiten ziena emakumezkoen gainetik. Hau da, kontratazio tresnaren datu multzoak azken hamarkadan eskatzaileen gehiengoa gizonezkoa izan zenean curriculumak erabiliz garatu zirelako. Datuak alboratuak ziren eta emaitzek alborapen hori islatu zuten. 

Oso zabaldutako beste adibide bat: Google I/O garatzaileen urteko konferentzian, Google-k AI-k bultzatutako dermatologiarako laguntza-tresnaren aurrebista bat partekatu zuen, jendeari larruazala, ilea eta iltzeekin lotutako arazoekin zer gertatzen ari den ulertzen laguntzen diona. Dermatologiako laguntzaileak azpimarratzen du nola eboluzionatzen ari den AI osasungintzan laguntzeko, baina tresna hori koloreko pertsonentzat egokia ez dela kritikatu ondoren AIra sartzeko aukera ere nabarmendu du.

Googlek tresnaren berri eman zuenean, konpainiak honako hau adierazi zuen:

Guztiontzat eraikitzen ari garela ziurtatzeko, gure ereduak adina, sexua, arraza eta azal motak bezalako faktoreak hartzen ditu kontutan: beltzaran ez den larru zurbiletik hasi eta gutxitan erretzen den larru marroiraino.

Google, AI erabiliz larruazaleko gaixotasun arruntei erantzunak aurkitzen laguntzeko

Baina Vice artikulu batean esaten zen Googlek ez zuela datu multzo inklusiboa erabiltzen:

Zeregina betetzeko, ikertzaileek bi egoeratan kokatutako 64,837 pazienteren 12,399 irudiko 3.5 irudiko prestakuntza datu multzoa erabili zuten. Baina irudian agertzen diren milaka larruazaleko gaixotasunetatik, ehuneko 90 bakarrik Fitzpatrick V eta VI larruazal motak dituzten pazienteetatik zetozen, larruazal marroia eta azal marroi iluna edo beltza, hurrenez hurren. Datu-basearen ehuneko XNUMX azal garbia, azal zuri iluna edo marroi argia zuten pertsonek osatzen zuten, ikerketaren arabera. Laginketa alboratuaren ondorioz, dermatologoek diote aplikazioak zuriak ez diren pertsonak gehiegi edo gutxiegi diagnostikatu ditzakeela.

Vice, Google-ren Dermatologia aplikazio berria ez da larruazala ilunagoa dutenentzako diseinatu

Google-k erantzun zuen tresna hobetuko zuela esanez formalki kaleratu aurretik:

Gure AI bidezko dermatologia laguntzeko tresna hiru urte baino gehiagoko ikerketaren amaiera da. Gure lana Nature Medicine-n agertu zenetik, gure teknologia garatzen eta hobetzen jarraitu dugu, milaka lagunek emandako datuak eta larruazaleko kezkak dituzten milioika irudi gehiago biltzen dituzten datu multzo osagarriak txertatuz.

Google, AI erabiliz larruazaleko gaixotasun arruntei erantzunak aurkitzen laguntzeko

AI eta ikaskuntza automatikoko programek alborapen horiek zuzentzea espero genezakeen bezala, errealitateak dirau: bezainbeste dira. smart beren datu multzoak garbiak baitira. Programazio-esaera zaharraren eguneratze batean zaborra sartu/zaborra atera, AI irtenbideak beren datu multzoen kalitatea bezain indartsuak dira hasieratik. Programatzaileen zuzenketarik gabe, datu-multzo hauek ez dute beren burua konpontzeko atzeko esperientziarik, ez baitute beste erreferentzia-esparrurik.

Datu multzoak arduraz eraikitzea dago guztiaren oinarrian adimen artifizial etikoa. Eta jendea dago irtenbidearen oinarrian. 

Mindful AI AI Etikoa da

Alborapena ez da hutsean gertatzen. Datu multzo ez etikoak edo alboratuak garapen-fasean ikuspegi okerrak hartzeatik datoz. Alborapen-erroreei aurre egiteko modua industriako askok Mindful AI deitzen duten ikuspegi arduratsua eta giza-zentratua hartzea da. Mindful AIk hiru osagai kritiko ditu:

1. Mindful AI gizakiarengan oinarrituta dago

AI proiektuaren hasieratik, plangintza-faseetan, pertsonen beharrak erabaki guztien erdigunean egon behar dira. Eta horrek pertsona guztiak esan nahi du, ez azpimultzo bat bakarrik. Horregatik, garatzaileek mundu mailan oinarritutako jende askotariko talde batean oinarritu behar dute AI aplikazioak inklusiboak eta alborapenik gabekoak izan daitezen trebatzeko.

Datu-multzoak talde global eta anitz batetik biltegiratzeak alborapenak identifikatu eta goiz iragazten direla ziurtatzen du. Etnia, adin-talde, genero, hezkuntza-maila, jatorri sozioekonomikoa eta kokapen desberdinak dituztenek errazago antzeman ditzakete balio-multzo bat beste bat baino gehiago faboratzen duten datu-multzoak, horrela nahi ez diren alborapenak ezabatuz.

Begiratu ahots aplikazioei. AI adimentsua den ikuspegia aplikatzean eta talentu multzo global baten boterea aprobetxatuz, garatzaileek datu multzoetan dialekto eta azentu desberdinak bezalako elementu linguistikoak kontuan hartu ditzakete.

Gizakian oinarritutako diseinu esparrua hasieratik finkatzea oso garrantzitsua da. Bide luzea egiten du sortutako, zaindutako eta etiketatutako datuek azken erabiltzaileen itxaropena betetzen dutela ziurtatzeko. Baina, era berean, garrantzitsua da gizakiak produktuen garapenaren bizitza-ziklo osoan zehar begizta mantentzea. 

Begizta dauden gizakiek ere lagun diezaiekete makinei AI esperientzia hobea sortzen ikusle zehatz bakoitzarentzat. Pactera EDGE-n, gure AI datuen proiektuko taldeek, mundu osoan kokatuta, ulertzen dute kultura eta testuinguru ezberdinek nola eragin dezaketen AI prestakuntzako datu fidagarrien bilketan eta zainketan. Arazoak markatzeko, kontrolatzeko eta konpontzeko behar dituzten tresnak dituzte AIan oinarritutako irtenbide bat martxan jarri aurretik.

Human-in-the-loop AI proiektuaren "segurtasun-sare" bat da, eta pertsonen indarguneak eta haien jatorri anitzak makinen konputazio-ahalmen azkarrarekin konbinatzen ditu. Giza eta AI lankidetza hau programen hasieratik ezarri behar da, datu alboratuak proiektuan oinarria izan ez dadin. 

2. Mindful AI arduratsua da

Erantzukizuna izatea da AI sistemak alborapenik gabe daudela eta etikan oinarrituta daudela ziurtatzea. Datuak nola, zergatik eta non sortzen diren, nola sintetizatzen diren AI sistemek eta nola erabiltzen diren erabakiak hartzeko, inplikazio etikoak izan ditzaketen erabakiak kontuan hartzea da. Enpresa batek hori egiteko modu bat ordezkapen gutxiko komunitateekin lan egitea da, inklusiboagoak eta alboragarriagoak izan daitezen. Datuen oharpenen alorrean, ikerketa berriak azpimarratzen ari dira nola komentatzaile bakoitzaren etiketak azpizeregin bereizi gisa tratatzen dituen annotatzaile anitzeko ataza-eredu batek lurreko egiaren metodo tipikoen berezko arazoak arintzen lagun dezakeen, non komentatzaileen desadostasunak irudikapen gutxien ondorioz izan daitezkeen eta. jaramonik egin daitezke oinarri bakarreko egia baterako oharrak batzean. 

3. Fidagarria

Fidagarritasuna negozio bat gardena eta azaltzeko modukoa da AI eredua nola entrenatzen den, nola funtzionatzen duen eta emaitzak zergatik gomendatzen dituzten. Negozioak AI lokalizazioarekin espezializazioa behar du bere bezeroek beren AI aplikazioak inklusiboagoak eta pertsonalizatuagoak izan daitezen, bertako hizkuntza eta erabiltzaileen esperientziak ñabardura kritikoak errespetatuz, herrialde batetik bestera AI irtenbide baten sinesgarritasuna egin edo hautsi dezaketenak. . Adibidez, enpresa batek bere aplikazioak diseinatu behar ditu testuinguru pertsonalizatu eta lokalizatuetarako, hizkuntzak, dialektoak eta azentuak ahots bidezko aplikazioetan barne. Horrela, aplikazio batek ahots-esperientziaren sofistikazio maila berdina dakar hizkuntza guztietan, ingelesetik hasi eta ordezkapen gutxiko hizkuntzetara.

Zuzentasuna eta Aniztasuna

Azken finean, AI arduratsuak bermatzen du soluzioak datu-multzo justu eta anitzetan eraikitzen direla, non emaitza jakinen ondorioak eta eragina kontrolatzen eta ebaluatzen diren irtenbidea merkaturatu aurretik. Kontuan hartuz eta gizakiak konponbidearen garapenaren atal guztietan sartuz, AI ereduak garbi, gutxieneko joera eta ahalik eta etikoen mantentzen laguntzen dugu.

Zer deritzozu?

Gune honek Akismet-ek spam erabiltzen du. Ikasi zure iruzkina nola prozesatu den.