Giunsa ang Pagkuha sa usa ka Mahunahunaon nga Pamaagi sa AI Giputol ang Mga bias nga Mga Set sa Data

Mga bias nga Dataset ug pamatasan AI

Ang mga solusyon nga gipaandar sa AI nanginahanglan mga set sa datos nga mahimong epektibo. Ug ang paghimo sa mga datos nga datos puno sa usa ka implicit nga problema sa bias sa usa ka sistematikong lebel. Ang tanan nga mga tawo nag-antos sa bias (parehas nga wala’y panimuot ug wala’y panimuot). Ang mga kiling mahimo’g bisan unsang ihap sa mga porma: heyograpiya, lingguwistiko, sosyo-ekonomiko, sexista, ug rasista. Ug ang mga sistematikong bias nga giluto sa datos, nga mahimong magresulta sa mga produkto sa AI nga magpadayon ug magpadako sa bias. Ang mga organisasyon kinahanglan usa ka mahunahunaon nga pamaagi aron maminusan ang bias nga nagakamang sa mga set sa datos.

Mga Pananglitan nga Naglaraw sa Suliran sa Bias

Usa ka bantog nga pananglitan sa kini nga datos nagtakda sa bias nga nakakuha daghang negatibo nga pamahayag kaniadtong usa ka resume nga solusyon sa pagbasa nga gipaboran ang mga lalaki nga kandidato kaysa mga babaye. Kini tungod kay ang mga set sa datos sa rekrutment naugmad gamit ang pagpadayon sa miaging dekada kung diin kadaghanan sa mga aplikante mga lalaki. Ang bias sa datos ug ang mga sangputanan nagpakita sa kana nga bias. 

Usa pa nga halap nga giulat nga pananglitan: Sa tinuig nga komperensya sa developer sa Google I / O, gipaambit sa Google ang usa ka preview sa usa ka himan nga makatabang sa dermatology nga gitagana sa AI nga makatabang sa mga tawo nga masabtan kung unsa ang nahitabo sa mga isyu nga may kalabutan sa ilang panit, buhok, ug mga kuko. Gihatagan gibug-aton sa katabang sa dermatology kung giunsa ang pag-uswag sa AI aron makatabang sa kahimsog - apan gipakita usab niini ang potensyal alang sa bias nga mokamang sa AI pagkahuman sa pagpanaway nga ang galamiton dili igo alang sa mga tawo nga kolor.

Sa diha nga gipahibalo sa Google ang gamit, ang kompanya miingon:

Aron maseguro nga nagtukod kami alang sa tanan, ang among modelo mao ang hinungdan sa mga hinungdan sama sa edad, sekso, lahi, ug mga klase sa panit - gikan sa maluspad nga panit nga dili tan-awon hangtod brown nga panit nga panamtang masunog.

Ang Google, nga Naggamit AI aron makatabang nga makit-an ang mga tubag sa kasagarang kahimtang sa panit

Apan ang usa ka artikulo sa Vice miingon nga ang Google napakyas sa paggamit sa usa ka inclusive data set:

Aron matuman ang buluhaton, gigamit sa mga tigdukiduki ang usa ka dataset sa pagbansay nga 64,837 nga mga imahe sa 12,399 nga mga pasyente nga naa sa duha nga estado. Apan sa libu-libo nga kahimtang sa panit nga gilitrato, 3.5 porsyento ra ang gikan sa mga pasyente nga adunay Fitzpatrick nga klase sa panit nga V ug VI — ang mga nagrepresentar sa brown nga panit ug itum nga brown o itom nga panit, matag usa. 90 porsyento sa database ang gilangkuban sa mga tawo nga adunay patas nga panit, labi itom nga puti nga panit, o light brown nga panit, segun sa pagtuon. Ingon usa ka sangputanan sa bias nga sampling, giingon sa mga dermatologist nga ang app mahimong matapos sa sobra o dili masagnosis nga mga tawo nga dili puti.

Si Bise, Bag-ong Dermatology App sa Google Dili Gidisenyo alang sa Mga Tawo nga Adunay Mas Labi nga Panit

Gitubag sa Google pinaagi sa pag-ingon nga pagahinloan niini ang himan sa wala pa buhian kini nga pormal:

Ang among gamit nga dermatology nga gitabangan sa AI mao ang hinungdan sa labaw sa tulo ka tuig nga panukiduki. Tungod kay ang among trabaho gipakita sa Nature Medicine, nagpadayon kami sa pag-ugmad ug pagpino sa among teknolohiya sa pag-uban sa mga dugang nga mga dataset nga kauban ang datos nga gidonar sa libolibo nga mga tawo, ug milyon-milyon pa nga mga curate nga mga imahe sa pagkabalaka sa panit.

Ang Google, nga Naggamit AI aron makatabang nga makit-an ang mga tubag sa kasagarang kahimtang sa panit

Ingon sa gilauman namon nga ang mga programa sa pagkat-on sa AI ug sa makina mahimo nga magtul-id alang sa kini nga mga bias, nagpabilin ang reyalidad: parehas ra sila Smart ingon nga limpyo ang ilang mga set sa datos. Sa usa ka pag-update sa daan nga adbokasiya sa programa basura sa / basura gawas, Ang mga solusyon sa AI ingon ka lig-on sa kalidad sa ilang mga set sa datos gikan sa pagsugod. Kung wala’y pagtul-id gikan sa mga programmer, kini nga mga set sa datos wala’y kasinatian sa background aron ayohon ang ilang kaugalingon - tungod kay wala silay lain nga frame of reference.

Ang pagbutang sa mga datos sa responsableng responsable mao ang punoan sa tanan pamatasan artipisyal nga salabutan. Ug ang mga tawo mao ang punoan sa solusyon. 

Ang mahunahunaon nga AI usa ka pamatasan AI

Ang bias dili mahitabo sa usa ka haw-ang. Ang dili maayo o bias nga mga set sa datos naggikan sa pagkuha sa sayup nga pamaagi sa panahon sa pag-uswag. Ang paagi aron mabatukan ang mga sayup nga bias mao ang pagsagop sa usa ka responsable, nasentro sa tawo, nga pamaagi nga daghang sa industriya ang nagtawag sa Mindful AI. Ang mahunahunaon nga AI adunay tulo nga kritikal nga mga sangkap:

1. Mahunahunaon nga AI mao ang Sentro sa Tawo

Gikan sa pagsugod sa proyekto nga AI, sa mga yugto sa pagplano, ang mga panginahanglanon sa mga tawo kinahanglan nga naa sa sentro sa matag desisyon. Ug kana gipasabut sa tanan nga mga tawo - dili lang usa ka subset. Kana ang hinungdan nga kinahanglan magsalig ang mga developer sa usa ka lainlaing pangkat sa mga tawo nga nakabase sa kalibutan nga magbansay sa mga aplikasyon sa AI nga wala’y labot ug wala’y bias.

Ang pag-Crowdsouring sa mga set sa datos gikan sa usa ka tibuuk kalibutan, lainlaing koponan nagsiguro nga ang mga bias nahibal-an ug na-filter daan. Kadtong lainlain nga mga etniko, mga grupo sa edad, mga gender, lebel sa edukasyon, mga kaagi sa sosyo-ekonomiko, ug mga lokasyon mahimong dali nga makita ang mga set sa datos nga gipaboran ang usa ka hugpong sa mga kantidad kaysa sa uban pa, busa gikuha ang wala tuyoa nga bias.

Tan-awa ang mga aplikasyon sa boses. Kung nagpadapat sa usa ka mahunahunaon nga pamaagi sa AI, ug pagpahimulos sa gahum sa usa ka tibuuk nga talento sa talento, ang mga developer mahimo nga mag-asoy sa mga elemento sa pinulongan sama sa lainlaing mga diyalekto ug accent sa mga set sa datos.

Ang paghimo sa usa ka sukaranan nga laraw sa tawo nga nakasentro sa tawo kritikal. Layo pa kaayo ang agianan niini aron masiguro nga ang datos nga nakamugna, na-curate, ug gimarkahan nakatagbo sa gilauman sa mga end user. Apan hinungdanon usab nga ipadayon ang mga tawo sa loop sa tibuuk nga tibuuk nga kinabuhi sa paglambo sa produkto. 

Ang mga tawo sa loop makatabang usab sa mga makina nga makahimo usa ka labi ka maayo nga kasinatian sa AI alang sa matag piho nga mamiminaw. Sa Pactera EDGE, ang among mga koponan sa proyekto sa datos sa AI, nga makita sa tibuuk kalibutan, nahibal-an kung giunsa nga ang lainlaing mga kultura ug konteksto mahimong makaapekto sa pagkolekta ug pag-atiman sa kasaligan nga datos sa pagbansay sa AI. Adunay sila mga kinahanglan nga galamiton nga kinahanglan nila aron ibandilyo ang mga problema, monitoron kini, ug ayuhon kini sa wala pa buhato ang usa ka solusyon nga nakabase sa AI.

Ang Human-in-the-loop AI usa ka proyekto nga "safety net" nga gihiusa ang mga kusog sa mga tawo - ug ang ilang lainlaing mga kaagi uban ang kusog nga pag-compute sa gahum sa mga makina. Ang kini nga pagtinabangay sa tawo ug AI kinahanglan nga gitukod gikan sa pagsugod sa mga programa aron ang mapihig nga datos dili maporma usa ka pundasyon sa proyekto. 

2. Adunay Mahunahunaon nga AI Responsable

Ang pagkahimong responsable mao ang pagseguro nga ang mga sistema sa AI nga wala’y bias ug nga kini napasukad sa pamatasan. Kini bahin sa paghunahuna kung giunsa, ngano, ug diin gihimo ang datos, kung giunsa kini gisagol sa mga sistema sa AI, ug kung giunsa kini gigamit sa paghimo og desisyon, mga desisyon nga mahimo’g adunay implikasyon sa pamatasan. Ang usa ka paagi aron mahimo kini sa usa ka negosyo mao ang pagtrabaho kauban ang mga wala’y representante nga mga komunidad aron mahimo’g labaw nga kauban ug dili kaayo kampiyon. Sa natad sa mga anotasyon sa datos, ang bag-ong panukiduki nagpasiugda kung giunsa ang usa ka multi-annotator nga modelo nga daghang kalihokan nga nagtagad sa matag label sa anotator ingon nga managlahi nga subtask mahimong makatabang nga mapugngan ang mga potensyal nga isyu nga adunay mga tipikal nga pamaagi sa ground kamatuoran diin ang dili pagsinabtanay sa anotator mahimong hinungdan sa wala’y representasyon ug mahimong ibaliwala sa panagsama sa mga anotasyon sa usa ka tinuud nga kamatuoran. 

3. Masaligan

Ang pagkakasaligan naggikan sa usa ka negosyo nga transparent ug maathag sa kung giunsa ang modelo sa AI nabansay, giunsa kini nagtrabaho, ug kung giunsa nila girekomenda ang mga sangputanan. Ang usa ka negosyo nanginahanglan kahanas sa localization sa AI aron mahimo nga posible alang sa mga kliyente niini nga himuon ang ilang mga aplikasyon sa AI nga labi ka daghan ug gihimong personal, gitahod ang mga kritikal nga nuansa sa lokal nga sinultian ug mga kasinatian sa gumagamit nga makahimo o makabuak sa kredibilidad sa usa ka solusyon sa AI gikan sa us aka nasud ngadto sa sunod . Pananglitan, ang usa ka negosyo kinahanglan magdisenyo sa mga aplikasyon niini alang sa mga kaugalingon ug local nga konteksto, lakip ang mga sinultian, diyalekto, ug accent sa mga aplikasyon nga nakabase sa tingog. Nianang paagiha, nagdala ang usa ka app sa parehas nga lebel sa kasinatian sa boses nga sopistikado sa matag sinultian, gikan sa English hangtod sa wala’y representante nga mga sinultian.

Pagkatarung ug Pagkalainlain

Sa katapusan, gisiguro sa AI nga ang mga solusyon natukod sa patas ug lainlain nga mga set sa datos diin ang mga sangputanan ug epekto sa partikular nga mga sangputanan gisusi ug gisusi sa wala pa moadto ang solusyon sa merkado. Pinaagi sa pagkamahunahunaon ug pag-upod sa mga tawo sa matag bahin sa pag-uswag sa solusyon, gitabangan namon nga masiguro nga ang mga modelo sa AI magpabilin nga limpyo, gamay ang pinihig, ug ingon pamatasan kutob sa mahimo.

Unsay imong hunahuna?

Kini nga site naggamit sa Akismet sa pagpakunhod sa spam. Hibal-i kon giunsa ang pagproseso sa datos sa imong komento.