Af hverju börn þurfa sérstaka vernd gegn áhrifum gervigreindar

Barn situr á milli annars hugar foreldra sinna, heillað af því sem það sér á fartölvu.

Ludovic Toinel / Unsplash



Reiknirit geta breytt lífi barna. Krakkar eru í samskiptum við Alexas sem geta tekið upp raddgögn þeirra og haft áhrif á tal þeirra og félagslegan þroska. Þeir eru að bögga myndbönd á TikTok og YouTube sem ýtt er til þeirra af meðmælakerfum sem endar með því að móta heimsmynd þeirra.

Reiknirit eru einnig notuð í auknum mæli til að ákvarða hvernig menntun þeirra er, hvort þeir fái heilsugæslu og jafnvel hvort foreldrar þeirra þykja hæfir til að annast þau . Stundum getur þetta haft hrikaleg áhrif: síðasta sumar, til dæmis, þúsundir námsmanna misstu inngöngu í háskóla eftir reiknirit -notað í stað samræmdra prófa sem hætt var við heimsfaraldur - spáði ranglega fyrir um námsframmistöðu þeirra.





Börn eru með öðrum orðum oft í fararbroddi þegar kemur að notkun og notkun gervigreindar og það getur valdið því að þau slasast. Vegna þess að þau eru að þroskast vitsmunalega og tilfinningalega og líkamlega eru þau mjög mótunarhæf, segir Steve Vosloo, sérfræðingur í stefnumótun fyrir stafræna tengingu hjá Unicef, Barnasjóði Sameinuðu þjóðanna.

Vosloo leiddi gerð a nýtt sett af leiðbeiningum frá Unicef ​​sem ætlað er að hjálpa stjórnvöldum og fyrirtækjum að þróa gervigreindarstefnur sem taka tillit til þarfa barna. Nýju viðmiðunarreglurnar níu, sem voru gefnar út þann 16. september, eru afrakstur nokkurra samráðs við stefnumótendur, rannsakendur barnaþróunar, gervigreindarfræðingar og börn um allan heim. Þeir taka einnig tillit til barnasáttmála Sameinuðu þjóðanna, mannréttindasáttmála sem var fullgiltur árið 1989.

Leiðbeiningunum er ekki ætlað að vera enn eitt sett af AI reglum, sem margar hverjar segja nú þegar sömu hlutina. Í janúar á þessu ári, endurskoðun Harvard Berkman Klein Center af 36 af mest áberandi skjölum sem leiðbeina innlendum og fyrirtækja gervigreindaraðferðum fundu átta algeng þemu - þar á meðal friðhelgi einkalífs, öryggi, sanngirni og útskýringar.



Frekar er leiðbeiningum Unicef ​​ætlað að bæta við þessi núverandi þemu og sníða þau að börnum. Til dæmis ættu gervigreindarkerfi ekki bara að vera útskýranleg - þau ættu að vera hægt að útskýra fyrir krökkum. Þeir ættu einnig að huga að einstökum þroskaþörfum barna. Börn hafa aukinn rétt til fullorðinna, segir Vosloo. Einnig er áætlað að þeir séu að minnsta kosti þriðjungur netnotenda. Við erum ekki að tala um minnihlutahóp hér, bendir hann á.

Auk þess að draga úr gervigreindarskaða er markmið meginreglnanna að hvetja til þróunar gervigreindarkerfa sem gætu bætt vöxt og vellíðan barna. Ef þau eru vel hönnuð, til dæmis, hefur verið sýnt fram á AI-undirstaða námstæki bæta gagnrýna hugsun og hæfileika til að leysa vandamál barna , og þau geta verið gagnleg fyrir börn með námsörðugleika. Tilfinningalegir gervigreindaraðstoðarmenn, þó þeir séu tiltölulega nýbyrjaðir, gætu veitt andlega stuðning og sýnt hefur verið fram á að þeir bæti félagslega færni einhverfra barna. Andlitsþekking, notuð með varkárum takmörkunum, gæti hjálpað til við að bera kennsl á börn sem hafa verið rænt eða seld.

Börn ættu líka að fá fræðslu um gervigreind og hvetja til þátttöku í þróun þess. Það snýst ekki bara um að vernda þá, segir Vosloo. Þetta snýst um að styrkja þá og gefa þeim stofnunina til að móta framtíð sína.

Talandi um bágstadda hópa, auðvitað eru börn verst sett.



Yi Zeng

Unicef ​​er ekki sú eina sem hugsar um málið. Daginn áður en þessi drög að viðmiðunarreglum komu út gaf gervigreindaakademían í Peking (BAAI), stofnun sem studd er af kínverska vísinda- og tækniráðuneytinu og bæjarstjórn Peking, út. sett af AI reglum fyrir börn líka.

Tilkynningin kemur í kjölfarið ári eftir að BAAI kom út Beijing AI meginreglunum , skilið að vera leiðargildi fyrir innlenda gervigreindarþróun Kína. Nýju meginreglurnar sem lýst er sérstaklega fyrir börn er ætlað að vera áþreifanleg útfærsla á þeim almennari, segir Yi Zeng, forstöðumaður AI siðfræði og sjálfbærrar þróunar rannsóknarmiðstöðvar BAAI sem stýrði gerð þeirra. Þær eru í nánu samræmi við viðmiðunarreglur Unicef, sem snerta einnig friðhelgi einkalífs, sanngirni, útskýringar og velferð barna, þó að sum smáatriðin séu sértækari fyrir áhyggjur Kína. Leiðbeiningar til að bæta líkamlega heilsu barna, til dæmis, felur í sér notkun gervigreindar til að hjálpa til við að takast á við umhverfismengun.

Þó að þessar tvær tilraunir séu ekki formlega tengdar, er tímasetningin heldur ekki tilviljun. Eftir flóð gervigreindarreglna á síðustu árum segja báðir aðalritarar að búa til sérsniðnari leiðbeiningar fyrir börn hafi verið rökrétt næsta skref. Talandi um illa setta hópa, auðvitað eru börn verst sett, segir Zeng. Þetta er ástæðan fyrir því að við þurfum virkilega [að veita] sérstaka umhyggju fyrir þessum hópi fólks. Liðin ræddu sín á milli þegar þau sömdu skjöl sín. Þegar Unicef ​​hélt samráðsvinnustofu í Austur-Asíu mætti ​​Zeng sem fyrirlesari.

Unicef ​​ætlar nú að halda uppi röð tilraunaáætlana með ýmsum samstarfslöndum til að fylgjast með því hversu hagnýtar og árangursríkar leiðbeiningar þeirra eru í mismunandi samhengi. BAAI hefur stofnað vinnuhóp með fulltrúum frá nokkrum af stærstu fyrirtækjum sem stýra innlendri gervigreindarstefnu landsins, þar á meðal menntatæknifyrirtækinu TAL, neytenda raftækjafyrirtækinu Xiaomi, tölvusjónafyrirtækinu Megvii og netrisanum Baidu. Vonin er að fá þá til að fara að meginreglunum í vörum sínum og hafa áhrif á önnur fyrirtæki og stofnanir til að gera slíkt hið sama.

Bæði Vosloo og Zeng vona að með því að orða þær einstöku áhyggjur sem gervigreind veldur börnum muni leiðbeiningarnar vekja athygli á þessum málum. Við komum inn í þetta með opin augu, segir Vosloo. Við skiljum að þetta er eins konar nýtt landsvæði fyrir mörg stjórnvöld og fyrirtæki. Þannig að ef við sjáum með tímanum fleiri dæmi um að börn séu tekin með í gervigreind eða stefnumótunarferli, meiri umhyggju fyrir því hvernig gögnum þeirra er safnað og greind - ef við sjáum gervigreind gert betur útskýranlega fyrir börnum eða umönnunaraðilum þeirra - þá væri það sigur fyrir okkur.

fela sig

Raunveruleg Tækni

Flokkur

Óflokkað

Tækni

Líftækni

Tæknistefna

Loftslagsbreytingar

Menn Og Tækni

Silicon Valley

Tölvun

Mit News Tímaritið

Gervigreind

Rými

Snjallar Borgir

Blockchain

Eiginleikasaga

Alumni Prófíll

Alumni Tenging

Mit News Lögun

1865

Mín Skoðun

Messugötu 77

Hittu Höfundinn

Prófílar Í Rausnarskap

Sést Á Háskólasvæðinu

Alumni Bréf

Fréttir

Kosningar 2020

Með Vísitölu

Undir Hvelfingu

Brunaslanga

Óendanlegar Sögur

Tækniverkefni Heimsfaraldurs

Frá Forseta

Forsíðufrétt

Myndasafn

Mælt Er Með