Kuvittele maailmaa, jossa keinotekoisesti älykkäät algoritmit tekevät päätöksiä, jotka vaikuttavat jokapäiväiseen elämääsi. Kuvittele nyt, että he ovat ennakkoluulottomia.
Tässä maailmassa elämme jo, sanoo datatieteilijä, Harvard PhD ja kirjailija Cathy O'Neil. (Lue osa keskusteluista tohtori O'Neilin kanssa täältä). Istuimme National Book Award -ehdokkaan kanssa selvittääksemme, mitä voimme tehdä ennakkoluuloihin big data -kaudella. CT: Onko AI ennakkoluuloisia?
CO: Jokaisen algoritmin, jota ei ole nimenomaisesti tehty oikeudenmukaiseksi, pitäisi olettaa olevan ennakkoluuloinen. Koska ihmisinä olemme ennakkoluulottomia. Jos tunnustamme tämän ja luomme näitä algoritmeja arvojemme ja tietomme kanssa, meidän ei pitäisi olettaa, että jotain on taianomaisesti tapahtunut asioiden oikeudenmukaisiksi tekemiseksi. Siellä ei ole mitään taikuutta.
CT: Mistä algoritmit saavat datansa?
CO: Se riippuu algoritmista. Joskus sosiaalinen media, esimerkiksi poliittisiin markkinoihin kohdistaminen tai mainonta tai voittoa tavoittelevat korkeakoulut ja saalistusluotot - mutta suurta osaa tiedoista ei kerätä sosiaalisessa mediassa tai edes verkossa.
Tiedonkeruu on sidottu yhä enemmän tosielämään, kuten työn hankkiminen, työssäsi työskentely, yliopistoon siirtyminen tai vankilaan meneminen. Nuo asiat eivät ole asioita, joita voimme kiertää tietosuojalakien avulla. Ne ovat valtakysymyksiä, joissa ihmisillä, joille algoritmit kohdistuvat, ei ole valtaa, ja ihmisillä, jotka keräävät tietoa ja rakentavat ja käyttävät algoritmeja, on kaikki valta. Sinulla ei ole yksityisyyden suojaa, jos olet rikollinen vastaaja, sinulla ei ole yksityisyyden suojaa koskevia oikeuksia työssäsi, eikä sinulla ole paljon tietosuojaoikeuksien tiellä, jos haet työtä, koska Jos et vastaa tulevan työnantajan esittämiin kysymyksiin, et todennäköisesti saa työtä.
Meidän pitäisi ajatella vähemmän yksityisyydestä ja enemmän vallasta, kun kyse on algoritmeista ja haitoista, joita [ne voivat aiheuttaa].
CT: Mitä voimme tehdä sen parantamiseksi?
CO: Voimme myöntää, että nämä algoritmit eivät ole luonnostaan täydellisiä, ja testata niiden virheiden varalta. Meillä olisi oltava jatkuvia tarkastuksia ja tarkkailijoita - etenkin tärkeiden päätösten, kuten työhön palkkaamisen, rikostuomioiden tai ihmisten arvioinnin, varmistamiseksi, että algoritmit toimivat haluamallaan tavalla, ei millään tavalla syrjivällä tai epäreilulla tavalla.
Ailsa Johnson / © kulttuurimatka
CT: Mitkä ovat parhaat ja pahimmat tapaukset datavetoista tulevaisuutta varten?
CO: Pahin tapaus on se, mikä meillä on nyt - että me kaikki sokeasti odotamme algoritmien olevan täydellisiä, vaikka meidän pitäisi tietää paremmin jo. Ja levitämme aiempia vääryyksiä ja epäoikeudenmukaisuuksia. Ja jätämme huomioimatta näiden algoritmien puutteet.
Paras tapaus on, kun tiedämme, että nämä algoritmit eivät ole luonnostaan parempia kuin ihmiset. Päätämme mitä haluamme ihmisinä, mihin pyrimme. Millaisena haluamme yhteiskunnan näyttävän, ja me opetamme nuo arvot. Jos teemme sen onnistuneesti, nämä algoritmit voivat olla parempia kuin ihmiset.
CT: Mitä roolia jokapäiväisillä ihmisillä voi olla?
CO: Tärkein rooli, jolla yksilö voi olla, on epäsuorasti luottaa mihinkään algoritmiin. Meillä on valtava määrä skeptisyyttä. Jos sinua arvioidaan algoritmin avulla, kysy 'Kuinka tiedän, että se on reilua, kuinka tiedän, että siitä on hyötyä, kuinka tiedän, että se on tarkka? Mikä on virheaste? Kenelle tämä algoritmi epäonnistuu? Onko se naisia vai vähemmistöjä epäonnistunut? ' Kysy sellainen kysymys.
Toinen asia, skeptisyyden lisäksi, on se, että jos luulet algoritmin olevan kohtuuton sinulle tai muille ihmisille, on organisoida näiden muiden ihmisten kanssa. Tuore esimerkki on opettajat. Lisäarvoa opettavia koskevat tilastolliset mallit ovat kauheita, melkein satunnaislukugeneraattoreita. Mutta heitä käytettiin päättämään, mitkä opettajat tulisi saada toimikaudeksi ja mitkä opettajat pitäisi erottaa, kaikkialla Yhdysvalloissa.
Ehdotukseni on, että he saavat ammattiliitonsa taaksepäin. Ja niin tapahtui joissain paikoissa. Mutta se on yllättävää, kuinka vähän vastustusta oli pisteytysjärjestelmän matemaattisen luonteen vuoksi.
CT: Kuinka pääsit "suuriin tietoihin"?
CO: Työskentelin Wall Streetillä ja olen nähnyt finanssikriisin sisäpuolelta. Minua kauhistutti tapa, jolla matematiikkaa käytettiin joko hyödyntämään ihmisiä tai huijaamaan ihmisiä. Näin sellaisia vahinkoja, jotka voivat johtua matemaattisista valheista, mitä kutsun ”matematiikan aseistamiseen”.
Päätin päästä eroon siitä, joten liittyin Occupy Wall Streetiin ja aloin työskennellä datatieteilijänä. Ymmärsin hitaasti, että näimme virheellisiä ja harhaanjohtavia hypejä harhaanjohvien tietoalgoritmien ympärillä, jotka tapahtuvat myös Wall Streetin ulkopuolella, ja että se aiheutti paljon vaurioita. Ero oli siinä, että vaikka ihmiset ympäri maailmaa huomasivat finanssikriisin, en uskonut, että ihmiset huomaaisi näiden suurten dataalgoritmien virheitä, koska ne tapahtuvat yleensä yksilötasolla.
Lue osa tohtori O'Neilin kanssa käymästä keskustelusta täältä. Tohtorin Cathy O'Neilin kirja Matematiikan tuhoaminen: kuinka suuri tieto lisää epätasa-arvoa ja uhkaa demokratiaa, on nyt saatavana.
