Vigane loogika automatiseerimisfantaasia keskmes

Tehnika ei lahenda usaldust, vastutust ega vaeva - see nihutab vastutuse süsteemidest eemale üksikisikutele.

Nii privaatses, avalikus kui ka mittetulundussektoris rakendatakse kasvavas andmemahlas ühist retsepti: koostalitlusvõime → integratsioon → optimeerimine → automatiseerimine.

Nutikate linnade, tõhusate teenuste ja piiramatu vaba aja veetmise ajastule lubamine on automatiseerimine - fantaasia, mis juhib praegust äri- ja bürokraatiarevolutsiooni.

Kas olete hämmingus tohutul hulgal teavet (isiklikult tuvastatav ja muul viisil), mis on tekkinud teie digitaalajastu toimingute ajal? Ärge kartke, et automatiseerimise ajastu on siin.

Üks virn nende kõigi lahendamiseks

Automatiseerimine lubab (odavat) vastavust. See kummardab tõhususe altaril. See muudab teie õelad probleemid silumiseks ja keerulised süsteemid lineaarsete põhjuslike seoste kogumiks, mis lihtsalt ootavad eraldamist. Selles ei tehta vahet probleemide ja protsesside vahel, millega era- ja avalikud asutused silmitsi seisavad. See mitte ainult ei kaevanda teie andmeid teemantide kohta, vaid ka kivide lõikamist ja poleerimist. Lihtsamalt öeldes: see muudab maailma.

Organisatsioonid ei mobiliseeri ainult oma andmeid. Parimad teadmised saadakse erinevatest allikatest pärit andmete massilise kogumi analüüsimisel. Seetõttu ühendavad avaliku sektori asutused andmeid teenuste vahel ja seetõttu koondavad tarbijaettevõtted klientide isiklikku teavet. Nagu New York Times viitas, kulutasid Ameerika ettevõtted 2018. aastal tarbijaandmete hankimiseks ja töötlemiseks ligi 20 miljardit dollarit. Selle kulutuse lubatud loogika läheb umbes nii:

1. etapis (koostalitlusvõime) tehakse andmed masinloetavaks ja seeduvaks. Peaaegu käes on PDF-ide käsitsi digiteerimise päevad. Kasvav tööriistavalik, sealhulgas skannerid, arvutinägemine ja loomuliku keele töötlemise algoritmid, aitab veelgi räigemaid andmesubstraate välja koorida ning analüüsi jaoks küpset ja kogutud andmestikku uuesti kasutada. Graafianalüütika abil saab kaevandamiseks kihistada isegi kõige erinevamad andmekogumid.

2. etapis integreeritakse erinevate süsteemide andmed ja liideste, armatuurlaudade ja andmebaaside kaudu kättesaadavaks. Pikisuunalised uurijad, rõõmustage! Tornhoidlad on mõõteulatus. Graafikuid analüüsitakse. Varem nähtamatuid suhteid modelleeritakse ja visualiseeritakse. Suundumused on kuulutatud, nende tugevus ja suundumus on lahti seletatud ja neid on peetud nii paljuks "teadmiseks".

Kolmandas etapis optimeeritakse kihiti algoritmid virnaga, mis lubavad teha selliseid asju nagu "soovitada", "isikupärastada" ja "ennustada" palju paremini kui keegi teine ​​lihtsalt suudab või suudab. Selle asemel, et sidusrühmad kaasata keerulistesse aruteludesse väärtuste üle, võetakse nende algoritmide näpunäited meie varasemate otsuste ja domineerivate narratiivide loogikast - kapitalismist ja neoliberaalsest institutsionalismist. Nad sõidavad tõhususe poole. Nad sõidavad kasvu poole. Kui eelnevad süsteemid, mis genereerisid oma ajaloolised andmete sisendid, oleksid jätkusuutlikud, võrdsed või õiglased, siis võivad algoritmid ka need olla. Kui ei, siis edasi - kiirendage kokkuvarisemist.

4. etapis - automatiseerimine - antakse uutele algoritmidele uued kohustused. Tuginedes virnale, mis juba väidab, et süsteemidünaamikast ja suhetest saab paremini aru, pakuvad nad nüüd ümber vastutusmehhanisme ja otsustusstruktuure. Nad määravad krediidivõime. Nad määravad tervishoiuteenuste hüvitised. Nad eeldavad juurdepääsu avalikele teenustele - varasema ortogonaalse käitumise või inimese suutlikkuse kohta oma isikut tõestada.

Paraku. Lähitulevikus näib vähemalt lubatud maa, et üritatakse Arkansases luua DHS-i digikonto, ja see pole kahjuks päris ilus.

“Tulevik on juba siin - lihtsalt ebaühtlaselt jaotunud”

Oma praegusest filantroopia ahvenast näen, et nihe toimub kõikjal - erineva kiirusega erinevates kohtades, muutes töö alust, mida tahame teha sektorite ja piirkondade vahel - mõnikord salakavalalt, alati vääramatult.

Varem olen töötanud avalikus sektoris (DoD Cebrowski Instituut), erasektoris (tehnoloogia futuuride sündikaadiuuringud) ja valdkonnaülestes nõustamistes (innovatsiooni ökosüsteemide arendamine auhindu ergutavate võistluste jaoks). Suhteliselt lühikese aja jooksul olen jõudnud täisringi tehnikihuviliste entusiastidest (24-aastaselt kirjeldasin ennast tööavalduses kui „kantavate evangelistidest“) kuni ettevaatliku skeptikuni tehnoloogia võime suhtes sekkuda positiivselt inimese süsteemidesse.

Eelmisel aastal osalesin koosolekul Sand Hill Rd., Pekstes oma trummi eetika ja võrdsuse koondamise üle automatiseeritud avaliku sektori süsteemide arendamisel, kui rahastaja ja andmete integreerimise entusiast küsis väga tõsiselt: “Miks te seda üles viite? - näiteks, mis võib valesti minna? ”

Minu vaatenurgast on sellel hetkel vähem juttu sellest, mis võib valesti minna, ja rohkem sellest, mis juba olemas on. Automaatika fantaasia keskmes on midagi mäda.

Automatiseerimine käib paljude nimede all (“tehisintellekt”, “algoritmiline otsuste tegemine” jne), kuid meeldib varjata selle tõelist olemust. Siin on mõned paljudest nägudest, mida see kannab.

Prügi sisse, prügi välja.

Ja suurem osa sellest on prügi.

Muidugi, suurandmed on paljastanud korrelatsioone ja seoseid, mis võimaldavad rahaks realiseerida, väärtuste loomist ja teenuste paremat osutamist (võib-olla vähem, kui arvata võiks). Kuid seda suuresti hoolimata andmete kvaliteedist ja tõepärasusest, mitte selle tõttu.

Tsiteerides ühte paljudest eksitajatest, pole see, mida me ehitame, tegelikult tehisintellekt, see on (vigane) inimintellekt tööstuslike ühiskondlike masinate skaalal - jah, kardina taga olev mees keerleb endiselt tsivilisatsiooni nuppude juures. Ja jah, see on tõepoolest valge mees, kes kannab Palo Altos sokkide ja sandaalidega kaubasorti.

Planeerimine varjab end sageli ennustamisega.

Mastaabis loovad algoritmid tuleviku, mida nad ennustavad.

Kui masinad teevad täpset ennustust, on see status quo, mitte ettenägelikkuse võidukäik.

Sagedamini, nagu ka inimeste puhul, teevad nad iseteostavaid ennustusi. Nad teenindavad rohkem sama, seekord kiiremini, täpsemini ja vähem vajaliku sisendiga. Kui soovitate Netflixil järgmist vaadata, on see tõesti suurepärane. Ma ei soovi lõpetada sci-fi-filmide meeldimist tugeva naispeaosaga. (Juhul, kui see pole teie filtrimullist läbi tunginud, ärge magage kiirslaagriklassikas The Pyramid.)

Kuid kui rääkida avaliku sektori teenuste pakkumisest ja süsteemidest, millel on peredele ja toimetulekule reaalne mõju, siis on see teine ​​lugu. Miks me modelleeriksime teadlikult tuleviku otsuste vastuvõtmist varasemate mustrite üle, mis on meie teada olnud süstemaatiliselt kallutatud, ebaõiglased, ebaõiglased, diskrimineerivad ja paljudel juhtudel ideoloogiliselt vastutustundetud, kui mitte ohtlikud? Muidugi, algoritmid on päris head, et õppida varasematest mustritest tulevikuotsuste kavandamiseks. Kuid lugematutes süsteemides on see viimane asi, mida me peaksime tahtma, et nad seda teeksid.

Hõõrdumine on stabiilsuse ja progressi mootor.

Tervislikud süsteemid arenevad kaose servas.

Automatiseerimine saabub „progressi“ riba all, kuid ilmutab end paigalseisjana.

Hõõrdejõud - võitlus - on teoreetiliselt bioloogilise evolutsiooni, tööriistade kasutamise ja tehnoloogia arendamise, jõudsalt areneva immuunsussüsteemi ja muu edasiviiv jõud. Ja veel automatiseerimise retseptiraamatus on see esimene koostisosade asendajate loendis.

Haige, kui peate ise uurima? Algoritmid kaevandavad tohutu hulga teabevarasid, nii et te ei pea seda tegema. Haige, et järjekorras ootate? Algoritmid võivad teie saabumisaega optimeerida. Haige on vastuste koostamine osana inimlikust suhtlusest? Algoritmid võivad pakkuda vastust, mis on ebasoovitavalt just nii, nagu teie ise.

Kuid mis on kaalul selles kiirustamises määrida meie iga (trans) tegevust? Mis võib kaotada, kui me ei pea enam ootama, igavust kannatama, pingutama, sellele mõtlema või isegi proovima?

Optimeerimine ja mõjutamine on kontrolli peen vormid.

Ad-tech ärimudelitest laenates ei tähenda automatiseerimise lõppmäng kapitalistlikus ühiskonnas mitte ainult rohkemate asjade müümist, vaid ka tegelikult inimeste käitumise kujundamist.

Andmekaevandamise infrastruktuur, mille all automatiseeritakse linnuvaatlust, on sama, mis toetab jälgimiskapitalismi ja soovib meie agentuuri nüristada, röövida meie pühakoda ja kustutada meie ettearvamatuse. Nagu Shoshana Zuboff ütleb: “Unustage klišee, et kui see on tasuta, siis olete toode - te pole toode, vaid lihtsalt vaba toorme allikas, millest tooteid müüakse ja müüakse… Te ei ole toode, teie on mahajäetud rümp. ”

Brett Frischman kirjeldab filmis “Algoritm ja bluus: saabuva nutitehnika utoopia türannia” mõnda nutika tehnoloogia ja automatiseerimise keskmes olevat ideoloogiat:

“Väidetavalt muudavad nutikad telefonid, võrgud, autod, kodud, rõivad ja nii edasi meie elu lihtsamaks, paremaks, õnnelikumaks. Nende väidete juured on sügavalt nutitehnoloogia utoopilises visioonis, mis põhineb varasematel tehno-utoopilistel visioonidel, nagu küber-utopism, aga ka majanduslikel-utoopilistel visioonidel, näiteks Coaseani ideel hõõrdumisvabadest, täiesti tõhusatest turgudest ja Tayloristi visioonist. teaduslikult juhitud, suurepäraselt produktiivseid töötajaid. Meie kaasaegses digitaalselt võrgustatud maailmas hiilivad need visioonid kaugemale oma algsest kontekstist - idealiseeritud Internet, turud ja töökohad. Smart-tech saab hallata palju enamat meie elust. ”

Masinõppes pole maagiat.

Ainult need ja nullid, graafikud ja korrelatsioonid.

Masinõppes pole võlu, on lihtsalt loobutud otsuste langetamise järkjärguline voog (ja seega ka vastutus). Muidugi, maailmas esinev võimsuse tasakaalustamatus, kus mõned inimesed teevad otsuseid teiste nimel (rääkimata mitteinimestest), on palju problemaatiline, kuid kas me oleme tõesti nii kindlad, et ülistatud matemaatilised võrrandid teevad paremat tööd?

Arvutiprogrammeerimise vanaisa Donald Knuth tunnistas hiljuti New York Timesiga vesteldes: “Olen mures, et algoritmid muutuvad maailmas liiga silmatorkavaks. Selgus, et arvutiteadlased olid mures, et keegi meid ei kuula. Nüüd olen mures, et liiga palju inimesi kuulab. ”

On selge, et paljud otsustajad on juba ostnud fantaasia, et masinad sobivad paremini valikute tegemiseks kui meie. Koodeks on vastutav oluliste süsteemide ja otsuste eest, paljudel juhtudel isegi mõtlemata sellele, kas menetleda kaebusi või lahendada otsuseid. Kes saavad endale lubada pikaajalist juriidilist lahingut, et pöörduda abi saamiseks pärast seda, kui vigane algoritm keelab tervishoiuteenuse osutamise? Irooniline on see, et ainult need, kelle sissetulek välistab nende juurdepääsu avalikele teenustele üldse.

Kes võidab ja kes kaotab automatiseeritud maailmas?

Automatiseerimine lubab tuua sisse täiesti uued ebavõrdsuse vormid.

Üha enam müüakse lisatasu eest juurdepääsu teenustele, mis panevad teenuste osutamise automatiseerimisele ilmselgelt inimese näo. Ja automatiseeritud maailmas on privaatsus ja pühakoda privileegid, mille eest maksate.

„Parem ei tähenda kunagi paremat kõigi jaoks. Mõne jaoks tähendab see alati halvemat. ” - Margaret Atwood

Eelvaate saamiseks selle kohta, kes plaanib pika mängu võita, vaadake mõnda automaatika häälekamat pooldajat: + Ameerika-vaheline Arengupank (IDB) edendab ennustava analüütika kasutamist avalikus sektoris, mis on osa jätkuvast fetišist tuntud ka kui “arendusandmed”. + IBMi jaoks on andmed uus õli. Ettevõtte tarkvaraettevõtete jaoks on õhtusöögiks automatiseerimine ja avalik sektor on massiliselt arenev turg. + Nagu me kuulsime Facebooki Mark Zuckerbergi käest, kui (nõrgalt) Kongress vaidlustas peaaegu kõik probleemid platvormiga, mis nüüd vahendab globaalset infotarbimist (mis oli algselt mõeldud uustulnukate tüdrukute kontrollimisega seotud hõõrdumise vähendamiseks): algoritmid parandavad selle. + Suured konsultatsioonifirmad nagu Accenture saavad kasu sellest, mida nad nimetavad oma “tehnoloogiavisiooniks”. Sel nädalal on McKinsey autoritaarsete valitsuste abistamise ja seadustamise all tule all.

Põhimõtteliselt on automatiseeritud tulevikus kaudsed kompromissid. Meile müüakse kaubaarve, mis põhineb eeldatud tõhususe väärtusel, kuid teevad omakapitalis nähtamatuid kompromisse. Meile lubatakse vabadust hõõrdumisest, kuid kaotame lõpuks suundumuse. Meie süsteemid optimeerivad ressursside jaotust, kuid ainult tänu sellele, et muudame meid pidevalt süsteemide vastastikuseks haldamiseks ja vastutavaks. Me ootame tulevikku, kus pettus on masinlik, kuid näeme vaeva, et pidada kinni inimväärikusest ja mõtestatud elust. Meid võrgutab sirgjoonelise mõõtmise ja hindamise loogika, kuid unustage, et kõike, mis on oluline, ei saa mõõta.

Struktuuriline ebavõrdsus paikneb automatiseerimise analüütilises pimepunktis täiesti täpselt.

Liigne andmeanalüüsi osas tähtsustatakse funktsionaalselt korrelatsioonide tüüpe, mida lineaarne algebral on hea tuvastada, kuid mitte neid, mis tulenevad süsteemi keerulisest dünaamikast.

Nüüdseks on kallutatud algoritmid hästi tuntud probleem. Kuna nad sõltuvad varasematest andmetest, kehtivad nende jaoks halbade andmete kodeerimise viisid, mis põhinevad halval andmete kogumisel, teenuste ebavõrdsele ajaloolisele jaotusele (ja seega madala sissetulekuga ja vähemuste elanikkonna üle järelevalve teostamisele) ning eelküpsetatud eeldustele. Selle eelarvamuse tõendusmaterjali näeme sektoritevaheliste automatiseerimismeetmete rassistlikes ja seksistlikes tulemustes.

Kuid keskendudes masinõppe õigluse, vastutuse ja läbipaistvuse juurutamisele, ei suuda me puude jaoks ikkagi metsa näha. Täpsemalt ei arvesta algoritmide vigu parandamise katsed tavaliselt struktuurilise ebavõrdsusega. Kuna automatiseerimine on sisseehitatud ja sündinud ajaloolistest andmetest, teab automatiseerimine vaid olemasolevate mustrite soonte süvendamist, väärtustades ainult neid muutujaid, mis on mõõtmiseks eraldatud ja muudetud mõõdupuuks nende tähenduse kaudu.

Kuid just struktuurses ökosüsteemis, milles automatiseerimist rakendatakse, peame probleemide lahendamiseks ja käsitlema, kui tahame analüütiliste tööriistade lubadust täita. Statistilise analüüsi suhtes õigustatult on vesi, milles me ujume - rikkalik hautis, mis on täis domineerimise, kasvu ja tarbimise ideoloogiate, fundamentaalsete valede dihhotoomiate, ohjeldamatu teistsuguse, üldlevinud väärinformatsiooni ja ökoloogilise fatalismi narratiive - midagi, mida võime pilku heita kuid ületab seda vaevalt.

Automatiseerimisega pole transtsendentsi pakkuda. Optimeerimine, jah. Leevendamine ehk. Lahendused, ainult nimel. Automaatika fantaasia kannab selle asemel erandlikkuse eetost ja "ajaloo lõpu ülbe" võluvust. Automatiseerimise fantaasia soovitab analüütika juurutamist status quo struktuuride lukustamiseks. See on eriline vaade “edusammudele”. Asjad võiksid olla palju paremad, see eeldab, kuni võimu ja ressursside kõrgetasemeline jaotus jääb samaks.

Vaadates algoritme, mis lubavad revolutsiooniliselt muuta tervishoiuteenuseid, kirjutab Shannon Mattern:

Veelgi enam, pime usk, et üldlevinud andmete kogumine toob kaasa avastused, millest on kasu kõigile, väärib skepsist. Suuremahulised empiirilised uuringud võivad tugevdada tervisega seotud erinevusi, eriti kui demograafilised analüüsid ei põhine konkreetsetel hüpoteesidel ega teoreetilistel raamistikel. Eetik Celia Fisher väidab, et sellised uuringud nagu inimprojekt peavad selgelt määratlema „mida klass, rass ja kultuur tähendab, võttes arvesse seda, kuidas ühiskondlikud ja poliitilised jõud neid määratlusi pidevalt kujundavad ja uuesti määratlevad” ning kuidas teatud rühmad on tõrjutud, isegi patoloogiline, meditsiinilises diskursuses ja praktikas. Teadlased, kes teevad järeldusi täheldatud korrelatsioonide põhjal - teoreetimata ja historiseerimata -, riskivad tema sõnul tervisega seotud probleemide omistamine tõrjutud rühmade geneetilistele või kultuurilistele iseärasustele, mitte poliitikale, mis toetab süsteemseid poliitilisi ja institutsionaalseid tervisealaseid ebavõrdsusi. - Shannon Mattern, “Andmebaasid Codespace'is”

Automatiseerimine nihutab vastutuse koormamise süsteemidelt ja inimestelt eemale.

Müüt piiramatust vaba aja veetmisest automatiseerimise kaudu heliseb juba valesti.

Automatiseeritud maailmas on protsessid ümber kujundatud mitte kasutajakogemuse parandamiseks, vaid kasumimarginaalide suurendamiseks ja / või inimkapitali kulude vähendamiseks.

Kuid nagu näitab Karen Levy kaubavedude uurimine, ei asenda automatiseerimine inimesi nii palju, kui see neile tungib. Nagu vägivaldne endine partner, jälitab, riivab, kontrollib ja manipuleerib, nõudes samas intiimset juurdepääsu kehale ja suurendades juurdepääsu mõistusele.

Ilma sekkumiseta tõrjutakse äärealadel olevad inimesed veelgi marginaalsemaks. Ja kui automaatika võetakse kasutusele status quo teenistuses, võetakse igalt inimeselt, kes kasutab automatiseeritud süsteeme, väärtus ja / või nähtamatu tööjõud.

Patsient on nüüd omaenda ravi koordinaator ja propageerija. Tarbijat tarbitakse aktiivselt käimasolevas tarbimistsüklis. Kodanik on nüüd oma tõe vahekohtunik ja omaenda mõtte kuraator. Sektorite lõikes näitab nähtamatu (ja palgata) tööjõud, mis on nüüd vajalik süsteemides, kuhu oleme lahutamatult seotud, navigeerimiseks, meile - üksikisikule - üha vastutustundlikumaks ja tarbimisse, kodakondsusse ning tervise ja heaolu poole püüdlemiseks üha enam vastutustundlikuks muutunud toodeteks.

Sellist asja nagu neutraalne tehnoloogia pole.

Automaatikatehnoloogia fraktaalses hierarhias on nähtamatud väärtused manustatud kõikjale, kuhu vaatate.

Igas disainivalikus, igas rakendamisprotsessis, iga organisatsioonikultuuri muutuses ja lõppkasutaja otsuste tegemisel on väärtusi - moraalseid väärtusi.

Automatiseerimise kui „tehnilise paranduse” või tehnoloogia paratamatu rakenduse raamistamine varjab automatiseerimisastmes sisalduvate masinõppe algoritmide vanad filosoofilised ja moraalsed alused, töötades sageli auto-piloodil raskete ja kaasavate vestluste asemel väärtuste kohta, mis kvantifitseerimisele ja mõõtmisele vastu peavad.

Automaatikatehnoloogia osas ei tohiks me kunagi eeldada neutraalsust, rääkimata positiivsest arengust. See on eriti oluline, kui tegemist on andmete integreerimise ja automatiseerimisega avalikus sektoris. Sama tehnilist infrastruktuuri, mis on ehitatud valitsuse läbipaistvuse toetamiseks, saab hõlpsasti kasutada sotsiaalse kontrolli jaoks. Neid samu analüüsi kihte, mis lubavad kriminaalõigussüsteeme õiglasemaks muuta, saab kasutada ka eravanglate täitmiseks tõrjutud kodanikega. Ja kodanike juurdepääsu teenustele piiramiseks saab kasutada samu järelevalvemehhanisme, mis lubavad parandada avalikku turvalisust.

Hiina reklaamib oma sotsiaalkrediidisüsteemi, mis põhineb sõna otseses mõttes valitsuse fraasil „kui ta on kunagi usaldusväärne, alati piiratud“, kuidas parandada kodanike usaldust valitsuse vastu. Hiina ametnikud kohtusid eelmisel aastal vähemalt 36 riigi kolleegidega, et jagada oma lähenemist uue meedia või teabehaldusele (loe: digitaalne kontroll). Mehhikos, kus juba vaid 2% kodanikest usub, et nad elavad täielikus demokraatias, kiirendab läbipaistvus aruandekohustust, jättes selle järele mitte ainult tõe, vaid ka küünilisuse ja lahkarvamuse. Brasiilias ühendatakse erasektori tööhõiveandmetega tuntud ja ulatuslik avalik integreeritud andmesüsteem, mis on loodud sotsiaalteenuste osutamise automatiseerimiseks, just nagu ametisse astub kõva töötaja, kes on sõjaväelise diktatuuri suhtes romantiliselt vahatud. Keenias on valitsus otsustanud kataloogida iga kodaniku genoomi ja kõrvaklapi geomeetria. Ja Ameerika Ühendriikides ehitatakse avalikke integreeritud andmesüsteeme, mis peagi puudutavad enamikku kodanikke.

On selge, et paljud pühendunud riigiteenistujad, kes osutavad meie avalikke teenuseid, tervitavad andmete integreerimist õigustatult; isegi reaalajas andmetele armatuurlaudadele juurdepääsu saamine oma agentuuri kaudu on paljudes linnaosades endiselt köitev väljavaade. Kuid tuleb eristada andmeid, mida kasutatakse uuringute tulemuste parandamiseks, ja andmeid, mida kasutatakse üksikjuhtumite haldamisel, ennustaval analüüsil, otsuste toetamisel ja automatiseeritud teenuste osutamisel. Olen mures, et tehnoloogiaettevõtted müüvad avalikku sektorit automatiseerimise nägemuse alusel, mille tööriistad kinnitavad kapitalismi, mitte jätkusuutlikkuse väärtusi; tõhusus, mitte võrdsus; status quo, mitte õiglus. Ja tuleb märkida, et hoolimata sellest, kui palju parimate tavade väljatöötamisel ja rakendamisel järgitakse (nagu need on olnud integreeritud andmesüsteemis Allegheny maakonnas, PA), on igal automatiseerimislool vähemalt kaks külge.

Kõik siin olevad pildid on Daniel Rehni viisakusest Flickril

Igas kohas, kus vaatate, on automatiseerimise fantaasia ostmise ja viljaka pinnase leidmine oma seemnete istutamiseks. Vaatamata ettevõtte tehnoloogiaettevõtete tulevale hüppelisele hüpele teeb see enamasti seda vaikselt, salakavalalt ja strateegiliselt.

Mõjutatud kogukonnad jäetakse teadmata kuni esimese kontaktini lollaka protsessiga või häiriva kasutajakogemusega. Ülikooli IRB-d on asi, mida vaikselt igatseti ja mis laeva kiirustamisel unustati. Süsteemid tõstetakse hulgimüügist ühest kontekstist üles, need on valgete märgistega ja hüdrogeenitud teise. Uuendatud moderniseerimis- ja edusammude lubadusega kohustuvad meie juhid tagama kaubandusliku ühiskondliku kontrolli hankimise.

Tahan rõhutada, et see ei mõista hukka andmete integreerimist, graafianalüütikat ega masinõpet. Need on väärtuslikud tööriistad komplektis, mis peavad hõlmama ka ühiskonnaõpetust ja sidusrühmade kaasamist. Kuid nende tööriistade kasutamise kontekst loob sõltuvuse teest. Nende tööriistade ostmist ja kavandamist soodustav fantaasia väärib hoolikat uurimist. Ärimudelid, mida nad toetavad, varjatud väärtused, mida nad kodeerivad, nende peegeldatud isikukesksuse aste, viis, kuidas nad vastutustundlikult sidusrühmade vahel nihkuvad, ja struktuuriline ebavõrdsus, mida nad ähvardavad sügavale lukustada. Ja praegune automaatikatööriistade müügi ja juurutamise kontekst on sügavalt puudulik.

Kohustused kogukonna kaasamiseks, isikukesksed kavandamismetoodikad ja lähenemisviisid, range ja pidev eetiline ülevaade, sotsiaalteadlaste ja kunstnike vaikimisi kaasamine arenguprotsessidesse, algoritmiline auditeerimine ning selgesõnaline ja kaasav arutelu selle üle, millised väärtused tööriistadesse kinnistuvad (eriti küpsed) uuesti läbivaatamiseks: kodanike vahel välja ütlemata jäetud sotsiaalsed kompaktid ning kaubanduslikud / juriidilised juhtimismehhanismid) võiks minna kaugele, et tagada automatiseerimise autoritaarsuse pooldamine, kuid mitte siis, kui jääme magama selle isesõitva auto roolis.

Midagi on unenäo keskpunktis mäda ja me peame kiiresti üles ärkama - enne kui automatiseerime oma mineviku murtud lubadused oma tuleviku kangasse.