Vai koledžām tiešām būtu jāievieto viedie skaļruņi kopmītnēs?

Kad Mateo Catano 2018. gada rudenī atgriezās Sentluisas universitātes bakalaura studiju gadā, viņš atrada sev jaunu istabas biedru — nevis citu studentu, bet gan bezķermeņa smadzenes Amazon Echo Dot formā.

Vasaras sākumā SLU informācijas tehnoloģiju nodaļa bija uzstādījusi aptuveni 2300 viedo skaļruņu — pa vienam katrai universitātes rezidences telpai, tādējādi skola ir pirmā valstī, kas to izdarījusi. Katra ierīce bija iepriekš ieprogrammēta ar atbildēm uz aptuveni 130 SLU specifiskiem jautājumiem, sākot no bibliotēkas darba laika līdz reģistratūras biroja atrašanās vietai (skola nosauca šo AskSLU). Ierīces ietvēra arī pamata balss prasmes, kas pieejamas citos Dots, tostarp trauksmes signālus un atgādinājumus, vispārīgu informāciju un iespēju straumēt mūziku.

Šis stāsts bija daļa no mūsu 2020. gada janvāra numura

• Skatiet pārējo izdevuma daļu
• Abonēt

Catano Dot bija apsveicams papildinājums. Viņam patika no rīta vispirms dzirdēt laika ziņas un zināt, kuras ēdamzāles ir atvērtas. Un, ja viņš ir godīgs, viņam patika uzņēmums. Viņš saka, ka, dzīvojot vientuļā, AskSLU noteikti lika man justies mazāk vientuļam. Un man patika tas, ka esmu pirmajā universitātē, kas to izdarīja.

Catano reakcija bija tieši tāda, uz ko cerēja SLU administratori. Šoruden jezuītu iestāde paziņoja par plāniem paplašināt Echo Dots balss prasmes, iekļaujot gan īsziņas, gan tērzēšanas robota funkcijas.

Nav ne jausmas par ilgtermiņa ietekmi

Mēs esam uz jaunas viedo skaļruņu ēras sliekšņa universitātes pilsētiņā. Tik plašas skolas kā Arizonas Valsts universitāte, Lankasteras universitāte Apvienotajā Karalistē un Rosa Universitātes Medicīnas skola Barbadosā ir ieviesušas balss prasmju tehnoloģiju universitātes pilsētiņā. Dažas, tostarp Ziemeļaustrumu universitāte, ir veikušas tehnoloģiju soli tālāk un tagad nodrošina studentiem piekļuvi finanšu datiem, kursu grafikiem un atzīmēm, kā arī nesamaksātām maksām, izmantojot balss ierīces.

2018. gada beigās Bostonas Emersonas koledža paziņoja, ka tā ir viena no 18 finansējuma saņēmējām no Amazon, lai attīstītu balss iespējotas tehnoloģijas universitātes pilsētiņās, kas ir daļa no tehnoloģiju giganta Alexa inovāciju stipendijas. Emersons ir izveidojis īpašu balss laboratoriju, kurā skolēni var mijiedarboties un eksperimentēt ar Alexa prasmēm, un tā plāno uzstādīt Alexa ierīces tādās vietās kā teātri un ārpus liftu bankām.

Dažu no šīm skolām administratori man teica, ka viņi uzskata, ka Alexa veicinās uzņemšanu un samazinās atbirušo skaitu. Vairāki arī teica, ka uzskata, ka balss tehnoloģija var palielināt viņu skolēnu panākumus un palielināt viņu vispārējo laimi.

Tomēr universitātes pilsētiņā ir daudz cilvēku, kuri redz tumšo pusi.

Runājot par klausīšanās ierīču izvietošanu vietās, kur notiek sensitīvas sarunas, mums vienkārši nav ne jausmas, kādu ilgtermiņa ietekmi Amazon ierakstītās un saglabātās sarunas varētu atstāt uz viņu nākotni — pat, iespējams, uz viņu veselību un labklājību, saka Rasels. Ņūmens, Emersona profesors, kurš pēta komunikācijas un komunikācijas politikas politisko ekonomiku.

Mēs joprojām īsti nezinām, cik daudz datu balss prasmju resursdatori, piemēram, Amazon vai trešās puses, kas paļaujas uz Amazon, vāc un ko viņi dara ar šo informāciju.

Citi mācībspēki, ar kuriem es runāju, atkārtoja Ņūmena iebildumus. Ko darīt, ja dati, kas iegūti no studentu sarunām, ietekmētu viņu iespējas vēlāk iegūt hipotēku vai darbu? Kā būtu, ja to izmantotu pret ārvalstu studentiem, lai viņus izraidītu, iespējams, uz mītnes zemēm, kur viņus varētu ieslodzīt par saviem politiskajiem uzskatiem?

Taisnība. Tātad, ņemot vērā visus riskus, kāpēc koledžas tik ļoti vēlas piepildīt savas pilsētiņas ar mikrofoniem, kuros iespējots AI? Kas viņiem par labu?

AI glābšanai

Koledžas un universitātes saskaras ar vairākām draudošām krīzēm. Pēc gadiem ilgi pieaugošā audzēkņu skaita ASV skolās samazinās uzņemto skaits, un paredzams, ka nākamajā desmitgadē šī tendence pasliktināsies. Augstākās izglītības hronikas 2019. gada novembra īpašais ziņojums prognozē strauju kritumu pat valsts selektīvākajās iestādēs. Iestāžu ieņēmumi ir apstājušies — Moody’s Investors Service izdeva negatīvu prognozi augstākajai izglītībai 2019. finanšu gadam, izņemot universitātes dienvidu daļā. Trīs gadus Izglītības departaments ir centies samazināt miljardus no finansiālās palīdzības un atbalsta nabadzīgākiem studentiem, lai gan Kongress ir noraidījis samazinājumu. Valsts iemaksas valsts universitāšu budžetos ir aizkavējušās kopš pēdējās recesijas. Privātās koledžas arī cīnās; vairāk nekā ceturtā daļa no tiem tagad ir mīnusā. Pēdējos gados durvis slēdza 20 privātas bezpeļņas koledžas, un daudzas citas apsver iespēju apvienoties vai konsolidēt.

Tikmēr puse no visiem studentiem, kas iestājas koledžā, nepabeidz studijas sešu gadu laikā. Pētnieki sniedz dažādus skaidrojumus. Niks Boumens, Aiovas universitātes izglītības profesors, norāda uz faktu, ka mūsdienu studenti ir vecāki par tradicionālajiem 18 līdz 22 gadus veciem jauniešiem. Daudzi strādā pilnas slodzes darbu. Daži rūpējas par bērniem vai brāļiem un māsām, vai vecākiem vecākiem. Un ar vidēji 35 000 USD studentu kredīta parādu pēc četriem skolas gadiem, izredzes pamest mācības var būt vilinošas.

Daudziem koledžu administratoriem AI piedāvā pievilcīgus risinājumus šīm grūtībām. Vinstonas-Seilemas štata universitātei, vēsturiski melnādainajai universitātei ar daudziem zemiem ienākumiem un pirmās paaudzes koledžas studentiem, ir bijušas pastāvīgas problēmas, palīdzot katram, kas iestājas klasē, sasniegt galvenos termiņus, piemēram, iesniegt vidusskolas stenogrammas un vakcinācijas ierakstus, aizpildīt finansiālās palīdzības veidlapas un sagatavot mājokļu noguldījumi. Mēs sapratām, ka daudzi mūsu studenti, iespējams, nesaprot koledžas uzņemšanas procesu un, iespējams, nevar paļauties uz ģimenēm vai atbalsta sistēmām, lai to atšifrētu, saka Džejs Deiviss, universitātes mediju attiecību vadītājs.

Pirms diviem gadiem WSSU sadarbojās ar tehnoloģiju firmu AdmitHub, lai piedāvātu AI tērzēšanas robotu ar nosaukumu Winston, lai palīdzētu studentiem orientēties uzņemšanas procesā. Deiviss saka, ka lietotne sekmīgi atbild uz aptuveni trīs ceturtdaļām studentu jautājumu un ir ievērojami pieaudzis to studentu skaits, kuri atbilst savām finansiālajām prasībām un iesniedz visus pieteikuma aizpildīšanai nepieciešamos apliecinošos dokumentus. Šogad WSSU rīko savu lielāko pirmā kursa nodarbību vairāk nekā desmit gadu laikā, un Deiviss saka, ka Vinstonam tajā bija liela loma.

Piekļuve jūsu vārdiem uz visiem laikiem

Es pavadīju vairākas stundas, spēlējoties ar tērzēšanas robotiem dažās koledžās un universitātēs. Viņi visi uzdeva jautājumus par skolas talismanu, kur es varētu atrast vakariņas un kad bija nākamais sporta vai absolventu sadarbības pasākums. Bet viņi apmētāja citus. Kad es kādam pateicu, ka esmu slims, tas mani informēja, ka studentu veselības centrs neizsniegs rakstisku attaisnojumu nodarbību kavēšanai. Es jautāju, kur atrodas studentu veselības centrs; tas atbildēja ar universitātes ekskursiju laikiem topošajiem studentiem. Es teicu citam, ka jūtos nomākts, un tas atsaucās uz federālo studentu finansiālās palīdzības programmu.

Visi universitātes pilsētiņas programmētāji, kas atradās šo ierīču otrā pusē, man teica, ka prasmes uzlabosies, jo vairāk studentu tās izmantos, un tas, protams, padara AI tik efektīvu. Taču tas arī padara mūsu privātuma apdraudējumu tik reālus, saka Vitālijs Šmatikovs, Kornela Tehnikas datorzinātņu profesors. Šmatikovs saka, ka tehnoloģiju uzņēmumi ir bēdīgi nepārredzami attiecībā uz privātumu un drošību. Tas, ko viņš un citi zinātnieki par tiem ir uzzinājuši, lielā mērā ir reversās inženierijas un dažu izglītotu minējumu rezultātā, un atklājumi ļoti attiecas uz Šmatikovu.

Iesācēji viņš saka, ka tādi uzņēmumi kā Amazon apmāca savus runas atpazīšanas algoritmus, ierakstot iepriekšējās lietotāju mijiedarbības, lai viņi varētu labāk izprast, piemēram, jautājuma nolūku. Viņš saka, ka visi iesaistītie uzņēmumi ir ļoti neskaidri par to, cik daudz datu tiek pārvietoti starp tiem. Lietotājam netiek solīts, ka viņa dati neatstās konkrētu ierīci, saka Šmatikovs. Mēs joprojām īsti nezinām, cik daudz datu balss prasmju resursdatori, piemēram, Amazon vai trešās puses, kas paļaujas uz Amazon, iegūst vai ko viņi dara ar šo informāciju. Amazon neatbildēja uz vairākiem komentāru pieprasījumiem.

Šmatikovs saka, ka ir saprātīgi pieņemt, ka uzņēmuma mākonī ir datuma un laika zīmoga ieraksti studentu pieprasījumiem viedajam skaļrunim, un ierīces var pat ierakstīt sarunas, kuras skolēns varētu būt bijis ar citiem cilvēkiem pirms vai pēc runāšanas ar to. Uzlabojoties balss identifikācijas un atrašanās vietas noteikšanas prasmēm, kļūs arvien lielāka iespēja šos ierakstus saistīt ar atsevišķu personu. Tas nav tāpat kā skola, kas pārmeklē jūsu skapīti; tas drīzāk atgādina skolas nepārtrauktu ierakstu visu, kas jebkad ir bijis jūsu skapī un ko jūs un jūsu draugi teicāt katru reizi, kad to atvērāt, un pēc tam ļaujot daudzām komerciālām struktūrām meklēt šo informāciju.

Arizonas štata universitātes un Sentluisas universitātes amatpersonas apgalvo, ka nesasaista tādu informāciju kā studentu finanses, veselības ieraksti un atzīmes (dati, kas zināmi kā autentificēti, jo studentam ir jāsaista ar personīgajiem kontiem), kamēr viņi nav pārliecinātāki par drošības pasākumi. Northeastern izmantoto tehnoloģiju izstrādāja neliela komanda, kuru vadīja Somens Saha, toreizējais universitātes darbinieks. Galu galā Saha izveidoja neatkarīgu uzņēmumu ar nosaukumu n-Powered, kas izstrādāja lietotni MyHusky, kas ir pieejama, izmantojot Alexa. Tomēr tās privātuma lapā ir arī atzīts, ka mēs izmantojam Amazon platformu, lai tas darbotos. Amazon glabā informāciju par lietojumu, ko var dzēst pēc pieprasījuma.

Šmatikovs saka, ka universitātes programmatūras izmantošana un tērzēšanas robotu izmantošanas ierobežošana ar vispārīgiem jautājumiem var ierobežot tehnoloģiju uzņēmuma piekļuvi studentu informācijai, taču tas neatrisinās problēmu pilnībā. Viņš norāda uz jutīgiem jautājumiem, piemēram, vai veselības centrs piedāvā STS testēšanu vai receptes tādu slimību ārstēšanai kā šizofrēnija: tehniski tie nav saistīti ar konkrētu studentu, taču nav pārāk grūti saprast, kurš jautā, un studenti var neapzināties. tie ne vienmēr ir anonīmi vaicājumi. Turklāt, saka Šmatikovs, kamēr tāds uzņēmums kā Amazon pārvērš studentu uzvednes datu signālos, tam ir piekļuve studenta informācijai — uz visiem laikiem.

Biedējošas sekas

Privātums ir bažas ikvienam AI ierīces lietotājam, taču mācībspēki, ar kuriem es runāju par šo stāstu, uzstāj, ka augstākajai izglītībai ir īpaši biedējošas sekas.

Koledžas studenti, iespējams, ir visvēlamākā patērētāju kategorija, saka Emersona Ņūmens. Viņi ir visgrūtāk sasniedzamie un visticamāk nosaka tendences. Rezultātā viņš saka, ka viņu dati ir vieni no visvērtīgākajiem un, visticamāk, tiks iegūti vai pārdoti. Un tas, ka izglītības iestādes ir līdzvainīgas studentu pārveidošanā, lai gūtu korporatīvu labumu, pēc viņa teiktā ir fundamentāli pretrunā to misijām.

Sāra T. Robertsa, UCLA informācijas studiju docente, saka, ka skolas, kas noslēdz līgumus ar tehnoloģiju uzņēmumiem, vismaz potenciāli apdraud savu studentu labklājību. Studenta laiks koledžā vai universitātē tiek izmantots, lai izpētītu idejas un izmēģinātu jaunas identitātes neatkarīgi no tā, vai tā ir politiskā pārliecība vai dzimums un seksualitāte, saka Roberts. Zināšanas, ka tie tiek ierakstīti, neapšaubāmi, neļaus studentiem justies tā, ka viņi var izteikt savas domas. Ir arī vērts atcerēties, viņa saka, ka daudzi studenti nāk no valstīm, kur var būt bīstami atklāt savu seksualitāti vai politisko pārliecību.

Ziemeļaustrumos viens students izveidoja tiešsaistes petīciju, pieprasot universitātei noņemt visas Alexa ierīces. Daļēji ir rakstīts: Alexas ir labi dokumentētas kā slēptas klausīšanās ierīces, kuras tiek izmantotas, lai palīdzētu uzlabot Amazon mārketinga taktiku .... Ziemeļaustrumu universitāte vismaz studentu telpās iespiež svešu ierīci, ko neviens neprasīja. Sliktākajā gadījumā viņi neapdomīgi pārkāpj savas studentu grupas privātumu pēc korporatīvā ziedotāja pieprasījuma. Decembra sākumā petīcijai bija 125 paraksti.

Emersonā studenti un citi mācībspēki ir pievienojušies Ņūmenam, izveidojot komiteju, lai izstrādātu universitātes pilsētiņas privātuma politiku. Viņš saka, ka viņš vismaz vēlētos, lai visur, kur atrodas klausīšanās ierīce, būtu izvietotas brīdinājuma zīmes. Viņš saka, ka līdz šim administrācija ir bijusi sadarbība, un jebkādu ierīču izvietošana ir aizkavējusies.

Mums ir vajadzīgs drošs veids, kā eksperimentēt ar šīm tehnoloģijām un izprast to izmantošanas sekas, nevis tikai turpināt aklu gājienu uz novērošanu peļņas gūšanas nolūkos, saka Ņūmens. Šīs ir sarežģītas lietojumprogrammas, kurām ir visas mūža sekas attiecībā uz indivīdiem, kurus viņi analizē, līdz vēl nezināmiem mērķiem. Šeit mums visiem jābūt patiesi saprātīgiem un pārdomātiem.

Kathryn Miles ir ārštata rakstniece un autore Kveiklenda: ceļā uz Amerikas nākamo postošo zemestrīci . Viņas stāsts The Little Coin That Ate Kvebeku parādījās 2018. gada maija/jūnija numurā.

paslēpties