Blog

Nov 02, 2023

Falso allarme: come il Wisconsin utilizza la razza e il reddito per etichettare gli studenti come “ad alto rischio”

Machine Learning The Markup found the state’s decade-old

Apprendimento automatico

Il Markup ha scoperto che gli algoritmi statali di previsione dell'abbandono scolastico, vecchi di dieci anni, non funzionano e potrebbero influenzare negativamente il modo in cui gli insegnanti percepiscono gli studenti di colore Di Todd Feathers

Questa storia è stata pubblicata in collaborazione con Chalkbeat, un'organizzazione giornalistica senza scopo di lucro che si occupa dell'istruzione pubblica. Iscriviti qui alla sua newsletter.

L'estate scorsa, gli amministratori della Bradford High School di Kenosha, Wisconsin, si sono incontrati come fanno ogni anno per pianificare la classe entrante degli alunni della nona elementare. Da un elenco di centinaia di studenti delle scuole medie, il vicepreside Matt Brown e il suo staff hanno stilato un elenco di 30-40 studenti che sospettavano avrebbero potuto avere maggiori difficoltà a diplomarsi.

Nel corso della pausa estiva, Brown e il suo team hanno esaminato l'elenco e visitato la casa di ogni bambino. Il personale ha portato magliette agli studenti, si è presentato ai genitori, ha lasciato i loro recapiti e, speravano, una prima impressione positiva.

"È come, 'Ehi, vogliamo metterti in contatto con un po' di attrezzatura Bradford. Adesso farai parte di una famiglia Bradford'", ha detto Brown. "È un po' come uscire da quel punto di vista, 'Ehi, siamo qui per supportarti', non necessariamente, 'Ehi, tuo figlio ha davvero fatto un casino l'anno scorso'... perché non vogliamo che i genitori si sentano come te' stanno già etichettando il loro bambino come qualcuno che crea problemi."

Ma nella maggior parte dei casi, gli studenti sulla lista di Bradford per le visite estive arrivano lì a causa di un'etichetta - "ad alto rischio" - assegnata loro da un algoritmo razzialmente ingiusto costruito dallo stato del Wisconsin, che spesso solleva falsi allarmi.

Dal 2012, gli amministratori scolastici del Wisconsin come Brown hanno ricevuto la prima impressione dei nuovi studenti dal Dropout Early Warning System (DEWS), un insieme di algoritmi di apprendimento automatico che utilizzano dati storici, come punteggi dei test degli studenti, record disciplinari, corsi gratuiti o ridotti stato del prezzo del pranzo e razza: per prevedere la probabilità che ogni studente dalla sesta alla nona elementare dello stato si diplomi in tempo alla scuola superiore.

Due volte all'anno, le scuole ricevono un elenco dei loro studenti iscritti con la previsione del DEWS codificata a colori accanto a ciascun nome: verde per basso rischio, giallo per rischio moderato o rosso per alto rischio di abbandono.

I funzionari dell'istruzione una volta consideravano il DEWS uno strumento chiave nella loro lotta contro il divario di laurea nello stato. Mentre il 94% degli studenti bianchi si è diplomato in tempo lo scorso anno, solo l’82% degli studenti ispanici e il 71% degli studenti neri hanno completato la scuola superiore in quattro anni. DEWS aveva lo scopo di mettere previsioni personalizzate nelle mani degli educatori abbastanza presto da consentire loro di intervenire prima che un bambino mostrasse evidenti segni di abbandono del percorso.

La rotturaApprendimento automatico

Il Dropout Early Warning System (DEWS) del Wisconsin assegna un punteggio a ogni studente delle medie in base al reddito, alla razza e altro ancora

Ma dopo un decennio di utilizzo e milioni di previsioni, The Markup ha scoperto che il DEWS potrebbe influenzare in modo errato e negativo il modo in cui gli educatori percepiscono gli studenti, in particolare quelli di colore. E un prossimo studio accademico condotto da ricercatori dell’Università della California, Berkeley, che hanno condiviso dati e risultati prima della pubblicazione con The Markup, ha concluso che il DEWS ha fallito nel suo obiettivo principale: migliorare i tassi di conseguimento del diploma per gli studenti etichettati come “ad alto rischio”. "

Un'analisi sull'equità interna del Dipartimento della Pubblica Istruzione (DPI) condotta nel 2021 ha rilevato che il DEWS ha generato falsi allarmi sugli studenti neri e ispanici che non si diplomavano in tempo a un ritmo significativamente maggiore rispetto ai loro compagni di classe bianchi. Secondo una presentazione DPI che riassume l'analisi, che abbiamo ottenuto attraverso un'analisi richiesta di atti pubblici. Il tasso di falsi allarmi era di 18 punti percentuali più alto per gli studenti ispanici rispetto agli studenti bianchi. Il DPI non ha informato i funzionari scolastici che utilizzano DEWS dei risultati né sembra aver alterato gli algoritmi nei quasi due anni da quando ha concluso che il DEWS era ingiusto.