Valutazione nel cMOOC #ltis13

Il laboratorio chiude per un breve periodo di vacanza, o più precisamente, socchiude per 15 giorni. Prima però vorrei dire due parole sulla valutazione effettuata ai fini del conferimento dei CFU a coloro che li hanno richiesti.

Per ogni richiedente sono stati rivisti:

  • tutti i post pubblicati sul proprio blog e i susseguenti commenti
  • i commenti fatti su http://iamarf.org
  • eventuali commenti fatti a seguito dei bookmark in Diigo
  • le tracce – non poche – di eventuali attività spontanee

Una gran mole di informazione per il valutatore. Informazione autentica perché la “libertà a cui i partecipanti sono costretti” può produrre solo farina del proprio sacco. Informazione ricca e autentica dunque, ma qualitativa. Riteniamo che questa sia l’informazione più importante ma non abbiamo trascurato la componente quantitativa, resa possibile dal tracciamento di tutte le attività svolte. Per ciascuno sono stati contati:

  • il numero di post scritti sul proprio blog
  • il numero di commenti ricevuti sul proprio blog
  • il numero di commenti fatti in http://iamarf.org
  • il numero di bookmarks creati in Diigo in forma pubblica
  • il numero di bookmark pubblici resi disponibili nel gruppo ltis13 di Diigo
  • il numero di eventuali altri oggetti memorizzati in Diigo
  • il numero di tag creati in Diigo

L’esito formale della valutazione è dicotomico, anche se l’operato di ciascuno è stato non solo analizzato attentamente ma anche graduato, secondo una visione, forse ingenua, che provo a sintetizzare con la seguente descrizione del “valutatore”. Consapevole dell’errore al quale il voto può essere soggetto e degli equivoci che una stima erronea può provocare nel percorso dello studente, il valutatore rinuncia alla dichiarazione del voto ma non alla sua formulazione. Esso attribuisce al voto un valore statistico: non può usarlo per connotare l’operato del singolo ma l’insieme dei voti assegnati alla classe fornisce informazioni preziose sulla qualità dell’apprendimento e dell’insegnamento. Questa è una visione tipica, per esempio, di tanta ricerca biomedica, dove una misura può essere ritenuta inaffidabile sul singolo ma l’insieme delle misure, seppur ognuna afflitta dal proprio cospicuo errore, contiene invece informazioni utili sulla popolazione analizzata. Quindi, nel contesto di un corso, il valutatore assegna voti ai singoli per avere un voto sul proprio operato. Invece, la valutazione ai fini del percorso formale è semplicemente dicotomica, finalizzata a stabilire se l’operato del singolo studente dimostri o meno il conseguimento degli obiettivi minimi dichiarati. Valutazione dicotomica e conseguimento di obiettivi minimi non devono esprimere un’operazione al ribasso. Al contrario, gli obiettivi minimi devono essere ambiziosi e devono essere riferiti alla capacità di mettere in atto le nuove visioni e le nuove competenze in un ambiente reale.

In questo contesto abbiamo utilizzato il sistema di voti proposto dall’ECTS: European Credit Transfer and Accumulation System. L’ECTS è uno standard concepito per confrontare i risultati nei percorsi universitari dei paesi europei. Per quanto riguarda la valutazione prevede una scala che suddivide in 5 possibili valori il risultato di coloro che hanno superato un esame e in 2 valori i risultati di coloro che non lo hanno superato, come illustrato nella seguente tabella:
ora

Voto Pecentuale studenti Definizione
A 10% risultato eccezionale, errori minimi
B 25% sopra la media, alcuni errori
C 30% lavoro solido, alcuni errori di un certo rilievo
D 25% lavoro onesto con alcune carenze significative
E 10% risultato minimo
FX insuccesso: per ottenere il voto è necessario un lavoro limitato
F insuccesso: è necessario un lavoro non trascurabile

La definizione ECTS dei voti implica l’assunzione di una “distribuzione standard” dei voti:

Distribuzione dei voti assunta nel sistema ECTS

Vediamo ora i numeri che abbiamo ottenuto nella nostra valutazione:

Voti “Numero studenti con voto…” “Distribuzione teorica ECTS”
A 14 4
B 11 9
C 12 11
D 7 9
E 0 4
F 17 0

E sovrapponiamo questa distribuzione a quella “standard” dell’ECTS:

Distribuzione dei voti in ltis13 a confronto con la distribuzione standard assunta dall'ECTS

Dove abbiamo aggiunto anche la quota di coloro che non hanno (ancora) conseguito il risultato, e che ricadono quindi in “F” – non abbiamo ritenuto utile suddividere questi ultimi in ulteriori due categorie. Nell’ultima colonna del grafico abbiamo invece distinto gli 11 partecipanti che, in seguito ad una nostra richiesta, hanno dichiarato di essere intenzionati a completare il percorso dai 6 (rosso tratteggiato) che non hanno risposto oppure hanno comunicato di non voler continuare.

È evidente la discordanza fra la distribuzione dei “promossi” e quella standard predetta dall’ECTS. La nostra tesi è che tale discordanza non sia un difetto bensì una testimonianza della qualità dell’insegnamento e che, anzi, l’obiettivo dell’insegnante debba consistere nell’allontanarsi ulteriormente dalla “distribuzione standard”.

Occorrerebbe riflettere ulteriormente sul fondamento della “distribuzione standard”. Ci limitamo ora ad osservare che quella distribuzione è simile a quella che in statistica si chiama distribuzione normale (o gaussiana) e che caratterizza una grandissima quantità di misure biologiche, quali per esempio potrebbe essere la distribuzione delle altezze delle persone in una certa popolazione.

La ragionevolezza della “distribuzione standard” dei voti attiene quindi ad una visione delle performance di una popolazione così quale essa è, popolazione di persone così quale esse sono. Una visione nella quale si assimila un corso alla somministrazione di uno stimolo standardizzato ad un insieme di persone ed alla misura dell’effetto provocato da tale stimolo sulla popolazione quale essa è. Una visione nella quale l’attività di insegnamento è ridotta alla routine di un esperimento su animali di laboratorio, nella quale viene omessa qualsiasi considerazione attinente alla specificità dei singoli, alla loro condizione precedente e esterna al corso, alla loro umanità; una dimensione che non prevede alcuna dimensione di cura.

La nostra tesi è che quell’asimmetria della distribuzione dei voti che abbiamo riscontrato, sia rappresentativa della cura espressa nell’insegnamento. L’obiettivo che ci proponiamo per il futuro è di renderla ancora più marcata.

L’obiettivo convenzionale e contrario, di ottenere una distribuzione normale nei voti, equivale per noi a creare le condizioni che Don Milani stigmatizzava dicendo che

Non c’è nulla che sia più ingiusto quanto far parti uguali fra disuguali

Lettera a una professoressa, pag. 43, Libreria Editrice Fiorentina, 1976.

23 thoughts on “Valutazione nel cMOOC #ltis13

  1. antonella coppi says:

    Ho letto più volte questo post ,confesso di non aver mai incontrato un trattato sulla valutazione in cui mi sono ritrovata in pieno come questo, sia come studentessa che come insegnante.grazie Andreas per ogni sasso che hai lanciato e che è riuscito a stimolare la mia curiosità , la voglia di mettermi in discussione e che mi ha fatto ‘crescere’.

  2. antonella coppi (@fiora55) says:

    Mi ha appassionato molto questo post sulla valutazione,totalmente diverso da quello che ‘normalmente’ ci si aspetta ,proprio per questo eccezionale!!!grazie per la serietà ,l’impegno e la competenza messa a nostra disposizione con slancio ,spontaneità e professionalità.Ogni volta che leggo un tuo post ,Andreas,mi si apre un mondo nuovo da esplorare,vorrei tanto essere in grado di fare lo stesso con i miei alunni.Buone vacanze

    1. Andreas says:

      La valutazione (vera) è composita, direi multidimensionale – è assurdo ridurla ad un numero – ed è fortemente contestualizzata, specialmente nel caso di adulti che studiano per ben precise necessità professionali e per colmare ben precise (eventuali) lacune. La valutazione del singolo studente deve emergere dal suo sforzo di autovalutazione e dal confronto con la comunità. I voti che do io servono a me; al massimo dichiaro se i CFU possono essere attribuiti subito o se necessita ulteriore lavoro. Comprendo che il sistema richieda una dichiarazione del genere, ed io gliela fornisco, con il massimo scrupolo e anche con il massimo rigore; a 17 persone su 53 che avevano chiesto i CFU ho detto che ancora non ci siamo, ad altre ho chiesto prima di definire qualche aspetto residuo. Ma evito di attribuire un numero ad una singola persona, perché rischia di essere troppo fallace per legarlo, sia pur minimamente al suo destino. Invece, le valutazioni nel loro insieme possono avere più significato, in virtù del maggiore valore statistico. Nelle scienze biologiche, quando gli errori potenziali si fanno eccessivi per poter attribuire significati ragionevolmente certi alle singole misure, si escogitano sistemi per rinforzare statisticamente la significatività aumentando la numerosità del campione. Nel caso delle valutazioni scolastiche, questo significa che io posso così studiare la classe nel suo insieme, o anche eventuali parametri inferiti relativamente alle loro distribuzioni. Si ottengono così informazioni molto utili ma servono all’insegnante per valutare il proprio operato: l’insegnante dà i voti per valutare se stesso. Sono gli studenti medesimi che devono valutare con scrupolo i propri risultati, in relazione alle proprie necessità e ai propri obiettivi. Dall’insegnante possono sapere solo se devono rimanere ancora o meno nel laboratorio.

  3. Romina.Agresti says:

    Considerato il tuo 1:10:100 credo che siamo perfettamente in linea come ordine di grandezza del gruppo dei promossi..pur con motivazione, dubito che, chi ha iniziato, non abbia iniziato con poca volontà o con poca curiosità… poi ci sono i contesti che giocano la maggior parte del gioco e questo si divide tra abilità o espressioni personali di capacità di opportunità o di possibilità. Penso che, anche per chi non ha “passato” la valutazione CFU, il contenuto formativo non sia stato piccolo, anzi forse lo è più per chi sa cosa ci sarebbe a disposizione ma non è in grado di usufruirne appieno che per chi ne usufruisce e ne gode della reciprocità dello scambio informativo. Se posso banalizzare all’estremo: “bene ho un computer, ho la rete, so dove cercare le informazioni che mi servono ed eventualmente so dove cercare aiuto” … si, sinceramente non è poco. In bocca al lupo a tutti per gli sviluppi futuri! Romina

  4. angelap says:

    Caro Andreas, grosso lavoro la valutazione. Io faccio parte di quei 17 che non hanno più partecipato ai lavori da un certo punto in poi.
    Mi incuriosisce però la distribuzione reale dei voti e quella”teorica” secondo ECTS. Non riesco a far quadrare i conti tra i 53 valutati e le % della valutazione teorica. Non che cambi molto, ma graficamente mi sembrano diverse.

    1. Andreas says:

      Grazie dell’osservazione Angela, che mi ha consentito di rilevare un piccolo errore: il 30% di 36 (53-17) fa 10.8, che arrotondato all’intero più vicino è 11, e non 12 come avevo posto in tabella e in grafico. Ho quindi corretto conseguentemente tutto.

      Non credo tuttavia che fosse questo il tuo dubbio, bensì il fatto che tu ricercassi le percentuali 10%, 25%, 30%, 25%, 10% di 53. Ma come si vede dal conto che ho appena scritto, tali percentuali vanno calcolate rispetto al totale dei 36 “promossi” e non di tutti i 53 participanti, come puoi vedere dalla tabella che definisce le percentuali ECTS, secondo la quale i 17 “rimandati” finiscono nelle categorie F o FX.

      Se ho capito la tua domanda. Fammi sapere.

  5. marina.p says:

    Molto interessante! Non solo per tutto quello che è già stato detto dagli altri, ma anche perchè fornisce “prove concrete e matematiche” di ció che andiamo dicendo da mesi in questo villaggio.
    Bello sarebbe riuscire a portare un pochino di questo sistema nelle nostre classi….ma forse non è possibile.
    Valutazione del Prof. = A+ ( risultati eccellenti senza errori!) 😉

  6. Sabina says:

    Che bel lavoro prof!
    Sono in vacanza ma seguo il blog lo stesso . Concordo al 100 % sugli obiettivi minimi che devono assolutamente essere ambiziosi. L’annoso problema della valutazione mi interessa molto. Ne parleremo ancora in seguito, spero.
    Per ora mi ripasso Don Milani e auguro a lei e a tutti buone vacanze.

  7. mrsfraba says:

    Il lavoro , caro Prof, è davvero lodevole e la mole di quanto ha “valutato ” con grande professionalità lo è ancora di più.
    Tuttavia convengo con quanto scritto da Vallotto:
    “Penso che i medici e la medicina servano per spostare le percentuali (probabilità) di guarigione verso l’alto allontanandole dalla distribuzione normale.”

  8. mrsfraba says:

    Reblogged this on LE.TE. Le Educazioni Tecnologiche and commented:
    La valutazione è sempre il momento più difficile ed imbarazzante per un docente . Si cerca sempre di valutare in maniera oggettiva e si cercano diverse strategie per ottenere tali risultati. Ma esiste davvero l’oggettività nella valutazione? Ritengo che la mediazione del soggetto che valuta è inevitabile, non può essere eliminata, o per lo meno non del tutto e quella ridicola minima parte che resta …
    Bene rende impossibile una valutazione assolutamente oggettiva.

  9. Nadia Moretti says:

    Mi gira la testa. Sarà il caldo torrido o i neuroni fusi, ma penso dovrò rileggermi questo posto per trarne informazioni utili da poter, eventualmente, applicare. Grazie, comunque, per le spiegazioni… Penso sia l’unica volta che mi sia stato detto come è avvenuta la valutazione e con quali risultati… 🙂

  10. Anna Cilia says:

    Grazie Professore, ho apprezzato il lavoro di valutazione da lei sviluppato che ritengo sia frutto di notevole competenza e dedizione. Ne traggo ulteriori importanti insegnamenti.

  11. Luciab says:

    Che gran lavoro, prof!
    La “Distribuzione teorica dei voti secondo il modello ECTS” mi ha stupefatto. Un vero inno alla mediocrità, in senso letterale. E’ vero che gli studenti con rendimento medio tendono ad essere la maggioranza, ma non sempre… non sempre. Poi chissà se il punto medio di un “mio” corso è uguale al punto medio di un altro corso? Chi decide qual è il punto medio? E il punto medio di partenza è confrontabile con il punto medio di arrivo? E via con le domande.
    D’accordo con Don Milani.

  12. valottof says:

    Credo che se a ciascuno di noi fossero stati forniti i manuali necessari per raggiungere l’obiettivo X, la distribuzione dei risultati sarebbe stata normale con alterazioni non significative sulla media della popolazione.
    Così come credo che se ogni malato fosse lasciato al suo destino la distribuzione delle guarigioni sarebbe più o meno gaussiana: normale.
    Penso che i medici e la medicina servano per spostare le percentuali (probabilità) di guarigione verso l’alto allontanandole dalla distribuzione normale.
    Così come credo che l’insegnamento e la didattica servano per alterare nello stesso senso la distribuzione dei successi formativi.
    Se così non fosse tanto varrebbe lasciare le cose in mano al caso no?!

    Alternativa: siete stati troppo buoni nelle vostre valutazioni! 😉

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione / Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione / Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione / Modifica )

Google+ photo

Stai commentando usando il tuo account Google+. Chiudi sessione / Modifica )

Connessione a %s...