MOOC 中的同儕互評機制(四):如何改善MOOCs中的互評機制--下一代的互評機制
前情提要: 如何改善 MOOCs 中的互評機制--評分標準 Rubrics 在上一段文章中,我們看到了rubrics在同儕互評當中的應用。回到「改善互評成效」的初衷,我們還有另外一個努力的方向,就是「改進機制本身」。談到改進機制之前,則不得不先提到「機制設計」這門新興的經濟學分支。 機制設計(mechanism design)可說是跨越經濟學、賽局理論和工程科學的領域。以一個自由交易的市場來比喻,傳統的經濟學觀察並闡釋市場中買家和賣家的行為;賽局理論則進一步透過界定理性和均衡的概念,試圖預測市場未來合理的發展;然而,如果主導市場運作的管理者希望透過制定或修改市場運作的規則,促進某些特定事件的發生、或想將市場誘導往特定的方向前進,機制設計就是告訴管理者如何制定規則的學問,舉凡市場、拍賣、選舉、資源分配都是這門學問的應用範圍。 若以機制設計的角度來看現行的同儕互評,最顯而易見的問題即是:學習者沒有動機將自己的心力投注在同儕互評上。絕大多數的情況中,同儕互評只是一件必須完成的任務,這項任務無論是嘔心瀝血或草率執行,並不影響學習者自身的利益。在傳統的課堂當中,學習者和教學者或同儕都會面對面並長期互動;然而在MOOCs的世界裡,學習者甚至不知道互評中遇到的同儕身分,也不需要對自己做出的同儕互評結果負任何責任。不意外地,正如同賽局理論中單一賽局的均衡總是比重複性賽局來得差一般,MOOCs學習者對同儕互評結果的不滿從未止息(註1)、Coursera的幾位大老更是在探究同儕互評的文章中(註2)公開指出學習者的動機是一個必須解決的問題。直覺上,若能透過機制的改進、讓學習者有動機投注更多的心力進行同儕互評,每個單獨的評分結果都有機會更為準確,而整體的評分亦然。以此為目標,近年來學者們也提出了幾個不同的想法。 首先,加州大學聖塔克魯茲分校的de Alfaro(註34)團隊設計了一套名為「Crowdgrader」的線上評分系統。結合了近年興起的群眾外包(Crowdsourcing)和評分者(grader),這套系統從名稱便不難看出與同儕互評的緊密關係。的確,這個系統最主要的用途就是在各式各樣的課堂當中實現「具動機的同儕互評」。除了將所有人對同一份作業的評分結果進行運算、得到該份作業最終的分數之外,系統還會依據單獨評分和最終分數的差異,對每個人的評分「準確度」進行衡量;而