國立臺灣大學教務處教學發展中心 教學改進研究計畫...

11
國立臺灣大學教務處教學發展中心 教學改進研究計畫報告 題目 學習網路與同儕評鑑 執行單位 經濟學系 主持人 袁國芝 助理 邱龍禹、許喬茵 e-mail [email protected] 一、研究目的與重要性 在許多社會科學的研究中,同儕評鑑的實行被視為一種有別於傳統上 對下的成就鑑定方法,對組織效率或個人管理上有正面的效果。然而現有 的同儕評鑑方式仍針對在約定團體內成員的互相評鑑,而本計畫則首次研 究學生在自發性形成的學習網路中,如何透過提高學習努力來爭取較佳的 同儕評鑑結果的行為。 本計劃研究方式為,在透過事先公布獎懲權力的分配方式下,允許學 生自行選擇組成不同的評鑑網路;然後讓學生在這個自願形成的網路下進 行學習的合作,最後讓學生彼此就其合作的同儕進行評鑑。我們將評估學 生的努力程度如何受到所處的網路影響,以及事先自願性的同儕選擇與事 後努力程度彼此如何互相作用,進而分析什麼樣的學生在什麼樣的學習網 路會有比較大的進步。同時也建立對照組,以隨機方式安排固定的學習同 儕。然後比較兩種制度下對不同能力學生的學習行為產生的影響。 如果同儕評鑑如同許多文獻所敘述的具有正面的效果,是否在教學上 我們應該考量引入同儕評鑑作為學生學習效果評量的一環。同時,我們亦 希望尋求對不同程度的學生與同儕評鑑網路的最適安排,以便更進一步提 昇學生的學習動機。 二、內容、方法與主要活動 1. 研究對象 計畫主持人所設之「個體經濟學二」上課學生。

Upload: others

Post on 24-Jan-2020

6 views

Category:

Documents


0 download

TRANSCRIPT

國立臺灣大學教務處教學發展中心

教學改進研究計畫報告

題目 學習網路與同儕評鑑

執行單位 經濟學系 主持人 袁國芝

助理 邱龍禹、許喬茵 e-mail [email protected]

一、研究目的與重要性

在許多社會科學的研究中,同儕評鑑的實行被視為一種有別於傳統上

對下的成就鑑定方法,對組織效率或個人管理上有正面的效果。然而現有

的同儕評鑑方式仍針對在約定團體內成員的互相評鑑,而本計畫則首次研

究學生在自發性形成的學習網路中,如何透過提高學習努力來爭取較佳的

同儕評鑑結果的行為。

本計劃研究方式為,在透過事先公布獎懲權力的分配方式下,允許學

生自行選擇組成不同的評鑑網路;然後讓學生在這個自願形成的網路下進

行學習的合作,最後讓學生彼此就其合作的同儕進行評鑑。我們將評估學

生的努力程度如何受到所處的網路影響,以及事先自願性的同儕選擇與事

後努力程度彼此如何互相作用,進而分析什麼樣的學生在什麼樣的學習網

路會有比較大的進步。同時也建立對照組,以隨機方式安排固定的學習同

儕。然後比較兩種制度下對不同能力學生的學習行為產生的影響。

如果同儕評鑑如同許多文獻所敘述的具有正面的效果,是否在教學上

我們應該考量引入同儕評鑑作為學生學習效果評量的一環。同時,我們亦

希望尋求對不同程度的學生與同儕評鑑網路的最適安排,以便更進一步提

昇學生的學習動機。

二、內容、方法與主要活動

1. 研究對象

計畫主持人所設之「個體經濟學二」上課學生。

2. 資料來源

資料來源為考試成績、作為與期末同儕評鑑報告。其中考試成績作為

學生能力的參考指標。另外將在期末以保密的方式要求學生進行同儕評

鑑,依此納入部份學期成績。待資料收集完全,將進行量化的分析。

3. 計畫內容

在許多社會科學的研究中,例如:教育、產業組織、人力資源等領域,

同儕評鑑的實行被視為一種有別於傳統上對下的成就鑑定方法。 許多研究

也指出同儕評鑑對組織效率或個人管理上也經常有正面的效果,例如:

M.A. Peiperl(1999)、L. Arnold(1981) 等人的研究。本計畫將配合計劃主持

人最近的工作論文,首次提出研究學生在自發性形成的學習網路中,如何

透過提高學習努力來爭取較佳的同儕評鑑結果的行為。藉由觀察與比較不

同的學習網路對學生努力程度所造成的影響,進而希望提出同儕評鑑理論

推衍的實際範例。

在同儕評鑑的制度下,一個學員的努力程度會受到評鑑者的數目和與

其競爭之其他被評鑑學員努力程度的影響。另外也與評鑑者究竟有多大的

考核或獎懲權力有關。本計畫將研究在透過事先公布獎懲權力的分配方式

下,允許學生自行選擇組成不同的評鑑網路;然後在這個自願形成的網路

下進行學習的合作,最後讓學生彼此就其合作的同儕進行評鑑。進而分析

什麼樣的學生在什麼樣的學習網路會有比較大的進步。同時也將建立對照

組,以隨機方式安排固定的學習同儕。然後比較兩種制度下對不同能力學

生的學習行為作出什麼影響。

4. 進行方法

本計畫在學期初首先公布評鑑的制度與每位學生評鑑權力的規則,然

後讓實驗組學生組成自願性的學習網路,對照組學習網路則由教師指定。

決定互相評鑑的學生必須合作繳交所有的學期作業。最後在實驗結束時進

行秘密的同儕評鑑,每位學生將就在學習網路中與他相關連的學生作出評

鑑,此一評鑑的結果將依評鑑者所擁有的權力按比例分配轉換為部份學期

成績。

整學期共實行三次實驗,全體學生共 104 人,其中參與實驗者為 88人,

不參與實驗者 16人。參加實驗者將分配在 17 個不同的組別中。詳細如下:

第一次實驗:

第一次實驗中,在外生給定的網路結構下,同學們被隨機指派到特

定的網路位置上。

第二次實驗:

經過第一次實驗,同學已熟悉實驗的運作模式。因此此次實驗中,

開始讓同學們自由形成學習網路。

第三次實驗:

延續第二次實驗,繼續讓同學自由形成學習網路。

三、評估方式與研究結果

首先我們分析學習網路是否有助於學習。

表格 1

實驗次序 平均成績 標準差 實驗次序 平均成績 標準差

(一) (二)

實驗組 70.65 14.89 實驗組 84.10 11.55

對照組 60.67 22.18 對照組 77.00 12.78

(三)

實驗組 84.15 8.18

對照組 78.94 9.68

根據上表一,我們發現無論在哪一次實驗中,有形成學習網路的學生

表現明顯比沒有形成學習網路的學生要來的好。尤其是第一次實驗時,實

驗組與對照組的差距到達十分。這是因為在學期之初,學生尚未熟習課堂

進行方式時,學習網路的功效會讓學生學習更容易進入狀況。

另一方面,在比較學習網路的內生與外生這方面,由實驗中觀察得知,

第二、三次實驗的結果接優於第一次實驗。這顯示內生化的學習網路可能

效果強於外生學習網路;然而,我們也觀察到對照組的表現亦呈現上升的

趨勢,因此這種成長的效果究竟是來自於內外生機制的轉變,還是來是時

間的趨勢,則需要更多的樣本來證明。能夠幫助我們了解此一問題的計量

方法並不複雜,然而在樣本數過少的情況下,任何的推論都是枉然的。若

是有機會作更長期間的觀察,便能作更準確的分析。

圖表 1

0

10

20

30

40

50

60

70

80

90

1 2 3

實驗次數

平均

成績 實驗組

對照組

全體

圖表 2

0

5

10

15

20

25

1 2 3

實驗次數

標準差

實驗組

對照組

全體

接下來我們將討論評鑑網路結構與學習表現的關係。圖 3表示在三次

實驗中,學習評鑑網路密度與成績的關係。密度越高的網路同時也代表著

越強的同儕監督效果,對於提升學習表現的效果也越好。

圖表 3

0

0.2

0.4

0.6

0.8

1

1.2

0 20 40 60 80 100 120

成績

網路密度 實驗一

實驗二

實驗三

另一方面,我們也關心學生在學習評鑑網路中的重要性對其學習表現

的影響。由於三次實驗中同學們分別得到三個不同的權數,因此我們取平

均數為其代表。為期方便,將權重標準化為 0~1 之間的數。

圖表 4

0

0.2

0.4

0.6

0.8

1

1.2

0 2 4 6 8 10 12

成績

權重

圖 4表示所有學生作業成績與其在網路中重要性的相關分部。其中迴

歸係數為 3.95 (95%顯著水準),因此可以初步判斷,當一個學生在網路中

擔任重要地位時,對他自己的成績也有正面的幫助。當然,這樣的因果推

論尚太粗淺,有賴更多樣本來證實。

四、相關討論與檢討

本計劃的評估方式,是比較實驗組與對照組同學,其各自的學期成績

和其進步幅度。由於本計劃僅進行一學期,時間較短;所以我們只將修課

同學分組一次,即每位同學只處在某一種網路結構下,選擇該付出多少努

力在學期作業上,以檢驗學習網路是否達到促使學生自發性的努力學習。

然而,如果我們想更精確的檢驗,哪種網路結構能對同學自發性的學

習產生最大的功效,我們應將同學多次分組,以比較其在不同的網路結構

下,學期作業成績的差異。更進一步,我們還可以讓同學自行選擇要加入

哪種網路結構(而非實驗者指定網路結構,同學自行選擇節點位置),然後

比較其學期成績和之前沒有網路結構、或被指定加入某種網路結構的差

異。提出更好的建議,使同學能更自發性的努力學習。

附錄:實驗手冊

個體經濟學--課堂實驗:Peer Evaluation Network

我們將全班 104 位同學分成 20組。前 16組中,每一組各 5位同學;第 17至第

20組,每一組各 6位同學,同學在哪一組由老師事先決定。給定 7種不同的網

路結構(見圖一至圖七),每一組在那一種網路結構也由老師事先決定。同時,

每位同學在網路中的節點位置(node1、node2、node3、node4、node5、node6)

也由老師事先決定。同學請至課程網頁查詢自己的組別屬於哪種網路結構,以及

你在該網路中所在的位置。

以下為 7種不同的網路結構圖及詳細說明:

圖一 圖二 圖三 圖四

圖五 圖六 圖七

圖一:完全網路(Complete Networks),所有節點彼此連結。

圖二:星型網路(Star Networks),將節點區分為核心與邊緣兩種狀態,所有邊

緣節點皆只與核心節點相連結。

圖三:小團體網路(Small Group Networks),一個團體中分化成兩個以上彼

不相連結的子網路,節點 1和 2連結,節點 3連結節點 4和節點 5。

圖四:小團體網路(Small Group Networks),一個團體中分化成兩個以上彼

不相連結的子網路,節點 1和 2連結,節點 3、4和 5彼此連結。

圖五:樹狀網路(Tree Networks),星型網路的擴充。

圖六:沒有網路,5個節點各自孤立。

圖七:沒有網路,6個節點各自孤立。

每一組同學必須合力完成下一次老師出的個體經濟作業。老師會出 5題作業,一

題 20分,整份作業的滿分為 100 分。每一題皆開放讓組裡的 1人至全部人合寫,

且每個人可選擇寫 0題至 5題,然後每位同學依寫題比例計算原始作業分數。例

如 A、B、C、D、E五位同學被分至同一組,然後有 1、2、3、4、5個題目,五位

同學討論後決定分配的方式如下:

1:B、C、D (即第一題由 B、C、D這三的人合寫,以下同)

2:A、D、E

3:C

4:A、D

5:A、C、E

所以大家能得到的得分上限為:

A:0 + 20/3 + 0 + 20/2 + 20/3

B:20/3 + 0 + 0 + 0+ 0

C:20/3 + 0 + 20 + 0 + 20/3

D:20/3 + 20/3 + 0 +20/2 +0

E:0 + 20/3 + 0 + 0 + 20/3

這個得分相當於你在組內的努力程度,也就是公式(2)中的 ie 。然後再由老師將

得分依比例換算成一個相對得分(在 0-1 之間),原始得分越高,則相對得分也

越高。

圖一至圖五網路的計分方式:同學的作業實際成績將按 Myerson-Weighted

allocation Rule 計算,假設你是 i,你的作業計分方式如下:

)1(!

)!1(!))|(}){|((}{\

##

iNs

MVi N

sNssgvisgvY

)2()()(),(

i

j

NjNk

k

iMVji e

eYefegu

在公式(1)中, MVY 稱為 Myerson value,代表在 Myerson-Weighted allocation

Rule 下,不同網路的每一個節點對應的計分權重(見表一至表五)。在公式(2)

中, iN 為你所在的網路,j表示在這個網路中跟你有連結的所有同學(簡稱為你

的鄰居), MVjY 表示你的鄰居位在網路的不同節點所對應的不同計分權重。同理,

jN 表示你的鄰居所在的網路(和你所在的網路應為同一個),k則表示你的鄰居

j的鄰居。 ie 為每一位同學依寫題比例得到的相對分數(在 0-1 之間)。 )(ef 為

全組的作業分數。每一位同學依據公式(2)來分配作業分數。此分數除了和同學

本身的作業相對得分 ie 有關,也會和你同組同學的相對得分 je ,以及你和你的鄰

居位在網路中的哪一個節點有關。因為不同的節點會對應不同的計分權重。請注

意,同學期末的作業分數為 iu 而非 ie 。

表一:圖一網路各節點的 Myerson value

node 1 2 3 4 5

Myerson value 0.2 0.2 0.2 0.2 0.2

表二:圖二網路各節點的 Myerson value

node 1 2 3 4 5

Myerson value 0.4 0.15 0.15 0.15 0.15

表三:圖三網路各節點的 Myerson value

node 1 2 3 4 5

Myerson value 0.125 0.125 0.333 0.208 0.208

表四:圖四網路各節點的 Myerson value

node 1 2 3 4 5

Myerson value 0.0714 0.0714 0.2857 0.2857 0.2857

表五:圖五網路各節點的 Myerson value

node 1 2 3 4 5

Myerson value 0.2322 0.2656 0.1878 0.1078 0.1078

node 6

Myerson value 0.0989

圖六和圖七的計分方式:

由於圖六和圖七沒有網路,若同學所屬的組別被分至此種網路結構,則同學作業

的實際得分為作業的相對分數。換言之,此時 iu 等於 ie 。

舉例說明:(以下數字皆是舉例)

假設 A、B、C、D、E 五位同學被分至同一組。此組的網路結構為圖三,且 A 在

node1、B 在 node2、C 在 node3、D 在 node4、E 在 node5。若這五位同學決定一

人寫一題作業,且五人全部寫對,經計算相對分數為 Ae = 1, Be = 1, Ce = 1, De =

1, Ee = 1。用 Myerson-Weighted allocation Rule 換算後,五人的實際作業

分數 iu 如下:

125.1)1125.0()11111(

)()(),( 2

A

AMVEDCBAA e

eYeeeeeegu

125.1)1125.0()11111(

)()(),( 1

B

BMVEDCBAB e

eYeeeeeegu

58.2)]1208.0()1208.0[()11111(

)]()[()(),( 54

C

CMV

C

CMVEDCBAC e

eYeeYeeeeeegu

83325.0

)11

13333.0()11111(

)()(),( 3

ED

DMVEDCBAD ee

eYeeeeeegu

83325.0

)11

13333.0()11111(

)()(),( 3

ED

EMVEDCBAE ee

eYeeeeeegu

實驗紀錄表

姓名: 系級: 學號:

你的組別所屬

的網路結構

你寫的作業

題數

你的作業原

始分數

你的作業相對分數 ie

(這部分由老師計算)

你的作業實際分數 iu

(這部分由老師計算)