《教育停看聽》研究成果的效益評估

張瑞雄 2022/09/18 14:52 點閱 1815 次

國家科學與技術委員會(簡稱國科會)每年花費巨資贊助大學的各項研究,但這項投資如何評估是否有效呢?過去一個簡單的指標就是每年的研究在國際期刊上(尤其是所謂的SCI或SSCI期刊)的總論文數量,但量多不一定質好,所以後來又加上論文的引用次數,通常被引用高的就是比較好的論文。

研究的影響力

但以上這些指標好像都只是對大學內部適用,如果要衡量國科會贊助的這些大學的研究價值除了引用數之外,到底對社會有沒有什麼影響力?這可能從引用數字看不出來,但畢竟國家希望的就是透過大學的研究來提升整個社會的水準,所以如何判斷一個研究對社會的衝擊(impact)和影響力是很重要的。

幾年前英國就試辦了一個卓越研究框架(REF, Research Excellence Framework)的評估,是第一個試著評估學術研究對社會的衝擊。衝擊的定義是超越學術界,對經濟、社會、文化、公共政策或服務、健康、環境或生活質量的產生影響,讓社會改變或受益。

耗時的審查成本

此卓越研究框架活動的一部分就是評估英國高等教育機構共提交了6,975個具有影響力的研究案例,以展示了英國高等教育的研究有著廣泛的社會影響力。這些案例提供了獨特而寶貴的資料來源,顯示英國高等教育的研究對英國和海外的經濟、社會、文化、政策、健康、環境和生活質量都有廣泛而多樣的好處。

但審查這6,975份報告是一項非常耗時的工作,這次的審查歸類了185,594項研究的產出,其中41%被認為是世界領先的,43%被認為是國際優秀的。據官方估計,審查小組成員的時間成本為1,900萬英鎊,是2.46億英鎊總成本的一部分。

AI加入審查作業

目前英國的科研補助部門開始研究是否可以使用人工智慧來分析那些提出的報告,以預測研究成果的質量,此舉可能會大量減輕卓越研究框架中對同行評審的需求。

一位大學資料科學教授已經完成了對人工智慧在REF中的潛在用途的研究,他告訴泰晤士報,他的演算法在預測研究成果的重要性時比其他的方法更成功,但即使是一個100%準確評估的系統也需要考慮到它所產生的副作用和弱點,例如如果質量評估指標中有一項是「隨機對照試驗」,分數就會比較高,未來你可能會發現很多人在他們的摘要都會提到這一點。

如何評估一個研究的社會衝擊和影響力的確很難,有的研究可能好幾年後才會被世人看出它的價值,例如達爾文的進化論也是過了好幾年才被世人肯定,但時至今日還是有很多對進化論的懷疑者,即使蓋棺都無法認定,何況是永久保存的研究論文!