AI倫理

中國學童測試「金箍咒」?

九月底《華爾街日報》走訪上海一所小學,了解以「腦波儀」監測學生學習行為之實況。據悉校方與廠商指出,這些技術還在實測階段,並未購置運用,然而很可能將在中國大量採用。


中國AI(人工智慧)科技迅速發展,並且在中共當局的鼓勵與默許下積極滲透社會日常生活以及各級校園,包括臉孔辨識監視甚至步態辨識技術。


日前《華爾街日報》發表「AI監控走進中國小學教室,頭戴腦波儀能提高孩子成績?」的報導短片,訪問上海(另說是浙江金華)一家運用腦波儀設備的小學。學生上課時須戴上腦波儀頭環,環上有三個電極監測點,會收集學生腦電波信號,無線傳輸到前方老師的機器,老師可即時從學生頭環上的光色與電腦上的分析儀表監督所有學生的上課反應與專注程度波形,比如專注、分神、或者機器接觸不良,以紅藍白三色光顯示,這些資訊也會即時傳輸到家長的手機。

 

報導影片中老師和學生看法不一,旦多有保留,老師傾向認為可以提升上課與教學效果,還有老師表示學生回答問題聲音「比平常更響亮」;也有學生笑稱不適或感覺受控制,但基本上學生們沒有抗拒,甚至對記者肯定有助學業。
 

據悉相關數據將由校方與廠商分享給政府當局以及相關科研機構。教師和家長表示不太關心這些數據最終去向或者用來做什麼,表示「如果國家發展需要,覺得這沒什麼問題。」
 

此外,《華爾街日報》也採訪美國加州大學舊金山分校的神經科學家贊多(Theodore Zanto),贊多表示這是典型的腦波圖(Electroencephalography, EEG)技術,目前為止相關研究還算少,沒有足夠數據可以證明有效偵測專注程度。而且這種技術非常容易受外界影響準確度,例如受測者正常的坐立不安、移動或者發癢都會影響,通常使用於醫院或者實驗室等高度監控的精密環境,所以被運用在教室學生身上,令他匪夷所思。
 

腦波圖是記錄頭殼上某些監測點的電位差,人在清醒、專注、分心、激動、昏迷、壓力等等不同狀況時,腦電波振動頻率會有明顯變化,呈現在圖表上。
 

腦波儀頭環內建功能將來可能會發展到什麼程度,在中國欠缺客觀公正監管,尤其對小學生使用彷彿孫悟空的金箍咒,可能帶來無謂的緊張、壓力,甚至隨者AI發展,進而侵犯思想與自由意志。
 

對此,許多敏感又無奈的中國網友嘆道,「竟然是使用EEG...那就不是審查與隱私的問題了。不知幸運或不幸,應該是徹頭徹尾的噱頭。」「政府到大眾對這類僅有噱頭的作法竟如此寬容,連受眾是孩童都如此明目張膽,難道中國知識份子都失能了嗎?」「難以置信,這是何等邪惡而且恐怖的國家。小學是應該好好享受校園生活的時候,而不是被當作探測儀來實驗。」
 

注意力是不是個人隱私?學生隱私為何被忽略?誰有權收集與分享學生私人數據?AI快速發展下,運用高科技讀取大腦資訊,是否涉及思想監控問題?
 

中國學生會不會大量被迫使用腦波儀?這樣的AI技術會不會淪為暗黑科技?應該如何監管與防守道德倫理防線?相關設備會不會如同臉孔辨識技術大量行銷國際專制政權?這些都是腦波儀發展並大量滲透校園很可能衍生的倫理問題。
 

我們所關注與擔憂的正是,如同美國杜克大學法學教授法拉哈尼(Nita Farahany)指出:「大腦是自由思想天馬行空、容許異議的安全之處,然而我們正在沒有任何保護之下,逐漸跨越這隱私的最後防線。」