美國內華達州長期以來有著教育資源分配不均的問題，而且嚴重程度在全國數一數二。與富有學區相比，低收入學區花在每位K-12學生身上的經費少了將近35%，這是全美50州中最大的差距。該州政府去（2023）年接受民間企業的建議，使用人工智慧（以下簡稱AI）統計各學區的中度至高度風險學生（以下簡稱『中高度風險學生』）人數，以便重新分配經費，讓資源能用在真正需要支持的學生身上，但卻引發了不少爭議。
學業和社會問題上遭遇困難導致進度落後的孩子會被歸類為中高度風險學生，州政府有義務給予必要援助。內華達州以往認為所有來自低收入家庭的孩子都是這類學生，但AI使用較複雜的演算法並設定了更高標準，導致統計結果和之前的數據有著極大差異。AI是由人類科學家提供大量資料集進行訓練，再透過演算法找出不同資訊間的關連性，然後做出決策或提供建議，這個內在過程無法透過外部觀察來了解運作細節，因而被稱為「AI黑盒子」。（參考資料1）如果讓AI處理的事情是小問題，例如建議食材和葡萄酒如何搭配等，人們很少在乎AI能否為它輸出的答案做出合理解釋；但若AI是為重大政策提供決策參考，但人們卻不能了解它的立論邏輯時，便會出現爭議和信任危機。
內華達州透過AI得到的統計結果顯示目前僅有6萬5千名中高度風險學生，這個數字遠低於前（2022）年27萬人的數據。這可能是因為AI在統計時，除了家庭收入之外，還考量六十多個因素來評估學生遭遇學習困難的可能性，但沒有人曉得AI是如何得出結論的。這個結果讓許多學區領導人感到驚訝不已，因為在新冠肺炎疫情爆發後，中高度風險學生人數呈長期增加的趨勢，AI提供的統計結果實在出人意料，比大家熟知的數據少了20萬人以上。
內華達州有一部分教育經費是依各學區的中高度風險學生人數進行分配，統計結果將直接影響學區的預算規模。若州政府採用AI提供的統計數據，補助金額將隨中高度風險學生人數的降低而大幅減少，原本依賴政府補助的學區將面臨資金斷炊危機，導致許多學區爭先恐後地重新規畫預算並削減需要大筆經費的課程或計畫。
使用AI進行中高度風險學生人數統計是項具有高度影響力的政策，不是每位內華達州人民都願意相信AI提供的數據。在州政府宣布這項措施時，有些人對使用AI協助教育政策與學校管理感到不安。內華達州採用新系統已經一年了，他們認為社會對中高度風險學生的定義和條件尚無共識，貿然利用AI進行統計只會讓事情變得更棘手。
內華達州採用的AI系統是由民間企業Infinite Campus提供，專長是分析學生資料。這個系統能透過學生的平均成績、無故缺席頻率及重大違規次數來預測哪些孩子在學習上可能會面臨艱鉅挑戰，甚至連能否順利畢業都成問題。根據該公司的說明，其他判斷因素還包括家長或監護人是否時常登入學校網站、學生是否與父母同住、學生在家裡使用的語言等60多個不同因素，但每個因素的權衡方式都是保密的。AI最後會給每位學生一個「畢業分數」（grad score），數字愈低，代表無法完成學業的機率愈高。
AI會將畢業分數排在最後20%的孩子標註為中高度風險學生，讓州政府在分配教育經費時能納入計算和討論。不過，雖然是協助政府進行公共事務的資料分析，Infinite Campus卻以商業機密為由，不願公開每個判斷因素所佔的權重與AI的「思考」過程，導致社會大眾難以信任該AI系統的統計結果。
內華達州政府能否達成照顧弱勢學生的初衷正面臨考驗。當AI提供和以往截然不同的重要數據，但分析與統計方法卻不透明時，人民對政府放手讓AI處理這項工作的做法便會產生質疑，畢竟這是一份對學生福利與教育經費影響相當大的資料。
除了內華達州以外，目前沒有其他州完全依賴AI識別中高度風險學生，並利用AI提供的統計數據來分配教育經費。在缺乏參考對象的情況下，要說服各學區相信AI提供的數據並不容易，內華達州政府得審慎思考如何調整統計方式或經費的分配規則，讓資源能確實送到需要協助的學生手中。
駐外單位：駐舊金山辦事處教育組 編撰
參考資料來源：
2024年10月11日, “Nevada asked AI which students need help, the answer caused an outcry”, By NYT News Service, Retrieved from The Economic Times,
https://economictimes.indiatimes.com/tech/artificial-intelligence/nevada-asked-ai-which-students-need-help-the-answer-caused-an-outcry/articleshow/114165068.cms#google_vignette
參考資料
- 2024年09月06日, “AI 黑盒子是什麼？無法理解的「黑箱作業」，打破 AI 黑盒有多重要”, By 蔡銘翰, Retrieved from Tech Orange, https://buzzorange.com/techorange/2024/09/06/what-is-black-box-ai/
- 2024年4月3日,“ When Students Get Lost in the Algorithm: The Problems with Nevada's AI School Funding Experiment”, By Jordan Abbott,Retrieved from New America
https://www.newamerica.org/education-policy/edcentral/when-students-get-lost-in-the-algorithm-the-problems-with-nevadas-ai-school-funding-experiment/