教師人工智能倫理及安全教育研究
前言：本站為你精心整理了教師人工智能倫理及安全教育研究范文，希望能為你的創作提供參考價值，我們的客服老師可以幫助你提供個性化的參考范文，歡迎咨詢。
摘要：人工智能技術發展迅速，其相關的人工智能倫理和安全的重要性也愈發凸顯。該內容是目前國內外研究的熱點，發展很快，內容變化也比較大，希望能有更多的人加入人工智能倫理學的研究中來。特別是對于中學教師，要定期給予適當的教育和培訓，使教師在教學過程中能及時將新內容傳遞給學生，使學生從小就得到應有的相關教育，建立正確使用和處理信息的方法，樹立良好的信息社會責任意識。
一、研究背景
2017年底，筆者有幸參與了《普通高中信息技術課程標準(2017年版)》對應的新教材的編寫工作，在人民教育出版社和中國地圖出版社聯合出版的兩本書——《高中信息技術(必修1)：數據與計算》和《高中信息技術(選擇性必修4)：人工智能初步》中，負責編寫前者的第四章《走進智能時代》和后者的第四章《人工智能發展》。這兩部分內容都涉及人工智能倫理學。此前，本人一直從事人工智能技術研究工作，對于人工智能倫理學了解不多，但關注后發現，該領域內容的研究和推廣非常重要，但教材中受篇幅所限，僅寫了一些基本原則。《高中信息技術(必修2)：信息系統與社會》的第四章雖也講到了信息安全和社會責任，但講得還不夠。該部分內容是目前國內外研究的熱點，發展很快，內容變化也比較大，因此筆者通過本文呼吁更多的人加入人工智能倫理學的研究，特別應加強對中學教師的相關教育和培訓，以便相關內容能有效傳遞給學生。2018年，習近平總書記在中共中央政治局第九次集體學習時強調，要加強人工智能相關法律、倫理、社會問題的研究，建立健全保障人工智能健康發展的法律法規、制度體系、倫理道德。研究和建立人工智能倫理規范有助于更好地發揮“頭雁”效應，對保障產業健康發展和人民生活幸福具有重要意義。學生在學習掌握知識技能的同時，也應注重人工智能倫理規范的學習。但因其具有內容新、變化快的特點，唯有先對教師進行人工智能倫理及安全的相關培訓，才能將相關內容有效傳遞給學生。筆者為中學教師做過培訓，但培訓涉及的技術內容較多，人工智能倫理及安全的內容較少，因此應加大、加強后者的培訓工作，以便幫助學生樹立正確使用和處理信息的方法，樹立良好的信息社會責任意識。韓愈有言：“師者，所以傳道受業解惑也。”教師不僅要給學生授業，更重要的是傳道。對學生進行人工智能倫理及安全的相關教育恰恰體現了課程思政，即教導學生如何在信息社會中做一個正直的人、擔當起社會責任。
二、人工智能倫理及安全的挑戰和教育
任何事物都具有兩面性，人工智能技術也不例外。技術就是雙刃劍，不能正確使用，就有可能成為危害人類的工具。目前，人工智能在隱私、安全和倫理方面給人類帶來了新的挑戰，值得深思和研究。
1.隱私的挑戰與教育
目前，人工智能的發展是以大數據驅動為主導模式的，人工智能技術在使用大數據資源時，必然涉及對用戶隱私數據的采集、傳輸、處理和顯示等。隱私被侵犯主要出現在數據應用的三個環節：數據采集中的隱私侵犯、數據存儲和傳輸中的隱私侵犯、數據分析中的隱私侵犯。教師應先學習如何面對隱私挑戰并將其融入教學過程中。例如教師應教導學生知道何謂隱私數據，當智能系統采集涉及身份證號碼、銀行賬號、密碼、指紋、聲紋、虹膜、步態和心跳等數據時，學生應產生高度警惕并正確處理。此外，應教導學生安裝國家反詐中心App，遇到問題找警方處理，以盡量減少個人隱私泄露所帶來的損失和危害。
2.安全的挑戰與教育
人工智能的安全挑戰主要體現在以下四個方面。(1)國家安全風險。人工智能技術在國家安全相關領域中的應用可能會帶來影響國家安全的風險。其對國家安全的影響主要體現在軍事、信息和經濟三大方面，特別是在國防建設、基礎設施建設和涉密系統等領域中，由人工智能技術所帶來的風險影響巨大。教師在教學過程中要教導學生正確看待數據，因為數據是人工智能的基礎，學生將來無論做什么工作，都會或多或少接觸到數據，學生應從小樹立數據安全意識，不要因為無意間的數據泄露給國家造成安全隱患，要有安全保密的意識。(2)社會安全風險。人工智能所帶來的社會安全風險是多層面的。例如，人工智能技術應用于制造業，替代了大量以體力和重復勞動為主的工人，導致市場對該類勞動力的需求大幅下降，失業人員增加，影響了社會安定。教師應教導學生關注和了解新技術發展的趨勢，為自己的未來職業進行科學的規劃和準備。(3)網絡安全風險。網絡安全風險主要指網絡傳輸過程中所產生的風險。例如，黑客常使用一些技術攻擊或竊取服務器上的數據。網絡安全風險還包括對人工智能算法、系統和應用進行惡意攻擊；利用干擾技術使計算機在進行深度學習的過程中受到欺騙；利用數據欺詐等手段遠程控制網絡設備，使設備發生故障或停止工作等。教師應在教學中教導學生保障網絡安全的一些技術和方法，更要教導學生從小就樹立正確的世界觀、人生觀、價值觀，堅決不能成為黑客這樣危害社會的人。(4)人身安全風險。人工智能技術在給人類的生產和生活帶來便捷的同時，也給人類自身安全造成一定風險。隨著人工智能與物聯網融合的不斷深入，人們的衣食住行與智能產品之間的關聯越來越密切，一旦這些智能產品(如智能醫療設備、自動駕駛汽車等)出現故障，就可能危及人身安全。教師應教導學生在使用一些可穿戴的智能產品時，樹立安全防范意識，懂得做安全測試，從而保護自己和他人的人身安全。
3.倫理的挑戰與教育
人類的思考和行動受社會規范、道德倫理以及法律法規的約束。人工智能的目標是希望機器能像人一樣理性地思考和行動，因此，讓機器也能像人一樣遵守社會規范、道德倫理以及法律法規，成為當前學者熱議和研究的一大問題。如何采取措施保障研究人員開發出的智能產品和智能系統與現有的法律法規、社會規范和道德倫理一致，確定人工智能產品或系統的法律主體、權利、義務和責任，是人工智能技術發展面臨的倫理問題和挑戰。其主要表現在：對“什么是人”問題的新挑戰；對以往倫理關系的新挑戰；對原有社會秩序的新挑戰；對人類未來命運的新挑戰。該內容可探討的內容很多，在此不贅述。本文只討論與青少年關系較大的兩個問題。第一，對學生進行誠信教育。人工智能技術通過采集用戶的日常行為信息，結合大數據分析，進行用戶數據畫像、信用評估并產生信用報告。信用報告在找工作、買房、買車、辦信用卡等過程中都具有重要作用。我國正逐步建立和完善社會信用體系，個人誠信信息也會記錄到個人信用體系中，因此要教導學生誠信使用網絡，自覺遵守信息社會的法律法規、行為規范和道德準則，否則會給社會和自己今后的生活造成隱患。第二，有些青少年終日沉迷于各種智能終端體驗而不能自控，他們認為虛擬世界才是真實、親切的，對虛擬對象產生過分的眷戀和依賴，影響了個體人格的健康發展，打亂了正常的倫理關系，這個問題已經變得越來越嚴重。學校應通過各種有意義的活動，讓學生在現實世界中找到安全感和價值感。對已經陷入虛擬世界的學生，學校和教師要安排專業的心理咨詢師進行適當的心理干預和疏導，幫助他們走出對電子設備的依賴。國家人工智能標準化總體組、專家咨詢組發布的《人工智能標準化白皮書(2018版)》指出了人工智能技術應當遵循的原則：一是人類利益原則，即人工智能技術應以實現人類利益為終極目標；二是責任原則，即在技術開發和應用兩方面都要建立明確的責任體系，以便可以在技術層面對人工智能技術開發人員或部門問責，在應用層面建立合理的責任和賠償體系。人工智能技術的不斷發展和完善，為人類社會的發展提供了新的工具和動力，如何正確認識人工智能對人類社會的影響，更好地利用其為人類社會服務，是所有人應該思考的問題。人工智能的應用帶來了倫理及安全方面的很多挑戰，教師應知道如何面對挑戰和應對挑戰，并要在日常教學中對學生進行相應的教育，并通過創設一些真實的情境，讓學生學會處理問題、解決問題的方法，提升學生相應的能力。
三、對教師進行人工智能倫理及安全教育和培訓的一些建議
黨中央、國務院和有關部門高度重視人工智能發展的科技倫理與法律問題，有關研究正在不斷實踐和探索中，并已出臺一些相關的法律法規。例如2017年，國務院立足國家發展戰略制定了《新一代人工智能發展規劃》，統籌發展和安全的關系，即要在發展中規范、在規范中發展。可見，人工智能倫理及安全的相關內容是動態變化的，如果等寫進教材、進入學校再講授給學生，就無法跟上時代的發展，所以對教師進行人工智能倫理及安全的相關教育和培訓尤為重要，這是給學生傳遞知識和信息的重要渠道，因此提出以下幾點建議。
1.教育教學管理部門應組織相應研究團隊
各省市教育教學管理部門應高度重視上述內容，建議在相關教研室建立研究團隊，首先關注人工智能倫理及安全的國內外發展現狀，搜集總結最新的研究成果，將其納入信息技術教師的培訓內容中。其次強化人工智能倫理學教育的投入力度，加強人工智能倫理學教師隊伍建設，為人工智能倫理學教育提供師資保障。最后加強對教師的專業知識和技能培訓，提高教師人工智能倫理學專業素養，成立科研小組，加強學術交流，確保教師能夠用專業知識對學生開展人工智能倫理學教育。
2.定期組織教師的相關培訓
現代社會技術和信息發展非常快，每一個人都應具備終身學習的能力。一方面要有自主學習的能力，另一方面要定期參與一些培訓，才能不斷提高，跟上時代的發展。在信息社會，終身學習者必須具備信息素養。一名高素質的教師應具有現代教育思想和教學理念，掌握現代教學方法和教學手段，熟練運用信息工具對信息資源進行有效的收集、組織、運用；通過網絡與學生家長或監護人進行交流，在潛移默化中培養學生的信息意識。教師需要不斷學習，才能滿足新時代對學生素質培養的要求。筆者曾參與過教育部教育管理信息中心組織的教師教育教學新技術培訓工作，十幾年間一直利用寒暑假給教師進行慕課、微課和人工智能技術的相關培訓，但大多側重技術，幾乎沒有涉及人工智能倫理學。筆者認為，今后一方面應加大對教師信息技術素養的培訓力度。未來的國際競爭主要是人才的競爭，如果培養的人才缺乏捕捉信息、有效利用信息迅速發現新機會的能力，就很難在激烈競爭的社會中生存與發展。也就是說，高素質的人才必須具有良好的信息素養。而人才培養的速度、數量和質量，受到教師的信息素養水平的影響。因此，要通過定期組織教師的相關培訓提升教師的信息素養。另一方面，還應加強對教師進行人工智能倫理及安全方面的教育和培訓，讓教師能接觸到最新知識，并在教育教學中及時傳遞給學生，使學生從小就能得到信息素養的培養，將來才能成為社會的棟梁。
3.利用相關網站或平臺進行相應宣傳
強化人工智能倫理及安全的相關教育還可以充分利用教師學習和教研的相關網站或平臺，通過加大人工智能倫理學方面的信息建設，使教師既可以獲得最新知識，也可以充分利用資源平臺對學生開展人工智能倫理學的教育。為此，相關網站或平臺要不斷豐富和充實相關信息資源，滿足教師和學生的信息資源需求，為學生的信息活動提供更多專業的指導。此外，相關網站或平臺還可通過信息檢索服務項目，在信息檢索課程中增加人工智能倫理學和道德方面的內容，從信息需求、信息獲取、信息利用、信息評價等方面入手，引導學生樹立正確的信息倫理意識。
參考文獻
[1]李麒.人工智能倫理規范的初步探討[C].上海市法學會會議論文集,2021:24-33.
[2]任友群,萬昆,馮仰存.促進人工智能教育的可持續發展—聯合國《教育中的人工智能：可持續發展的挑戰和機遇》解讀與啟示[J].現代遠程教育研究,2019(5):3-10.
[3]沈苑,汪瓊.人工智能在教育中應用的倫理考量：從教育視角解讀歐盟《可信賴的人工智能倫理準則》[J].北京大學教育評論,2019(4):18-34,184．
作者:王嵐 單位:天津師范大學計算機與信息工程學院
