人工智能技術在各行各業的應用，促進了技術變革和產業升級，有力地推動了數字中國和現代化建設，也為促進教育數字化轉型提供了強大動力。習近平總書記在致國際人工智能與教育大會的賀信中指出，中國高度重視人工智能對教育的深刻影響，積極推動人工智能和教育深度融合，促進教育變革創新。

2022年11月，基于人工智能的聊天工具ChatGPT上線僅兩個月，活躍用戶超過了1億。ChatGPT能根據上下文理解用戶輸入的信息，幫助用戶生成問題的解決方案，如寫論文、編代碼、當客服等。當其逐漸應用到教與學的過程中，出現了如人機協同教學、個性化學習、智能化評價、輔助學術研究等典型應用。但是，應用中的倫理問題，如學術不端、數據泄露、社會偏見、教育價值偏頗等，逐漸浮現并產生了負面影響。因此，如何在充分發揮人工智能教育應用價值的同時，有效規避其中的倫理風險亟待探討和解決。

    ChatGPT的教育應用助力學與教變革

ChatGPT的應用有利于促進學生的個性化學習。ChatGPT能夠為學生提供個性化的自適應學習體驗，通過ChatGPT的自然語言處理技術，將學生提出的問題轉化為結構化的數據，并將其與相關知識庫進行匹配，提供最優解答，并且ChatGPT會記錄每一次的問答，針對學生的問題進行分析，深入了解學生的學習習慣、學習水平等從而使學生可以獲得個性化和高效的學習指導，提高學生的學習效率。

ChatGPT的應用有助于推動教師的自動化教學。ChatGPT可以與教師實現協同工作，輔助教師進行課程設計和材料生成，為教師生成有針對性的學科知識、教學材料、教學大綱、教學案例和教學策略等。通過與ChatGPT進行模擬課堂對話，教師可以更好地了解學生的問題，提高課堂教學的靈活性。在課后教師可以使用ChatGPT對學生上課的提問與回答進行教學診斷，幫助教師了解學生的學習情況、困難，及時調整教學策略和內容。ChatGPT會自動對學生的作業或試卷進行評分和批改，教師可以快速而準確地對學生的作業和試卷進行評分和批改。

ChatGPT的應用有益于輔助學術研究。ChatGPT可以為研究者提供模型預測和數據分析的支持。

研究者提供相關數據，這些數據可以包括實驗數據、問卷數據、統計數據等，ChatGPT將使用自然語言處理技術分析這些數據，從中發現有價值的信息，并進行數據分析和模型預測，之后ChatGPT將提供分析報告，其中包括數據可視化展示、結果說明和推薦建議等內容，讓研究者更加便捷地了解數據和模型的特征、趨勢。最后，研究者可以基于分析結果進行進一步的科研探索和實驗研究，同時對模型和數據進行優化和改進，從而促進科研工作的深入開展。

    ChatGPT應用引發的教育倫理問題亟待破解

教師和學生在應用ChatGPT的過程中產生了亟待解決的倫理問題，包括數據泄露、算法偏見與歧視、學術不端、教育價值偏頗、人文關懷缺失等，這些問題給教育的可持續發展帶來了很大的挑戰。

數據泄露有可能引起學生權益受損。ChatGPT需要處理與存儲大量數據，這些數據存在被泄露的風險。在學習、教學與評價場景中，學生、教師與ChatGPT對話中可能涉及個人隱私信息、學術記錄、行為模式、學生成績、班級信息與答題信息等。由于技術漏洞、相關人員缺乏安全意識、黑客攻擊等使這些數據的安全不能得到保障，可能會導致被未經授權的人員訪問、篡改或濫用。如果不采取相應措施來規避風險，將會給學生與教育機構帶來嚴重的后果，包括個人信息被利用引來學生被詐騙或騷擾、對學生的學業產生負面影響、學校聲譽受損從而家校關系惡化等。

算法不透明或可導致教育偏見與歧視。ChatGPT在算法設計與調整時，可能存在一定的偏見。由于算法設計人員本身的偏見或盲區，或收集的語料本身存在的如種族、地區等偏見，ChatGPT的輸出也會受到影響。若算法不透明，我們無法判斷其作出決策的依據，也無法得知其中是否存在隱含偏見。學生與ChatGPT進行知識問答時，ChatGPT可能會給出不準確的回答，或者以不當的方式引導學生學習和行為，影響學生的學習效果和公平性，加劇數字技能鴻溝甚至損害教育的公平性。

過度依賴或可導致學術不端與教育價值偏頗。ChatGPT可以根據研究任務生成說服性強且有一定邏輯的文本，若濫用可能產生剽竊、抄襲等學術不端問題。ChatGPT在一定程度上可以幫助學生提升學習效率，但學生若對其呈現的結果不加批判地全盤接受，會導致思維的惰化，從而其影響全面發展。長此以往，學生的元認知、創新性思維、批判性思維、獨立解決問題的能力均可能受到不同程度的損害，這與教育“培養全面發展的人”背道而馳。同時，在教學中，若教師過分依賴ChatGPT，在教育中忽視和缺失了人文關懷的情感教育，也不利于培養學生的健全人格與身心健康。

    應對ChatGPT教育應用倫理問題的策略

規范開發人工智能教育應用場景。ChatGPT具有強大的文本生成能力，可能的應用場景包括教、學、管、考、評、測、研等諸多方面，學校可以加強應用場景的規范開發，明確人工智能技術的育人價值，從教學全流程、全要素、全業務的角度深度思考，將智能技術與教學深度融合，打造典型的應用模式，破解教育和教學的核心問題，從而塑造學校人工智能教育應用的特色場景。

明確制定人工智能教育應用限度。正確認識ChatGPT等人工智能的功能特點、核心價值，謹慎處理其潛在風險。人工智能教育應用過程中，在數據采集、數據篩選、數據處理、數據應用等方面，容易出現個人信息泄露、數據安全受損、育人價值偏頗等問題。在應用過程中，從數據的全生命周期角度，需明確應用的具體限度，指導教師和學生在安全可信的前提下合理使用ChatGPT等人工智能，確保數據安全，保證教育的育人價值不出偏頗。

提高師生的人工智能素養和倫理意識。教師和學生的人工智能素養是將新一代人工智能技術融入教和學的基礎，而倫理風險意識則是保證師生安全可靠應用人工智能技術的前提條件。為提高師生的人工智能素養和倫理意識，組織開發人工智能教育應用與倫理意識相關課程和培訓，并將相關內容滲透到各科課程中去，讓學生了解智能技術的應用可能帶來的倫理風險。同時可引入人工智能檢測工具，建立相應的監督和管理機制對學生的學術行為進行監督，對學術不端行為進行懲處。

強化學生的高階思維能力培養。ChatGPT等生成性人工智能對學生的邏輯思維、提問能力、批判性思維、協作能力、溝通能力等提出了新的要求，只有具備了這些高階思維能力，學生才能與ChatGPT等人工智能應用形成良性的人機協同，促進自身的全面發展。要充分利用智能工具，推動教學理念更新、課堂范式轉型、教學模式轉變，推動學生高階思維能力的培養，讓學生能夠在未來復雜和不確定的世界中詩意地生存。

（作者楊俊鋒系杭州師范大學經亨頤教育學院教授、教育部教育信息化戰略研究基地［北京］副主任，陳睿寧系杭州師范大學研究生。本文系國家社科基金重點課題“人工智能教育場景應用的倫理與限度［ACA220027］”的成果）

《中國教育報》2023年05月13日第4版