應用健康(應用健康檢查)

7月，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部等多部門(mén)公布《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱(chēng)《辦法》），自2023年8月15日起施行，旨在促進(jìn)生成式人工智能規范應用和健康發(fā)展。生成式人工智能技術(shù)是指具有文本、圖片、音頻、視頻等內容生成能力的模型及相關(guān)技術(shù)。

技術(shù)發(fā)展與教育之需

5G、大數據、人工智能等新一代數字技術(shù)對教育產(chǎn)生了深遠的影響，同時(shí)也暴露了目前教育存在的一些弊端，如過(guò)于注重知識和技能的傳授導致學(xué)生個(gè)性化需求難以滿(mǎn)足、教育資源分配不均衡、師生互動(dòng)反饋實(shí)效性低等。生成式人工智能作為人工智能的一個(gè)重要分支，具有較大潛力解決這些教育問(wèn)題。通過(guò)深度學(xué)習和生成模型，為學(xué)生提供個(gè)性化的學(xué)習路徑，根據學(xué)生的學(xué)習進(jìn)度和興趣生成相應的內容資源。此外，生成式人工智能還可以協(xié)助教師編制教案、創(chuàng )新教學(xué)活動(dòng)設計、拓寬評估方式等，教育工作者充分利用智能工具，建設更智能、適應性更強的教育系統，實(shí)現優(yōu)質(zhì)教育資源的共享與傳遞，推動(dòng)教育向更高水平邁進(jìn)。

從國際視角來(lái)看，多國相繼出臺有關(guān)生成式人工智能在教育領(lǐng)域應用的政策。如英國發(fā)布《生成式人工智能在教育中的應用》報告，強調學(xué)校須提供針對性的教學(xué)內容，包括理解生成式人工智能的局限性、可靠性以及潛在偏見(jiàn)，互聯(lián)網(wǎng)所呈現的信息如何組織以及網(wǎng)絡(luò )安全相關(guān)知識等。日本發(fā)布《初等中等教育階段生成式人工智能利用暫行指南》，認為應從有限利用生成式人工智能開(kāi)始，檢查驗證利用過(guò)程的有效場(chǎng)景；學(xué)校要培養包含確認信息真偽在內的信息利用能力，提高人工智能時(shí)代所需的素質(zhì)和能力。聯(lián)合國教科文組織發(fā)布《生成式人工智能與教育的未來(lái)》報告，對生成式人工智能在教育的影響進(jìn)行了批判性反思，并呼吁在生成式人工智能整合到教育系統的過(guò)程中應加強審查和監管，以確保生成式人工智能與教育的融合符合教育目標和人類(lèi)價(jià)值觀(guān)?？v觀(guān)多國政策內容，在闡述育人的基礎上均強調生成式人工智能在教育中應用的規范性，即教育相關(guān)人員如何規范化、合理化、安全化應用生成式人工智能。

人機融合與規范應用

人機融合是人類(lèi)與計算機或其他智能設備之間的協(xié)同合作，以實(shí)現更高效的信息處理、決策和創(chuàng )新。教育領(lǐng)域人機融合過(guò)程中，機器需要發(fā)揮計算智能，快速接收、存儲、分析數據信息，并為用戶(hù)高效提供解決方案。人類(lèi)需要發(fā)揮主體特性，進(jìn)行思考批判、融合創(chuàng )新和情感溝通等，來(lái)彌補機器的不足和缺陷。

在這一過(guò)程中，規范應用生成式人工智能對教育管理者、教師和學(xué)生都至關(guān)重要。教育管理者：關(guān)注并跟進(jìn)技術(shù)發(fā)展，有針對性制定明確的規范與準則，指導生成式人工智能在教育中的應用；應投入相關(guān)教育資源，包括基礎設施和專(zhuān)業(yè)培訓，確保教師和學(xué)生能夠充分利用生成式人工智能的教學(xué)工具和資源；定期審查和評估生成式人工智能生成的教學(xué)資源，確保其質(zhì)量和適用性，避免錯誤或有害內容對學(xué)生產(chǎn)生負面影響。教師：主動(dòng)接受相關(guān)培訓，熟悉生成式人工智能的相關(guān)應用，掌握其關(guān)鍵技術(shù)和使用技巧；根據學(xué)生的特點(diǎn)和需求，進(jìn)行個(gè)性化的教學(xué)活動(dòng)設計，讓人工智能技術(shù)更好地為學(xué)生服務(wù)；當生成式人工智能提供的內容不完全符合實(shí)際需求時(shí)，教師應有能力進(jìn)行干預和糾正。學(xué)生：在使用人工智能輔助學(xué)習時(shí)應保持主動(dòng)性和自主性，而不是完全依賴(lài)于人工智能系統；可以充分利用個(gè)性化學(xué)習輔導特性，根據自己的學(xué)習需求和進(jìn)度，獲取量身定制的學(xué)習材料和練習題目；同時(shí)可利用相關(guān)應用進(jìn)行作業(yè)評估和獲取即時(shí)反饋。

風(fēng)險防范與健康發(fā)展

《辦法》的出臺，標志著(zhù)生成式人工智能服務(wù)在我國的應用開(kāi)始進(jìn)入規范化和標準化的階段。因此，不僅要積極探索生成式人工智能技術(shù)在教育教學(xué)中的應用，同時(shí)也需要對其潛在問(wèn)題進(jìn)行風(fēng)險防范。

目前，生成式人工智能應用主要存在以下風(fēng)險。一是生成式人工智能自身模型存在缺陷，精確度低，推理能力一般，可解釋性和可信任性有待提高，并存在用戶(hù)隱私泄露隱患。二是無(wú)法滿(mǎn)足高層次教育需求，缺乏高階思維能力，不能提供人性化的互動(dòng)。三是弱化師生思維能力，可能會(huì )引起師生對生成式人工智能應用的依賴(lài)性，降低其獨立思考能力。四是可能會(huì )成為“作弊”工具，給一些學(xué)生帶來(lái)“走捷徑”的想法，甚至成為考試作弊的工具。

對生成式人工智能教育應用的研究和監管，需要重點(diǎn)考慮以下幾個(gè)方面：

第一，確定使用目的，教師、學(xué)生等教育相關(guān)人員要避免過(guò)度依賴(lài)工具而忽略了其他教學(xué)資源和方法。第二，思考應用情境，生成式人工智能應用可以在一些特定的情境下發(fā)揮作用，如內容創(chuàng )作、數據分析、方案生成等。值得注意的是，教師需要有選擇性地將此類(lèi)應用融入教學(xué)環(huán)節中，并根據不同教學(xué)場(chǎng)景特點(diǎn)進(jìn)行有針對性的管理和規范。第三，確保數據和師生隱私安全，應用提供方需要遵循相關(guān)法律法規，確保數據的合法性和安全性，同時(shí)保護師生的隱私不受侵犯。第四，注意內容質(zhì)量，生成式人工智能應用的質(zhì)量取決于訓練數據的質(zhì)量，用戶(hù)需要對其輸出的內容進(jìn)行二次辨別。第五，強化監管和指導，教育領(lǐng)域的生成式人工智能技術(shù)需要加強監管和指導，確保其應用符合教育規律和學(xué)生成長(cháng)規律。相關(guān)部門(mén)應建立完善的監管機制，對技術(shù)的應用進(jìn)行審批和監督，同時(shí)為技術(shù)的應用提供指導和支持。第六，促進(jìn)技術(shù)創(chuàng )新，生成式人工智能技術(shù)的應用需要不斷進(jìn)行技術(shù)創(chuàng )新，以滿(mǎn)足教育的需求和發(fā)展的需要。需要鼓勵企業(yè)和研究機構進(jìn)行技術(shù)研發(fā)和創(chuàng )新，提高技術(shù)的質(zhì)量和水平，同時(shí)避免技術(shù)濫用和低水平重復。

（作者單位系北京郵電大學(xué)教育技術(shù)研究所）

《中國教育報》2023年09月04日第4版

作者：王世杰 文福安