From： Scientific American； 作者：Iris

許多人希望借助深度學(xué)習(xí)來(lái)滿足對(duì)高質(zhì)量、定制化教育的需求。慕課的出現(xiàn)、數(shù)字設(shè)備的普及，似乎為實(shí)現(xiàn)這一愿景奠定了基礎(chǔ)。然而，我們必須要考慮到，AI工具進(jìn)軍教育領(lǐng)域所可能造成的負(fù)面影響，以及應(yīng)如何改進(jìn)研究?jī)?nèi)容，以防止一些意料之外的后果發(fā)生。

算法是AI教學(xué)的核心，它可以持續(xù)跟進(jìn)學(xué)生的學(xué)習(xí)進(jìn)度，并根據(jù)各個(gè)學(xué)生的學(xué)習(xí)習(xí)慣調(diào)整教學(xué)計(jì)劃，從而給予他們最佳的學(xué)習(xí)體驗(yàn)。有了AI導(dǎo)師的幫助，學(xué)生們可以在家中學(xué)習(xí)。如今受疫情影響，學(xué)生們必須在家上課，網(wǎng)課得到了空前普及。不過(guò)，遠(yuǎn)程教學(xué)的體驗(yàn)并不太如意。雖然簡(jiǎn)單的網(wǎng)絡(luò)授課與AI教學(xué)有所出入，但可以看出，它或許會(huì)與我們理想中的概念有很大不同。換言之，AI導(dǎo)師能夠提高教學(xué)的效率，但并不一定能為學(xué)習(xí)者帶來(lái)樂(lè)趣。

插播

3月5日（周四）晚8點(diǎn)，網(wǎng)易有道技術(shù)總監(jiān)林會(huì)杰

來(lái)跟你聊聊「人工智能在教育軟硬件工具中的應(yīng)用」

大部分研究人員依然認(rèn)為，只需要克服技術(shù)缺陷，深度學(xué)習(xí)就能為教育界造福。這未免過(guò)于武斷了些。事實(shí)上，研究的重心更應(yīng)該放在如何降低AI工具可能會(huì)產(chǎn)生的風(fēng)險(xiǎn)上。AI導(dǎo)師與人類教師的協(xié)同工作，可能是最具安全保障、效率最高的方法之一。

智能教學(xué)系統(tǒng)通用框架

AI教學(xué)的潛在風(fēng)險(xiǎn)

AI導(dǎo)師并不能建立起師生間的情感聯(lián)系。除了汲取知識(shí)外，學(xué)生還期望在課堂上學(xué)到很多其他東西，比如發(fā)展人際關(guān)系、學(xué)會(huì)如何與人相處等。我們?cè)S多人都曾與老師構(gòu)建起師生情誼，他們給予我們的人生教誨，有時(shí)候遠(yuǎn)比教學(xué)的內(nèi)容要更能讓人受益終生。然而，AI導(dǎo)師并不能為學(xué)生提供這些基于情感支持的互動(dòng)。

此外，年輕人的社會(huì)孤獨(dú)感日益加重。研究發(fā)現(xiàn)，上網(wǎng)時(shí)間較少、參加社交活動(dòng)較多的青少年的同理心水平，與其他人相比要高一些。聯(lián)合國(guó)教科文組織正在考慮調(diào)整教育方向，以強(qiáng)調(diào)培養(yǎng)學(xué)生的社會(huì)情感能力為主要目標(biāo)，而非一味地強(qiáng)迫兒童看著屏幕吸收知識(shí)。

不巧的是，AI導(dǎo)師系統(tǒng)的設(shè)計(jì)往往是為了最大化學(xué)生上網(wǎng)的效率。除此之外，由機(jī)器學(xué)習(xí)驅(qū)動(dòng)的教學(xué)方式，能夠自動(dòng)調(diào)整授課方法，以調(diào)節(jié)學(xué)生的注意力，而這可能會(huì)破壞學(xué)生進(jìn)行自我調(diào)節(jié)的能力。同樣，習(xí)慣于AI教學(xué)的學(xué)生，可能會(huì)很難適應(yīng)現(xiàn)實(shí)世界中，那些無(wú)法進(jìn)行即時(shí)溝通的創(chuàng)造性工作。

我們還必須考慮到這樣一種可能性，即居心叵測(cè)的人會(huì)利用這項(xiàng)技術(shù)來(lái)教授暴力題材的內(nèi)容。比如，恐怖分子會(huì)利用它來(lái)擴(kuò)大有關(guān)破壞行為的培訓(xùn)課程的規(guī)模。此外，若要訓(xùn)練AI導(dǎo)師根據(jù)學(xué)生的學(xué)習(xí)習(xí)慣和進(jìn)度來(lái)精確地調(diào)整培訓(xùn)方案，研究人員需要收集關(guān)于學(xué)生的心理狀態(tài)和學(xué)習(xí)水平的信息數(shù)據(jù)，進(jìn)行深入的處理和分析。這些私密數(shù)據(jù)，是否會(huì)被惡意泄漏呢？

恐怖分子曾在網(wǎng)上直播暴力視頻被記者發(fā)現(xiàn)

網(wǎng)絡(luò)安全和數(shù)據(jù)隱私的缺位，是這個(gè)平臺(tái)亟需解決的難題之一。而對(duì)于接受AI教學(xué)的兒童來(lái)說(shuō)，這一問(wèn)題更加嚴(yán)峻。Facebook前首席信息安全執(zhí)行官亞歷克斯斯塔莫斯（Alex Stamos）表示：“兒童的隱私泄露， 會(huì)加重兒童剝削，比如兒童色情�！币恍�惡意的色情和暴力圖片，也可能會(huì)被發(fā)到低年齡學(xué)生的上課平臺(tái)，對(duì)他們?cè)斐刹豢深A(yù)計(jì)的傷害。

邁向更美好的前景

這些風(fēng)險(xiǎn)的存在，并不代表著AI教學(xué)應(yīng)被全盤否定，相反，它可以繼續(xù)改進(jìn)，發(fā)展成更成熟的線上教學(xué)系統(tǒng)。

首先，為了提高互動(dòng)效果，教師和AI工具可以展開(kāi)協(xié)同工作，即教師選擇性采納AI工具提供的教學(xué)建議，工具支持教師對(duì)作業(yè)進(jìn)行評(píng)分，并跟蹤學(xué)生學(xué)習(xí)進(jìn)度。AI教學(xué)目前在教授以記憶知識(shí)為主的課程方面最為有效，而不支持創(chuàng)造性和開(kāi)放性的課程學(xué)習(xí)�，F(xiàn)實(shí)中，在大教室里，教師不可能像鋼琴老師幫助調(diào)整學(xué)生的手的位置那樣，密切關(guān)注每個(gè)學(xué)生。因此，工具的監(jiān)控作用是非常必要的。

智能監(jiān)控反饋

當(dāng)前的算法，需要大量的學(xué)生數(shù)據(jù)來(lái)支持AI教學(xué)工作的信息反饋。我們需要找到在不動(dòng)用大量學(xué)生數(shù)據(jù)的情況下完成反饋的方法。低數(shù)據(jù)分析技術(shù)似乎很有前途，可以降低數(shù)據(jù)濫用的風(fēng)險(xiǎn)，也不需要調(diào)出囤積了數(shù)百萬(wàn)學(xué)生的學(xué)習(xí)信息的數(shù)據(jù)庫(kù)，來(lái)進(jìn)行繁復(fù)的算法解析。

研究人員更應(yīng)該加強(qiáng)兒童安全風(fēng)險(xiǎn)方面的檢測(cè)，把大量的精力放在開(kāi)發(fā)內(nèi)容審核工具上。做到這一點(diǎn)，在線學(xué)習(xí)平臺(tái)才能實(shí)現(xiàn)對(duì)所有學(xué)習(xí)者的安全保障。尤其是對(duì)兒童和那些暴露于不穩(wěn)定的網(wǎng)絡(luò)環(huán)境中的人來(lái)說(shuō)，有了保障，他們才得以更放心地使用AI教學(xué)系統(tǒng)。

言而總之，深度學(xué)習(xí)在教育領(lǐng)域的應(yīng)用和醫(yī)學(xué)AI工具一樣，在我們看到其潛力的同時(shí)，還要堅(jiān)守這樣的原則：一項(xiàng)優(yōu)質(zhì)技術(shù)的前提，是它不能對(duì)人類本身帶來(lái)傷害。