From： Scientific American； 作者：Iris

許多人希望借助深度學習來滿足對高質量、定制化教育的需求。慕課的出現(xiàn)、數(shù)字設備的普及，似乎為實現(xiàn)這一愿景奠定了基礎。然而，我們必須要考慮到，AI工具進軍教育領域所可能造成的負面影響，以及應如何改進研究內容，以防止一些意料之外的后果發(fā)生。

算法是AI教學的核心，它可以持續(xù)跟進學生的學習進度，并根據(jù)各個學生的學習習慣調整教學計劃，從而給予他們最佳的學習體驗。有了AI導師的幫助，學生們可以在家中學習。如今受疫情影響，學生們必須在家上課，網課得到了空前普及。不過，遠程教學的體驗并不太如意。雖然簡單的網絡授課與AI教學有所出入，但可以看出，它或許會與我們理想中的概念有很大不同。換言之，AI導師能夠提高教學的效率，但并不一定能為學習者帶來樂趣。

插播

3月5日（周四）晚8點，網易有道技術總監(jiān)林會杰

來跟你聊聊「人工智能在教育軟硬件工具中的應用」

大部分研究人員依然認為，只需要克服技術缺陷，深度學習就能為教育界造福。這未免過于武斷了些。事實上，研究的重心更應該放在如何降低AI工具可能會產生的風險上。AI導師與人類教師的協(xié)同工作，可能是最具安全保障、效率最高的方法之一。

智能教學系統(tǒng)通用框架

AI教學的潛在風險

AI導師并不能建立起師生間的情感聯(lián)系。除了汲取知識外，學生還期望在課堂上學到很多其他東西，比如發(fā)展人際關系、學會如何與人相處等。我們許多人都曾與老師構建起師生情誼，他們給予我們的人生教誨，有時候遠比教學的內容要更能讓人受益終生。然而，AI導師并不能為學生提供這些基于情感支持的互動。

此外，年輕人的社會孤獨感日益加重。研究發(fā)現(xiàn)，上網時間較少、參加社交活動較多的青少年的同理心水平，與其他人相比要高一些。聯(lián)合國教科文組織正在考慮調整教育方向，以強調培養(yǎng)學生的社會情感能力為主要目標，而非一味地強迫兒童看著屏幕吸收知識。

不巧的是，AI導師系統(tǒng)的設計往往是為了最大化學生上網的效率。除此之外，由機器學習驅動的教學方式，能夠自動調整授課方法，以調節(jié)學生的注意力，而這可能會破壞學生進行自我調節(jié)的能力。同樣，習慣于AI教學的學生，可能會很難適應現(xiàn)實世界中，那些無法進行即時溝通的創(chuàng)造性工作。

我們還必須考慮到這樣一種可能性，即居心叵測的人會利用這項技術來教授暴力題材的內容。比如，恐怖分子會利用它來擴大有關破壞行為的培訓課程的規(guī)模。此外，若要訓練AI導師根據(jù)學生的學習習慣和進度來精確地調整培訓方案，研究人員需要收集關于學生的心理狀態(tài)和學習水平的信息數(shù)據(jù)，進行深入的處理和分析。這些私密數(shù)據(jù)，是否會被惡意泄漏呢？

恐怖分子曾在網上直播暴力視頻被記者發(fā)現(xiàn)

網絡安全和數(shù)據(jù)隱私的缺位，是這個平臺亟需解決的難題之一。而對于接受AI教學的兒童來說，這一問題更加嚴峻。Facebook前首席信息安全執(zhí)行官亞歷克斯斯塔莫斯（Alex Stamos）表示：“兒童的隱私泄露， 會加重兒童剝削，比如兒童色情�！币恍�惡意的色情和暴力圖片，也可能會被發(fā)到低年齡學生的上課平臺，對他們造成不可預計的傷害。

邁向更美好的前景

這些風險的存在，并不代表著AI教學應被全盤否定，相反，它可以繼續(xù)改進，發(fā)展成更成熟的線上教學系統(tǒng)。

首先，為了提高互動效果，教師和AI工具可以展開協(xié)同工作，即教師選擇性采納AI工具提供的教學建議，工具支持教師對作業(yè)進行評分，并跟蹤學生學習進度。AI教學目前在教授以記憶知識為主的課程方面最為有效，而不支持創(chuàng)造性和開放性的課程學習。現(xiàn)實中，在大教室里，教師不可能像鋼琴老師幫助調整學生的手的位置那樣，密切關注每個學生。因此，工具的監(jiān)控作用是非常必要的。

智能監(jiān)控反饋

當前的算法，需要大量的學生數(shù)據(jù)來支持AI教學工作的信息反饋。我們需要找到在不動用大量學生數(shù)據(jù)的情況下完成反饋的方法。低數(shù)據(jù)分析技術似乎很有前途，可以降低數(shù)據(jù)濫用的風險，也不需要調出囤積了數(shù)百萬學生的學習信息的數(shù)據(jù)庫，來進行繁復的算法解析。

研究人員更應該加強兒童安全風險方面的檢測，把大量的精力放在開發(fā)內容審核工具上。做到這一點，在線學習平臺才能實現(xiàn)對所有學習者的安全保障。尤其是對兒童和那些暴露于不穩(wěn)定的網絡環(huán)境中的人來說，有了保障，他們才得以更放心地使用AI教學系統(tǒng)。

言而總之，深度學習在教育領域的應用和醫(yī)學AI工具一樣，在我們看到其潛力的同時，還要堅守這樣的原則：一項優(yōu)質技術的前提，是它不能對人類本身帶來傷害。