人臉識別進校園引發爭議 對“人工智能+教育”應審慎

杜曉 景千姿

2019年10月10日08:32  來源:法制日報
 
原標題:人臉識別進校園引發爭議 對“人工智能+教育”應審慎

  對“人工智能+教育”應持審慎態度

  人臉識別進校園引發爭議實時監控或讓學生變戲精專家認為

  ● 人臉識別進校園,既有數據安全也有個人隱私問題,包含學生的個人信息要非常謹慎,能不採集就不採集,能少採集就少採集,尤其涉及個人生物信息的

  ● 網絡安全法規定,網絡運營者收集、使用個人信息,應當遵循合法、正當、必要的原則,公開收集、使用規則,明示收集、使用信息的目的、方式和范圍,並經被收集者同意

  ● 表情監控在某種程度上侵犯了學生的尊嚴,也是對學生自主學習能力和教師授課能力的不信任。學生長期在監控環境下學習、成長,容易養成“表演性人格”

  隨著人工智能不斷發展,人臉識別技術被越來越多地應用於校園中。

  據了解,一所知名大學2019級新生“刷臉”就能瞬間完成報到程序,系統是這所學校的學生研發的,學生對著攝像頭,人臉識別系統就開始進行比對,眨眼間就能完成掃描,整個報到注冊手續幾乎不到一秒鐘。此外,通過人臉識別還可以對學生進行考勤,以及實時觀察學生的上課狀況等。

  對此,教育部科學技術司司長雷朝滋認為,“(對於人臉識別技術應用)我們要加以限制和管理。現在我們希望學校非常慎重地使用這些技術軟件。教育部已經開始關注這個事情,組織專家論証研究”。

  雷朝滋還說,人臉識別進校園,既有數據安全也有個人隱私問題,“包含學生的個人信息都要非常謹慎,能不採集就不採集,能少採集就少採集,尤其涉及個人生物信息的”。

  人臉識別進校園究竟會有哪些利弊?《法制日報》記者對此進行了採訪。

  實時監控課堂表現

  老師學生壓力增大

  近日,中國藥科大學試水“人臉識別進課堂”,在校門口、學生宿舍、圖書館及部分教室等場所安裝人臉識別系統。這個系統除了能自動識別學生的出勤情況外,還能識別出學生是否認真聽講,課堂上抬頭低頭了幾次,低頭是否在玩手機,是否閉眼打瞌睡等。有網友認為,這樣的系統在校園廣泛應用或涉嫌“侵犯隱私”。

  據了解,早在2015年,國內一所知名高校就曾在高校信息化建設中首次引入人臉識別技術。近年來,有些地方的初中出於“提升校園安全”考慮,在校園門口安裝人臉識別考勤系統。

  “現在是互聯網科技時代,到處都講‘互聯網+教育’,這是教育的創新,我們也很樂意看到新技術的應用能給教育行業帶來新的生機。”一位從教近10年的高中老師楊妮(化名)對《法制日報》記者說。

  “初、高中學生上課自覺性比較差,需要老師的督促,如果上課期間需要老師不停地維持課堂紀律,那麼課堂質量就會有所降低。而且傳統的點名方式浪費時間,准確率也不高。從這個方面來說,在教室安裝人臉識別系統確實能幫助老師維持課堂的秩序,從而專心把精力放在對課堂內容的把控上,很大程度上提高了課堂效率。”楊妮說。

  楊妮認為,盡管人臉識別系統能給教學帶來一些好處,但是如果老師和學生長期處於人工智能的“監視”之下,有可能會適得其反。一旦學生意識到自己處於監控狀態之下,那他們在課堂中的表現就必然是失真的,老師們無法得到真實的教學反饋,也不能准確了解學生們的興趣點和對知識的掌握情況。

  “對於老師而言,在監控之下教學,難免會出現迎合的心態,無法完全放開自主發揮。老師們把課堂教學變成表演,學生們也在表演,長此以往,教學效果就會不斷降低。”楊妮說。

  西安一名大學生陳霖(化名)告訴《法制日報》記者,沒有哪個學生會喜歡這種上課方式。“這就像是有人在一直監視你,沒有人會喜歡被監視。對於類似的系統,我們肯定是比較抵觸的,如果強制安裝,那隻會讓大家的逆反心理更重,根本達不到提高課堂質量的效果,學習關鍵還是要靠自覺。”

  陳霖就讀的大學目前已經開始通過人臉識別進行考勤,出入宿舍也會有人臉識別。

  “這些都是出於安全考慮,我們可以理解,但如果人臉識別真的推廣到教室裡,連大家的細微表情都能監控,那就有點可怕了。”陳霖說。

  人臉識別侵犯隱私

  教育創新尊重學生

  據中國藥科大學圖書與信息中心有關負責人介紹,目前學校在兩間教室試點安裝的人臉識別系統,除了自動識別學生出勤情況外,學生是否認真聽講,課堂上是否抬頭低頭,低頭是否在玩手機,是否閉眼打瞌睡,都逃不過系統的“法眼”。

  上述人臉識別系統引起關注后不久,該人臉識別系統的開發企業回應稱,該圖為技術場景化概念演示。針對網友熱議的隱私保護等問題,這家開發企業稱,在人工智能技術的各種場景中,會堅持正當性、數據隱私保護等核心原則,接受社會的廣泛建議和監督。

  中國傳媒大學法律系主任鄭寧認為,人臉識別系統在校園推廣確實有侵犯學生隱私的可能性。人臉屬於個人生物信息,而且屬於可以識別的個人信息,一旦被泄露或被不法分子利用,風險遠遠高於其他信息。

  鄭寧告訴《法制日報》記者,網絡安全法中提到,網絡運營者收集、使用個人信息,應當遵循合法、正當、必要的原則,公開收集、使用規則,明示收集、使用信息的目的、方式和范圍,並經被收集者同意。網絡運營者不得收集與其提供的服務無關的個人信息,不得違反法律、行政法規的規定和雙方的約定收集、使用個人信息,並應當依照法律、行政法規的規定和與用戶的約定,處理其保存的個人信息。民法總則也明確提出,自然人的個人信息受法律保護。任何組織和個人需要獲取他人個人信息的,應當依法取得並確保信息安全,不得非法收集、使用、加工、傳輸他人個人信息,不得非法買賣、提供或者公開他人個人信息。

  鄭寧認為,人格尊嚴是法律規定的人的基本權利,表情監控在某種程度上侵犯了學生的尊嚴,也是對學生自主學習能力和教師授課能力的不信任。

  “作為一線教師,我認為,靠人臉識別系統對學生進行表情監控來提高課堂效率,既不合法,也不合理。提高課堂效率,歸根到底,還是要靠先進的教學理念和教學方式、豐富生動的教學內容。”鄭寧說。

  21世紀教育研究院副院長熊丙奇告訴《法制日報》記者,去年,某中學使用“黑科技”打造“智慧教室”,對學生進行表情監控,以提高課堂教學效率,輿論對此普遍質疑,認為此舉不尊重學生的人格權利,侵犯學生隱私。學生長期在監控環境下學習、成長,容易養成“表演性人格”。因此,對這種所謂的技術創新應該持十分慎重的態度。

  熊丙奇還認為,在資本逐利和學校提高教學效果的雙重驅動下,一些企業開發並推廣這種以監控學生上課表情、行為的人工智能系統,也有一些學校採用這樣的系統,並以使用后的效果,諸如學生上課更投入,老師管理學生更方便,學生成績提升以及學生間、師生間的沖突與糾紛減少,來論証採用這一系統的科學性、合理性。

  “現代科學技術當然可以用於教育教學中,但需要首先分辨清楚教育是什麼。很顯然,在教室裡安裝監控,全天無休地對著學生,適時採集學生的表情、動作,這種做法的反教育性質比較明顯,但卻得到個別教育管理者和學校的認可。這是因為有的教育者和辦學者忽略了教育的本質,只是考慮怎麼管理方便以及怎樣提高成績。”熊丙奇說,學校是育人的地方,必須幫助學生健康成長,所有的教育創新必須以尊重學生的人格為基本出發點。

  新技術推廣須謹慎

  教育不能偏離正軌

  另據了解,除了中國藥科大學之外,某小學也在使用同一套系統。這套系統運用在姿態評估、表情識別、語言識別、教師軌跡熱力分析等方面,可以捕捉到學生在校園生活中是否有微笑、向老師問好、主動撿垃圾、列隊整齊等良好行為,或者快速奔跑、摔跤、打架、擁擠等危險動作。

  鄭寧認為,在學校推廣人臉識別技術要特別慎重。一些學校啟用人臉識別進出校門,作為校園安全管理措施,有其正當性,但應該向師生明示收集、使用個人信息的目的、方式、范圍,並取得他們的授權,並且建立完善的個人信息安全保護措施,防止相關信息泄露或被不法分子利用,否則要承擔相應的法律責任。在課堂裡利用人臉識別進行表情監控,除非經過學生明確授權,否則應當禁止。

  在熊丙奇看來,教室裡可以安裝監控,但應該隻在兩種情況下使用,一是在考試時監控考場秩序,二是在獲得教師和學生同意的情況下,直播課堂教學,與其他學校、課堂共享教育資源。如果一直使用監控,盯著學生和教師的上課情況,會讓整個教學活動變為表演,對學生的人格成長產生很大的負面影響。

  “也有人說安裝監控系統,便於教師管理學生,但其實在監控體系之下,教師也是被管理對象,長期使用監控系統,對教師的職業化、專業化發展也會有很大的負面影響,教師上課就依靠智能系統的‘反饋’,告訴教師哪個學生不認真,哪個學生不專注,這是技術識別的結果。離開了技術手段,老師還會教學嗎?教育是有情感和靈魂的事業,無節制地使用人臉識別等技術,會把教育變得沒有靈魂和情感,那還不如使用教育機器人。”熊丙奇說。

  熊丙奇認為,要讓教育創新符合教育規律,應該由教師委員會和學術委員會進行論証,並廣泛聽取教師和學生的意見,不能由少數人決定。在資本驅動下,某些企業傾向於對一些教育領域的新概念進行炒作,某些學校會因此變得急功近利,讓“人工智能+教育”的路越走越偏,因此需要及時正本清源、回歸正道。

(責編:楊虞波羅、呂騫)