文 |?孫靜 唐煜
莊莉小心翼翼地把一個銀色索尼錄音筆放進孩子書包的外口袋中。“他心大，不會發現。”兒子的學習一直處于小學班上中不溜的位置，莊莉有點焦慮，她想知道兒子上課是不是和同桌說了話，有沒有積極回答老師的提問。兒子背著書包高高興興地跑進了校園。不過，一天下來，莊莉發現可能因為兒子太好動，錄音太過嘈雜，她很難聽得清。
莊莉一定很羨慕浙江那家小學。她在網上看到，家長只要交100元錢，就能獲得一個賬號密碼，在手機上下載一個軟件，登錄就可以看到孩子班級內的即時畫面。畫面清晰到足以看清孩子的動作，雖然看不太清孩子的細微表情。但最近這個技術又要被升級了。從網上瘋傳的一張照片中可以看到，位于南京的中國藥科大學在兩間教室試點了人臉識別系統，能夠自動識別和統計學生在課堂上玩手機、睡覺、趴桌子、舉手等行為。“簡直是電子監獄，我是來上學不是坐牢的！”“完全無視個人隱私，為什么不先給老師們用？”這幾天，在中國藥科大學上大二的小柯只要在網上搜索學校的名字，就能看到網友對學校的猛烈批判。
“我們習慣了？”
“在社交媒體討論前，這件事就在學校里傳開了。“小柯對AI財經社說，”剛開始我也有些害怕。”但去上過幾次課后，小柯覺得這事沒有網上說得那么邪乎。這是一間能容納60人的智能教室，教室前后左右共有6塊顯示屏，老師可以根據需要展示不同的PPT和板書。他只隱約記得教室前方有兩個攝像頭，但老師未對他們提起過人臉識別和行為統計這件事，他也從未在顯示屏上看到哪位同學開小差的實時影像，因此沒什么被監視的感覺。“人臉識別如果有，應該也是在學校后臺顯示吧。”小柯后來也仔細想過，之前全國大學或高中每個教室幾乎都有攝像頭，老師可能會去看看學生的上課情況。“現在只不過是通過AI去分析學生的聽課情況，雖然也有點隱私被侵犯的感覺，但個人還是可以接受的。”不僅是教室里，小柯發現，今年暑假過后校園里基本所有門禁都換成了人臉識別。他回想起來，上學期學校收集過證件照，原來是在為這件事做準備。而現在不少學生覺得，不用掏卡進教室、打考勤實際上很方便。
攝影/小柯
但這件事在一些高中生中產生了不同的反應。在河北某高中，一名老師請學生抽幾分鐘時間，匿名寫下他們對于課堂人臉識別系統的看法。在這個隨機小調查中，幾十張小紙片密密匝匝地匯聚了學生對于“被掃描”的感受，絕大部分學生持排斥或謹慎態度。“我不希望學校普及這種東西，會使我的注意力分散，有被人監視的感覺。我不想當一個每天活在別人監視下的犯人。明明很想活動，還要做出一種我在學習的假象。” 一名學生較為克制地陳述了反對。他的一名同學則措辭激烈地表達了對安裝攝像頭的厭惡和抵觸：“這相當于將自己的隱私生活公開，被別人批評、鑒賞。這會讓學生活在一個僵硬的氛圍中，只會教出一群奴化的行尸走肉、只會條件反射性地擺出順從姿態的機器。”小紙片中很多學生關注“隱私”。攝像頭的存在讓他們有種被窺視感，讓教室氣氛壓抑，“沒有自由可言，正常的同學交流也會受限”。有學生認為攝像頭會讓“一下課，教室空無一人”；有學生心存質疑：學習是自己的事，自己想學就能學好。不愿意學習的人，為此就有內心動力了嗎？”也有學生提出妥協方案，是否可以“課下休息時不開攝像頭”。此前，在全國聞名的衡水中學，教室的高清攝像頭甚至可以看到學生正在做的試卷內容。也有其他學校的高清攝像頭，能看清學生在刷手機淘寶。所以小紙片上也有學生寫道：如果實在要裝，能不能不裝那種能清楚看到我在寫什么字的攝像頭？這次小調查顯示，還有少部分同學表示支持課堂人臉識別，因為可以提高自己的注意力。還有班上發生打架等沖突時，攝像頭可以辨清事實。相比自我權利覺醒的高中生，小學和初中生對攝像頭表現出某種“習慣”。“除了廁所以外，學校到處都有攝像頭。”一位小學生對AI財經社說，“我從來沒有注意過，但老師跟我們說過，攝像頭是360度的，哪里都能拍到，所以你們不要有什么貓膩。”北京某重點中學初一學生小陽說，他贊成教室安裝攝像頭，理由是可以讓老師同時受到約束。小陽讀小學時，老師有一次讓在場同學都別過臉，然后公開體罰一個頑皮的孩子，這讓同學內心惶惶不安。?一顆攝像頭，以校園安全、課堂秩序、教學評估等各種名義，理直氣壯地闖入校園生活。作為被影響的另一方，老師們是否歡迎新“助手”？上述高中老師對人工智能的應用效果心存質疑。她擁有10多年教學經驗，“其實在講臺上一站，往下掃一圈，誰在走神兒、誰在睡覺都能看得一清二楚，還用費那個功夫看屏幕嗎？”這名老師說，她通常根據學生的反應，及時調整講課內容或者節奏。比如發現有些同學眼神茫然，她就降低解題的難度。發現打盹兒的多了，她會停下來活躍下課堂氣氛或點人回答問題。這是一種基于人工經驗的“智能”調整。北京大學一名心理學老師稱，從他個人感受而言，在有監控和沒監控兩種場景下的發揮應該是不同的。有監控時可能比較拘謹，各方舉止會受限，“比如我偏向營造活潑的課堂氛圍，但知道有監控后，可能會擔心這種方式是不是符合大多數人的評價取向。““人工智能的分析也讓老師陷入一個兩難的境地。“北師大博士、兒童心理學專家田宏杰說，如果用學生的抬頭率、回答問題的次數來考核課堂效果，老師可能會想在課堂講幾個笑話，用加分獎勵來鼓勵學生多舉手回答問題，但這些提問可能對于學生本身的思考并沒有太大意義。而看到這張圖后，一位三年級小學生家長有點憤慨地對AI財經社說：“看手機3次，發呆2次，舉手2次......這種數據能告訴我們什么呢？愛學習，不愛學習？一個學生在課堂上舉手100次，他就能有所建樹？依靠這些垃圾數據去判斷一個學生，我覺得就是胡扯。”北師大博士、兒童心理學專家田宏杰說，孩子的學習過程一定會經歷從不想學到想學，從被老師管控到能夠自我管控的過程。如果他們上課分神時能夠自己找回注意力，并獲得老師的正向評價，就會慢慢對自己的專注力有信心；但如果有了監控，孩子的精力可能都用來提防老師，自我管控力的成長沒法得到提升。高壓監控下長大的孩子，要么反抗要么就逆來順受，內在的學習自主性和積極性都不行，對權威也會失去敬畏，不會再懼怕老師和家長的眼光。21世紀教育研究院副院長熊丙奇也擔心學生養成“表演性人格”，或者壓力增大。他今年5月撰文，質疑課堂人臉識別技術究竟是校園信息化還是校園監獄化，擔心孩子小小年紀就要學會“演戲”，且情緒識別本身的效果也有待驗證。歸根結底，用人臉識別輔助評估教學過程，無非是將“認真聽講”作為優先級的評價標準。但教育不等同于灌輸，僅靠課堂上的“乖學生”也無法印證素質教育的成功。
“這是不可逆的”
網上瘋傳的人臉識別智能教學方案，來自最近在港交所提交IPO的人工智能企業曠視科技。在輿論發酵一天之后，曠視科技發布聲明，表示那張圖片只是技術場景化概念演示，并強調公司產品是專注保護孩子在校安全的，對網民關注的“隱私、監控”等只字未提。“曠視這樣的回應可能是在規避一些風險。“智慧校園解決方案提供商王大成對AI財經社分析，比如像江西省教育廳就明文規定，不允許非官方的攝像頭進入校園。9月5日，教育部科學技術司司長雷朝滋在接受采訪時表示，對于人臉識別技術應用要加以限制和管理，“尤其涉及到學生個人生物信息的，能不采集就不采，能少采集就少采集。”此外，曠視也不想背上侵犯隱私的惡名。王大成透露，實際上，人臉識別技術兩年前就在高校課堂考勤等方面廣泛運用，此后升級到動作識別，今年則剛推廣注意力表情識別等技術。一位人工智能人士也透露，不僅是人臉識別，攝像頭還可以錄音，一些已具備特定詞匯識別能力。不過，向高校推廣人臉識別技術，王大成遇過各種阻力。一所大學在沒有和學生充分溝通的情況下，強制在校園里使用人臉識別，學生便寫信向校長控訴：“我的臉是我的個人隱私，你為什么要強制征用？”最后該校把系統改為自愿綁定，學生要先閱讀一個用戶協議，如果不同意也不強制，可以繼續刷卡。大學新生“刷臉”報到 圖/視覺中國
但由于高校財政寬裕，一些學校比較愿意嘗試用最前沿的AI去評估教學效果，有些老師還會把相關AI研發作為科研項目，所以目前落地越來越多。“不只是曠視，商湯、好未來等都有落地業務。”比如，在今年商湯人工智能峰會上，也展示了識別高興等7種情緒以及玩手機、說話、打哈欠等10余種動作的技術。在IT行業工作20多年的彭杰回憶，大約三年前，技術公司與高校討論人臉識別進課堂時，主要還是為了記錄考勤和客觀評估老師的講課過程，但他后來也意識到，這件事開始變了味兒，有的學校用來緊盯學生課堂表現，慢慢背離初衷。AI財經社曾同商湯科技教育事業部總經理尚海龍交流過這一趨勢。對方表示，內部也進行過倫理論證，包括征求高校學者的意見。他認為，科技很多時候都是雙刃劍，這一點要坦然接受，關鍵看人們如何利用，起什么心，動什么念。比如課堂是公共場所，為了安全或者監考，近年多部門發文要求校園安裝監控系統。“你說或者不說，它就在那里了，一直在錄制視頻，只不過以前視頻就是視頻，是data big，不是big data。今天如果能從中找到數據挖掘的價值，能夠幫助到老師和同學，我們對此是持一個積極的態度。”其判斷依據是，教育正從一視同仁的“有教無類”發展到因材施教階段，但老師沒有足夠的時間展開個性化教學，勢必要依靠大數據。積累教學數據則需要在公共場合積累學生的動作行為、微表情等特質，在此基礎上才有可能去挖掘行為的價值。這個過程是不可逆的。在尚海龍接觸過的學校中，有一半持積極態度，另一半則持有消極態度，擔心被家長以各種理由投訴。王大成坦承，人臉識別進課堂到底能不能成為一個趨勢，一切得看國家相關政策風向。
被AI解析的學生遇到躁熱的家長
人工智能攝像頭進入教室正在成為既定事實。社會學人士林芳在贊同技術在校園安全和反霸凌的作用后卻擔心，“端口會不會開放給家長？”她還擔憂，這一技術無疑會從校園走進家庭，也會就此打開潘多拉魔盒。她的憂慮是有原因的，“焦慮、急躁”恐怕是最近幾代中國式父母最典型的群體符號。暑假熱播劇《小歡喜》中，三對中產階級家長為了孩子沖刺高考各自癲狂。像陶虹飾演的單親媽媽，對學霸女兒全天候、全方位監控，讓觀眾隔著屏幕都能感到窒息。“很多家長遇到事習慣先對自己的孩子挑刺兒，而AI攝像頭開啟的全時監控，從社會心理學角度會造成壓迫感、恐懼感。這些從深層來說是要考慮的。”林芳說。一位80后對家庭在教育中的施壓細節，至今仍記憶猶新：為了提高她的成績，焦急的父母為她制定了一個硬性指標——每節課必須舉手發言。他們會不定期地去問老師，如果表現不好，她會被懲罰。“今天，如果這個端口開放給家長就悲劇了。一堂課45分鐘，原先我只要20分鐘集中注意力就行了。但如果全時監控，每節課都變得很恐怖。人都是有應激反應的，可能會假裝認真，也可能在經常挨罵后，破罐子破摔。”她順帶設想了一下攝像頭進家庭后，那些自己過去寒暑假沒背新概念英語、沒做題而偷看電視的日子，可能要換來暴打。“如果有攝像頭，我應該會被打死吧。”兒童心理學專家田宏杰曾接觸過一對母子，媽媽在孩子房間課桌上安裝了攝像頭，孩子開始很抗拒，母子間爆發了一些矛盾。后來孩子逐漸變得麻木，心想反正我也學不進去，我就坐在這里裝裝樣子。田宏杰覺得，這種麻木實則是一種無聲的反抗，這不僅沒有起到監督學習作用，還讓母子關系站在了對立面。如今，田宏杰反對把這類監控數據交到家長手里，這些視頻容易使家長忽略孩子好的方面，天天盯著孩子的問題行為，盯得太緊，孩子反而沒有調整的機會，容易產生挫敗感。“最好的監控器其實是家長自己的眼睛，家長要經常地、用心地觀察孩子在家的學習狀態。在孩子注意力不集中的時候以身作則陪伴他們，在孩子行為養成有困難時看懂孩子的困境，找到有效的方法幫助他們克服一些不良習慣，這才能對孩子成長有幫助。”“人臉識別技術一定是未來教育的趨勢，但背后一定要有大量的課程研發、和孩子行為相匹配的數據庫，以及互動系統。”田宏杰說，如果后期形成一個大數據支持的自動化系統，提示某個孩子有聽不懂、感興趣的地方，老師可以有針對性地給他進行輔導，為孩子提供個性化的教育，人臉識別技術的使用才真正有意義。上海本枝教育信息咨詢有限公司創始人心理咨詢師周子涵對AI財經社分析，遇到控制欲強的家長，這些AI數據對孩子來說將是災難。沒有任何人愿意生活在一個監控的環境中，從心理的角度，監控的環境會增加人的緊張和焦慮，為了自我保護，有的孩子可能會增加掩飾性和表演性。她認為，如果在幼兒園用監控最重要的是保護孩子的安全，那么隨著孩子進入青春期，擁有自己的社會生活，逐步有了隱私意識，這樣的監控對他們的成長是否有利值得商榷。“攝像頭到底是用來保護孩子的安全，還是用來滿足家長的窺探欲？廣泛性的監控并不符合人性倫理和道德，如果學校只是因為覺得AI很酷炫很高科技而去使用，這是很膚淺的行為。”邊界在哪？
一個有了人工智能、360度的攝像頭，承載了學校、家長、技術廠商各方的利益訴求，卻鮮見征求學生、教師等當事者的意見，平衡他們的權益——盡管新一代當中很多孩子已習慣“天眼”護佑之下的生活。在中國醫藥大學將人臉識別應用于課堂而引發爭端后，學校對外解釋，之前向公安部門和法務部門咨詢過，教室屬于公開場所，并不存在“侵犯隱私”的說法。事實上，自1890年美國學者沃倫和布蘭戴斯在《論隱私權》中提出隱私是“免受外界干擾、獨處”的權利后，法律界關于隱私權范疇的界定一直存在爭議。中國也不例外。京都律師事務所高級合伙人李波認為，無論監控被應用于公共管理還是課堂，公民隱私權都是成立的。只不過針對近年校園暴力案件多發的現實，法律界普遍認同，當隱私權的保護范圍與公共安全發生沖突時，應當優先于后者，即為了保護學生人身安全，校門、教學樓可以加強安保、加裝攝像頭和人臉識別系統。去年北京某小學曾就引入人臉識別系統的法律問題向李波咨詢。但當時校方的關注點在于責任界定，比如要不要安裝、如果人臉識別出現誤差導致安全事件，系統集成商要承擔多大責任？至于將人臉識別系統應用于課堂教學，目前還很難界定該行為是否侵權。按照法無禁止即可為的原則，如果學校進行告知并征得學生的同意，應該不構成侵權。這也折射出一個尷尬的現實，目前尚無法律條明確界定人臉識別一類新技術的應用范疇、使用規則。目前已納入十三屆全國人大常委會的立法規劃的《個人信息保護法》，在保護隱私等人格權層面很受關注。另據公開信息，公安部起草的《公共安全視頻圖像信息系統管理條例》（意見征集稿），也已被列入國務院立法規劃。征集稿中明確公共安全視頻圖像的處理不能侵犯隱私，對獲取的信息不得買賣或非法使用，但沒有明確哪些主體可以安裝監控設備或查閱視頻數據。關注“法律界定”的問題并非杞人憂天。科技是把雙刃劍，監控主導者必要意識到，數據使用時的潛在風險。今年初，在一場20多家醫院與16家安全廠商參加的閉門會上，一名醫院信息中心主任分享了他的困惑：互聯網醫療為民眾提供了便捷，但網絡安全問題對醫院沖擊較大。一次當地整個醫療系統都受到影響。“我們找了很多安全廠商，為什么就防不住？”他感到，目前醫院缺乏相關專業人才，相關IT系統委托第三方建設運維的約占八成，管理不力，成為數據安全隱患的根源之一。對學校而言這也是一個警示。雖然學生個人信息數據保存在本地，但IT系統由多個外部供應商搭建，任何一個環節出現紕漏，數據都有可能被泄漏。2018年8月的一則判決文書中，就披露了一起非法出售學生信息的案例。當時科大訊飛員工張某，利用負責管理維護安徽全省學籍管理系統之便，以每條0.1元的價格，出售了4萬名學生的隱私信息。“目前看，各方都還沒有準備好。“彭杰認為，學校首先應該讓學生知情，并征得同意。校方還要制定嚴格的管理制度，包括對數據管理、使用權限約束、甚至數據尺度等問題。以尺度為例，“大家應該有一個自由的氛圍”，比如要評價老師的講課效果，可以去掉個性特征數據，只統計打瞌睡的總人數即可。對數據使用做進一步約束和敬畏，這樣社會可能也不至于那么反感。“我希望學校建立起信息保密工作，保證這些信息只被用于課堂情況分析。”雖然表達了對AI技術的包容，但中國藥科大學的小柯也仍然有對個人信息保護的擔憂。目前，歐美不少國家對人臉識別極為審慎。比如不久前瑞典數據監管部門對一所高中開出GDPR（歐盟通用信息保護條例）生效以來的首張教育界罰單。那所高中為了統計學生出勤率，在校園內試行人臉識別系統，且宣稱已經取得學生同意。但監管部門認為，攝像監控等行為已經侵犯了學生隱私。監管部門還強調，雖然學校中大部分區域是公共場所，但學生在走進教室時對隱私有一定的期待。今年初，澳大利亞維多利亞州明令禁止公立學校使用人臉識別系統，除非學校已經獲得家長、學生和教育行政部門的同意。該州認定，識別學生并對他們實時定位，是對隱私的極大傷害。據《金融時報》報道，在意識到人工智能可能對公民基本權利構成重大風險后， 歐盟正在計劃一項關于人臉識別數據使用的立法，目的在于限制公司和公共機構“不加區分地使用人臉識別技術”。在美國，舊金山、奧克蘭、薩默維爾等地相繼禁止政府使用面部識別技術。相較于部分學校對人臉識別等技術的趨之若鶩，日前教育部官員的回應明顯更為慎重：“我們要加以限制和管理。現在我們希望學校非常慎重地使用這些技術軟件。”說到底，人們或許更愿意支持科技向善的行為。《人類簡史》作者赫拉利在新書《今日簡史》描繪過科技對人的顛覆——僅AI 算法就可以幫失戀者渡過“悲傷的五個階段”：一、先用博比·麥克費林的歌《不要憂慮，要快樂》幫你否認發生的事實；二、再用艾拉妮絲·莫莉賽特的《你應該知道》讓你發泄憤怒；三、接著用雅克·布雷爾的《不要離開我》和保羅·楊的《回來，留下來》鼓勵你討價還價；五、最后再用葛羅莉亞·蓋羅的《我會活下去》讓你接受一切。而對于今天被校園AI解析的這一代，也樂于經歷這樣的情感遞進階段嗎？
