11:24 2017年12月16日
直播 :
    人工智能能保護孩子免遭暴力了?

    人工智能能保護孩子免遭暴力了?

    © AFP 2017/ Johannes EISELE
    評論
    縮短網址
    0 42

    中國貴州民族大學正在研發可預防幼兒園和學校孩子遭受暴力侵犯並保證其安全的人工智能體系。

    目前,中國人工智能已廣泛運用於尋找恐怖分子和罪犯領域。現在,準備將其用於學校,以便查出違法行徑,並將其報告給父母和監管機構。

    最近一段時間里,北京發生紅黃藍幼兒園醜聞。據悉,有父母發現,孩子身上出現不明針眼痕跡,將此事報警。原來,一名幼兒園老師用針扎方式懲罰不聽話的孩子。互聯網上甚至出現傳言,說孩子被餵食了不明藥品,甚至,還遭到了性侵。警方調查過程中,並未確定其真實性。護法機構對攝像內容進行了研究,僅看到有老師針扎孩子情況。這種新型人工智能裝置就是在此背景下開始研發的。

    很早以前,中國一些學校和幼兒園就裝備了攝像頭。但通常,沒誰對其進行跟蹤。錄制材料存檔,僅在必要時才有人翻看。這次紅黃藍案件給父母們敲響了警鐘,違法行為被制止。按照慣例,老型攝像裝置僅能紀錄幼兒園發生了甚麼,但卻不能及時發現違法行徑。鑒於此,貴州民族大學的學者們決定使用人工智能來完善這一體系。學者們認為,神經網絡將晝夜分析錄像材料。如果發現違法情況,機器將及時通報給警局、教育機構負責人、父母,並向他們提供必要佐證材料。

    目前,中國在使用人工智能發現犯罪方面居世界領先地位。今年7月,國務院發佈《新一代人工智能發展規劃》。根據規劃,截止到2020年,人工智能領域總的產值將達到228億美元,到2025年,其資本額將達到600億美元,居世界第一位。今年夏天,中央政法委書記孟建柱指出,需使用人工智能,預測和制止未發生的嚴重犯罪,其中包括恐怖主義攻擊和社會秩序混亂。

    儘管這些規劃有科幻色彩,但中國確實在做將其變成現實的工作。比如,中國雲從科技正在測試一套人臉識別系統,該系統同時可對人的步伐、到哪裡去過和購買了甚麼進行分析。如果某人經常光顧武器店,那麼他將受到懷疑。據該公司代表介紹,購買廚房刀具算不了甚麼。但如果此人購買刀具同時還買了袋子和錘子,然後還多次出現在人群聚集區。那麼系統會認為,此人具有潛在威脅。系統的獨特性還在於,它可以自動工作。可從攝像頭自動收集數據並對其進行整理。並將可疑人等通報給護法機構。

    貴州民族大學也想研發這種可對教師進行監控的系統。然而,研究人員遇到了一些困難。比如,與老師相比,孩子的個頭很小,他們很容易從系統中消失。此外,孩子的動作與成年人是不一樣的。他們喜歡蹦跳,彼此嬉鬧,或者帶著玩具槍互相追逐。從成人角度看,這些都是不正常的。因此,對成人進行跟蹤的神經系統,無法正確釐清孩子們的行為。因此,這套系統還很難在幼兒園中使用。中國心理衛生協會會員、國家二級心理咨詢師肖雪萍這樣認為。

    她說:“我在聽到這一人工智能系統介紹後,首先想到的是,如果我作為一名幼兒園老師,我在工作過程中將會有多焦慮、多緊張。因為我會懷疑,這個系統是不是真的有那麼精確?那麼穩定?不會在分析視頻中老師的動作過程中產生誤會嗎?例如,有些時候,我可能在做某一個動作的時候,視頻中看起來像是打耳光,但事實上我並沒有打孩子,遇到這種情況恐怕很難解釋。其次,這樣的一個人工智能系統,在進行安裝之前,其實已經有了一個假設和前提——就是設定老師在與幼兒相處的過程中存在虐待幼兒的可能性。那麼這樣的假設是對大部分優秀、善良幼師的不尊重。此外,我認為,如果真的要對幼兒教育安全方面採取防範措施的話,相關部門應該更多地從提升幼師的待遇、提升幼師職業認同感、加強管理和文化宣傳等方面入手。即便真的要應用人工智能系統監控是否存在虐待兒童的行為,也應該在那些曾經發生過此類事件的幼兒園實施,而不應針對所有的幼兒園。”

    確實有這樣的問題:究竟如何對待人工智能收集的材料?機器是否會發生錯誤?如果考慮到神經系統學習技術,那麼這確實不是令人欣慰的問題。比如,“阿爾法狗”學習軟件就是明證。該人工智能學下圍棋最終戰勝了最為強悍的對手。開始時,“阿爾法狗”學習人與人之間所下的3000萬個棋步,然後這套軟件自己和自己下棋,以完善自己的技能。通過這種方式,神經網絡學會根據實際情況從可能的步驟中找出最佳方案。問題在於,這種自我學習的程序已經成形。人無法弄清,人工智能做出這樣或那樣決定的依據是甚麼。換句話說,機器不會解釋,為何這樣認為。從某種角度看,會失去對它們的控制。因此,在某些情況下,系統不能提供富有邏輯的結論。不願透露姓名的中國計算機安全專家在接受衛星通訊社採訪時這樣認為。

    他說:“我認為這個人工智能系統的設想過於理想化。關鍵問題在於,我們如果要解決某些問題,應該拿出一個可實現性的方案,部署此類人工智能系統,將是一個非常龐大的系統工程。此類系統的實用性比它的先進性更加重要,而可靠性和安全性比一切都重要。就這套系統目前的方案而言,這更像是一種研究性的設想,而不是一個嚴謹的工程方案。如果進行實際應用,要在甚麼樣情況下,給多少幼兒園安裝這套系統?這套系統的核心節點放在哪裡?處於核心節點上的視頻安全性又要如何保障?包括資金問題,這些都沒有解決,僅僅是賣一個人工智能的噱頭,我對此不敢恭維”。

    為了這套系統能夠順利工作,貴州民族大學的專家們給其提供了大量的視頻材料。簡單說來,哪些是正確的行為,哪些是值得懷疑的行為。設計者自己也承認,需要長時間和大量數據,才能讓系統自我學習、完善工作狀態。但是,系統究竟是否能有效工作,暫時還是一個待解問題。再有,將孩子視頻加載到神經網絡中,父母該如何看待這個問題。在中國,伴隨大數據技術的發展,已經出現資料被非法洩露給第三方的案例。比如,最近微信、支付寶和芝麻信用使用者的數據流失。9月份的時候,《中國日報》曾報道過,廣東省有410人因出售個人和貸款機構信息資料而被捕,警方共收繳了1億多份帶有個人資料的文件。

    關鍵詞
    人工智能, 中國
    社區公約討論