原標題：可信AI一小步，智能城市一大步

IBM副總裁,大中華區首席技術官 謝東博士

城市是我們共同生活的家園, 它的安全、高效、清潔、便利都令我們倍加關注。所謂智能城市，可以理解為對智慧城市的演進，是在對城市感知的基礎上，通過人工智能等智能算法再反作用于城市，產生實際的影響，這就是“能”。今天，人工智能正擴散到城市的方方面面，例如電子商務、無人超市、自動駕駛、智能樓宇、智能工廠、智能醫療等等。不可否認的是，人工智能在城市中的大規模擴展應用還處于起步階段。對于現代化城市來說, “城”(城市建設)與“工”(工業、行業)的應用升級都很重要。正所謂,行業不智能, 城市何以智能。而一個可信的AI基礎對于“城”與“工”的智能化來說，也是至關重要。

AI嵌入城市百業

今天，人工智能技術，正被研究員和開發者的各種思考和創新，“嵌入”到城市的百業百態中。

智能交通應用，可以根據天氣、交通、路況等情況給人們交通建議,動態地調整方案，給出最佳的交通方式建議，甚至可能是汽車、步行或者使用電動滑板車等; 電梯與AI的結合, 數以10億人次計的乘梯，如何保證人們更高效、更安全地乘坐電梯: AI甚至可在森林火災發生的前 20 分鐘內檢測到火災，幫助消防員減少發生重大環境事故的可能性。

不過，問題來了：如果一個技術非常強大，但是卻不能以符合人類道德的方式服務人類，那么如何評價它的價值？人工智能對城市的影響越來越大，但是我們可以完全的信賴人工智能嗎？例如，全球首例無人駕駛車撞死人案，其原因是行人并未走人行橫道，無人駕駛車也就沒有剎車；此外,再比如,在沒有人工和技術介入的前提下，人工智能算法甚至可以產生無法識別少數裔的偏見。

真實的世界遠遠比下棋或者上述幾個場景要復雜得多，人工智能的發展速度也遠遠超出了人們的想象。隨著人工智能應用在各行各業的廣泛使用，“可信”越來越成為一個嚴峻的問題。

可信AI讓城市更美好

企業和行業是城市百業的基礎，也是“市”與“工”的體現。城市的發展離不開企業的發展，城市智能化源動力之一終究來自于企業的智能化。我們將企業級AI劃分分為三個維度：先進AI（Advance AI）、可擴展AI（Scalable AI）和可信AI （Trusted AI）。簡單概括而言, 先進的AI是讓AI更加強大；可擴展性的AI是讓AI更廣泛應用到行業中；可信AI，即確保AI的公平性、可解釋性、健壯性和透明性，是為了讓AI能夠被人們所信任，真正成為人類的助手和伙伴。在此基礎上，企業不斷推動AI規模化發展，讓AI助力企業和城市智能化。

可信對于企業級AI至關重要，只有確保AI所作出的決策是公平、易理解、安全、可信賴，人們才能信任它，AI才能真正發揮作用。前不久，國家新一代人工智能治理專業委員會發布了《新一代人工智能治理原則——發展負責任的人工智能》，提出了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協作、敏捷治理等八條原則。該《治理原則》強調要確保人工智能安全可控可靠，推動經濟、社會及生態可持續發展，共建人類命運共同體。

IBM非常重視可信AI，在這方面做了巨大的努力。IBM不僅秉持可信AI的價值觀,還在方法論,和工具層面都取得了很大的進展。我們將可信人工智能的維度定義為科學和工程目標，不僅概述實現這些目標的各種方法論，還推出了各種工具以確定在整個人工智能應用程序生命周期中集成它們。

首先，IBM認為一個可信任的AI系統，需要遵循幾個基礎原則：公平性（Fairness），比如,AI系統應該采用不帶偏見的數據集和模型，從而避免對于特定群體的不公平；可解釋性（Explainability），比如,AI系統所提供的決策或建議不是一個不可解釋的黑箱，應該能夠被用戶和開發者所分析、理解；健壯性（Robustness），比如,AI系統應該安全和可靠，不會被篡改，也不會受被“污染”的訓練數據集影響；透明性（Transparency），比如,AI系統可以被透明化管理,其開發、部署、維護等可被追蹤，能夠在生命周期范圍內被審核等。

其次，IBM提供了工具和技術來識別和減輕風險和違規行為，幫助理解與信任有關的人工智能模型的影響和挑戰，并幫助開發人員和數據科學家構建可信、安全和可解釋的人工智能系統。比如： AI fairness 360,是一個全面的開放源碼工具集，包含度量和算法，用于檢查和減輕AI中不必要的偏見，幫助社區建立對AI的信任;AI Explainability 360是2019年8月9日發布的一個開源的最先進算法集合，它使用一系列技術來解釋AI模型決策;在AI的健壯性/魯棒性方面，IBM研究院推出了Adversarial Robustness 360 Toolkit，這個工具包是IBM研究團隊開源的用于檢測模型及對抗攻擊的工具箱，為開發人員加強 AI 模型被誤導的防御性，讓AI系統更加安全。

此外, IBM正在提高AI的透明度，并推出工具讓數據科學家以及企業高管尋找模型中的不足。AI OpenScale的推出是IBM提高所謂的“黑箱方法”透明度的一部分,從而加速AI的規模化發展。

其中,在AI的可解釋性和可追蹤方面，AI OpenScale技術平臺，可以在各種 AI 應用程序運行時，檢測并解決其中的偏見問題；無論AI應用程序在何種環境中構建或運行，AI OpenScale 都可讓企業在人工智能的整個生命周期中實現透明化管理，記錄每項預測、每個模型版本、所有使用的訓練數據及各種指標，幫助企業遵守歐盟GDPR等法律法規。

如今，IBM技術正在保障企業、城市和人們都將受益于可信人工智能。IBM z系列大型主機、LinuxONE主機、Power服務器、存儲等面向企業級專用硬件，加上IBM在數據管理、人工智能、應用管理和操作系統等領域的企業級軟件，以及IBM研究院在探索可信人工智能方面所做的各種創新實踐，連同IBM多年積累的行業經驗,為企業交付了可信AI的數字基礎設施。而企業AI的每一小步進步，都意味著人類距離智能未來的夢想更進一步。

創造未來的過程，則需要把對未來的思考和當下的實踐相結合。IBM將塑造可信AI的價值觀與推動多種可信AI工具的結合，就是“知行合一”。我們相信，科技向善, 堅持匯聚點滴信任，終將成就智能行業、智能城市。返回搜狐，查看更多

責任編輯：