在進博會期間，安永1大中華區(qū)數(shù)字化咨詢服務(wù)合伙人吳顯光于安永展臺上以“可信可用的人工智能”為主題為來賓進行了分享，現(xiàn)場觀眾反響熱烈。

我們也在進博會前夕針對這個話題對他進行了專訪，請點擊下方視頻和我們一起看看他分享的獨到觀察。

通過本文。您可以詳細了解到底什么是可信可用的人工智能以及它可以為我們帶來的好處又有哪些？

什么是人工智能？

人工智能（AI）不是一種單一的技術(shù)，而是多種方法和工具的集合，它有很多子領(lǐng)域，可被應(yīng)用于豐富的場景。我們通常會說“實施”技術(shù)和“建造”機器人，但是對于人工智能，我們會說，“應(yīng)用”。

一般來說，人工智能產(chǎn)業(yè)有三個層次，由下至上分別是提供算力的基礎(chǔ)層、提供算法模型的技術(shù)層和應(yīng)用層，其中，數(shù)據(jù)是AI發(fā)展的必備條件。具體來說，基礎(chǔ)層提供的是包含人工智能芯片、傳感器等的計算能力，它決定著完成效率；技術(shù)層是依托算法和數(shù)據(jù)開發(fā)出面向不同領(lǐng)域的技術(shù)，包括計算機視覺、自然語言處理等；應(yīng)用層則最貼近我們的日常生活，例如無人機、機器人、自動駕駛等都是常見的應(yīng)用層用例，是具體的產(chǎn)品、服務(wù)或整體解決方案。

可用人工智能

在這場AI競賽中，企業(yè)面臨著挑戰(zhàn)和機遇，同時，多數(shù)人都對AI表達出了較樂觀的態(tài)度。安永在今年三月開展的一項針對美國的CEO和企業(yè)領(lǐng)導(dǎo)者的調(diào)研表明，85%的受訪者對AI持積極態(tài)度，87%的受訪者表示在今年投資了AI項目，

盡管人工智能可以實現(xiàn)的一些目標(biāo)還有待觀察，但許多企業(yè)正經(jīng)歷其帶來的變革性結(jié)果。例如在安永，我們的團隊創(chuàng)建了一個名為EY Document Intelligence的工具，它可以提高讀取海量合同的速度和準(zhǔn)確度，使審計團隊能夠更專注于其他價值創(chuàng)造的活動。

由此我們可以窺見一個不爭的事實，人工智能技術(shù)正在幫助企業(yè)實現(xiàn)更好的工作方式——技術(shù)增強人類創(chuàng)造力，人類能夠騰出時間進行創(chuàng)新——這是一種良好的正向循環(huán)。

同時，根據(jù)最新的IDC Spending Guide，全球人工智能系統(tǒng)支出將在2019年增長至近358億美元，相較于2018年增長44%，隨著各行業(yè)積極投資利用AI軟件能力的項目，這個數(shù)字將在2022年增加至一倍以上。為了在全球范圍內(nèi)展開競爭，創(chuàng)新和充分利用人工智能應(yīng)該成為全球各行業(yè)幾乎所有企業(yè)的優(yōu)先事項。

可信人工智能

AI是具有顛覆性的技術(shù)，其改變世界的潛力是無限的。AI可以改善復(fù)雜的決策制訂流程，這使其成為了各個行業(yè)轉(zhuǎn)型的催化劑。除了可以更有效、更高效地完成繁重且費時的任務(wù)外，AI還可以賦予管理團隊前所未有的深刻洞察。但與此同時，AI技術(shù)也會催生一系列道德、法律和技術(shù)風(fēng)險，需要企業(yè)妥善處理。

33%的受訪者認(rèn)為員工信任是AI實施的最大障礙之一，即使受訪者完全或一定程度上信任AI。除此之外，我們發(fā)現(xiàn)，技術(shù)、風(fēng)險、人員能力和意識等都成為了人們信任AI實施的主要限制因素，尤其在技術(shù)方面，技術(shù)的可靠性和性能、技術(shù)的安全性和堅固性、技術(shù)治理與監(jiān)督、AI應(yīng)用相關(guān)的倫理道德問題都成為了關(guān)鍵因素。

現(xiàn)有的外部監(jiān)管機構(gòu)對AI的控制力度遠遠跟不上AI技術(shù)的發(fā)展速度。企業(yè)在沒有強有力的治理下使用AI，會面臨嚴(yán)重的風(fēng)險。這些風(fēng)險和威脅不僅復(fù)雜，還會隨著AI技術(shù)的發(fā)展不斷演變。為了確保AI的使用安全，我們提倡在最初的AI設(shè)計中就將信任原則嵌入。面對不斷演變的威脅，越早將信任原則嵌入AI中，越能未雨綢繆，在確保AI隱私和安全的前提下收獲最大的回報，使AI技術(shù)成為推動企業(yè)未來發(fā)展的強大動力。

對企業(yè)來說，AI既是管理風(fēng)險的工具，也是產(chǎn)生新風(fēng)險的來源，需要妥善管理。這些風(fēng)險不僅會損害對這些系統(tǒng)的信任，還會損害對產(chǎn)品、品譽的信任。因此無論何時采用AI技術(shù)，企業(yè)都應(yīng)該識別各項AI技術(shù)應(yīng)用的風(fēng)險。

安永的可信的人工智能框架，幫助企業(yè)了解新的和不斷擴大的風(fēng)險，企業(yè)可以根據(jù)他們在AI產(chǎn)業(yè)鏈中的角色和職責(zé)開展治理活動。安永的可信AI框架從性能、無偏、透明、韌性、可解釋五個方面強調(diào)了維持信任所必備的屬性。

要被用戶接受，AI必須是可以被理解的，這意味著AI的決策框架需要可解釋和驗證。它還必須按預(yù)期運行，無偏見以及安全。

性能是指，AI的結(jié)果與利益相關(guān)者的期望一致，且其性能達到期望的精確度和一致性水平。

無偏是指，通過AI設(shè)計識別并解決由開發(fā)團隊組成、數(shù)據(jù)和訓(xùn)練方法產(chǎn)生的固有偏見。AI系統(tǒng)的設(shè)計考慮所有受影響的利益相關(guān)者的需求，并對社會產(chǎn)生積極影響。

透明是指，給予與AI交互的最終用戶適當(dāng)?shù)耐ㄖ?，以及選擇交互程度的機會。根據(jù)采集和使用數(shù)據(jù)的要求，獲取用戶同意。

韌性是指，AI系統(tǒng)組件和算法本身使用的數(shù)據(jù)受到安全防護，避免未經(jīng)授權(quán)的訪問、損壞和/或?qū)剐怨簟?/p>

可解釋是指，AI的訓(xùn)練方法和決策標(biāo)準(zhǔn)可以被理解和記錄，并且可供人類操作者隨時挑戰(zhàn)和驗證。

實際上，AI不是被實施，而是被應(yīng)用，并且當(dāng)AI應(yīng)用在三步創(chuàng)新法中時，將可實現(xiàn)可信AI。所謂“三步創(chuàng)新法”為：有目的的設(shè)計、謹(jǐn)慎監(jiān)督和敏捷治理。

有目的的設(shè)計是指，在設(shè)計和構(gòu)建系統(tǒng)時有目的地整合并適當(dāng)平衡自動的、智能的和自主的能力，以促進明確的定義業(yè)務(wù)目標(biāo)的發(fā)展，并考慮環(huán)境、約束、準(zhǔn)備程度和風(fēng)險等。

謹(jǐn)慎監(jiān)督是指，持續(xù)調(diào)整優(yōu)化、關(guān)注和監(jiān)控系統(tǒng)，以提高性能的可靠性，降低識別和糾正偏差，加強透明度和包容性。

敏捷治理是指，跟蹤社會、監(jiān)管、聲譽和倫理領(lǐng)域暴露的問題，并報告給以下內(nèi)容的流程負責(zé)人：系統(tǒng)完整性、系統(tǒng)使用、架構(gòu)和內(nèi)嵌組件、數(shù)據(jù)采購和管理、模型訓(xùn)練、監(jiān)控。

安永與華為今年一起合作撰寫了AI治理、安全與隱私白皮書，在這個過程中，我們做了大量的調(diào)研，雖然目前業(yè)界有AI治理原則、框架和指南，但一個企業(yè)具體應(yīng)該怎么做并沒有明確的指引。我們提出了企業(yè)應(yīng)從責(zé)任的角度出發(fā)來思考自身的AI治理，這對行業(yè)是非常有積極意義的。

AI的產(chǎn)品和應(yīng)用涉及廣泛的生態(tài)系統(tǒng)，涉及的市場參與者眾多，治理難度大、復(fù)雜度高。AI的每項產(chǎn)品/服務(wù)需要生態(tài)系統(tǒng)中不同市場參與者提供不同層次的支持，因此對AI的安全隱私治理也需要全行業(yè)共同合作，從自身責(zé)任的角度出發(fā)，根據(jù)企業(yè)自己的AI戰(zhàn)略和業(yè)務(wù)范疇確定自己的治理目標(biāo)和框架。我們根據(jù)業(yè)界現(xiàn)有的一些報告和研究，認(rèn)為AI生態(tài)系統(tǒng)中共有6種市場參與者，即消費者/客戶、部署者、應(yīng)用開發(fā)者、解決方案提供者、數(shù)據(jù)收集者和立法者，讓我們從下往上看看每個角色應(yīng)當(dāng)承擔(dān)的責(zé)任。

立法者需要完善AI相關(guān)的法律和標(biāo)準(zhǔn)，明確利益相關(guān)方的責(zé)任。

數(shù)據(jù)收集者需要保障數(shù)據(jù)采集的合法合規(guī)，以及數(shù)據(jù)的質(zhì)量和安全等。

全棧解決方案提供者對方案的安全可控承擔(dān)主要責(zé)任，技術(shù)層主要包括預(yù)置模型的可解釋和可追溯、隱私保護特性、安全與健壯?；A(chǔ)層主要實現(xiàn)可信解決方案。

應(yīng)用開發(fā)者需要保障商業(yè)目標(biāo)實施，在開發(fā)定制模型時需要基于應(yīng)用目的選擇算法和定制模型，并持續(xù)調(diào)整更新。

部署者需要保障部署目的，并對部署過程中的安全隱私風(fēng)險進行管控。

消費者/客戶需要遵循產(chǎn)品/服務(wù)說明書安全地使用產(chǎn)品和服務(wù)，并需要進行一些授權(quán)，例如同意隱私條款、簽署授權(quán)合同等。

數(shù)據(jù)治理、隱私保護和勝任能力需要各方共同擔(dān)責(zé)。

可信而可用的人工智能

AI產(chǎn)品應(yīng)用的廣泛性導(dǎo)致了AI相關(guān)的利益方無法單獨對整個生態(tài)系統(tǒng)承擔(dān)所有責(zé)任，AI全生態(tài)的安全和隱私需要所有利益相關(guān)方都能夠重視，把安全和隱私融入AI整個產(chǎn)品生命周期，將安全和隱私納入首要工作標(biāo)準(zhǔn)。

同時，我們也希望AI生態(tài)中的所有企業(yè)都能從責(zé)任角度出發(fā)，開展自己的工作，并提供寶貴的建議和方案，互相了解、互相借鑒。只有AI產(chǎn)業(yè)鏈上的每個環(huán)節(jié)都做到安全和隱私保護，AI整體才能夠更加可靠可信。

在這里，我們呼吁AI產(chǎn)業(yè)鏈的所有利益相關(guān)者能積極為AI治理獻計獻策，共同努力，持續(xù)提升，共享AI裨益！

長按并識別左側(cè)二維碼，訪問安永進博會微站，掌握安永進博會最新動態(tài)。

本材料是為提供一般信息的用途編制，并非旨在成為可依賴的會計、稅務(wù)或其他專業(yè)意見。請向您的顧問獲取具體意見。