AI正在改變我們做幾乎所有事情的方式——無(wú)論我們走到哪里，機(jī)器都在執(zhí)行過(guò)去由人類完成的任務(wù)。這些AI驅(qū)動(dòng)的實(shí)例涵蓋了從自動(dòng)駕駛汽車到客戶服務(wù)機(jī)器人的各個(gè)領(lǐng)域，這些機(jī)器人必須在人類上線之前進(jìn)行導(dǎo)航。在網(wǎng)絡(luò)安全領(lǐng)域，AI已迅速成為攻擊者的朋友和力量倍增器。無(wú)論你喜歡與否，將機(jī)器視為隊(duì)友已成為既定現(xiàn)實(shí)，CISO必須學(xué)會(huì)接受，但他們?cè)诮邮蹵I伙伴之前應(yīng)該問(wèn)一些問(wèn)題。

(資料圖片僅供參考)

這個(gè)概念并不新鮮。2019年，一個(gè)由65名協(xié)作科學(xué)家組成的國(guó)際團(tuán)隊(duì)就該主題提出了819個(gè)研究問(wèn)題，目的是“提供一個(gè)研究議程以供協(xié)作研究人員調(diào)查設(shè)計(jì)的機(jī)器隊(duì)友的預(yù)期效果。”毫無(wú)疑問(wèn)，來(lái)自協(xié)作科學(xué)家團(tuán)隊(duì)的一些研究要點(diǎn)被納入了美國(guó)國(guó)防部“負(fù)責(zé)任的AI”原則和指南，其中概括了任何AI在使用前必須具備的五大要素：負(fù)責(zé)任、公平、可追溯、可靠和可治理。

讓AI做你的僚機(jī)

要想象AI作為行動(dòng)中的隊(duì)友的概念，人們只需看看美國(guó)空軍的計(jì)劃，即通過(guò)將F-35多用途戰(zhàn)斗機(jī)與作為自主僚機(jī)的戰(zhàn)斗無(wú)人機(jī)配對(duì)，來(lái)提高其效率。與AI增強(qiáng)的無(wú)人機(jī)一起工作，這架飛機(jī)可以以超出人類能力的速度收集信息。這使得通過(guò)觀察、定位、決定、行動(dòng)(OODA)循環(huán)的行動(dòng)兼具速度和靈活性，這反過(guò)來(lái)又使實(shí)時(shí)信息的接受者變得更加?jì)故臁?/p>

StrikeReady首席執(zhí)行官Anurag Gurtu表示，AI將有效地成為自動(dòng)化流程的延伸，以發(fā)現(xiàn)更廣泛的信息，并幫助以越來(lái)越快的速度評(píng)估復(fù)雜性。當(dāng)CISO希望提高生產(chǎn)力、增強(qiáng)熟練分析師的能力、減輕部分工作量并留住員工時(shí)，AI的效果無(wú)疑是最好的。

AI幫助加快決策進(jìn)程

Gurtu補(bǔ)充道，AI還能幫助加速?zèng)Q策過(guò)程，增強(qiáng)檢測(cè)工作，并為分析師提供被攻擊的事件概率。在過(guò)去，決策樹和基于規(guī)則的模型使威脅和漏洞檢測(cè)成為一個(gè)相當(dāng)費(fèi)力的過(guò)程，但有了AI，我們可以引入不同的數(shù)據(jù)集，提高分析師的“可解釋性”。LIME(local Interpretable model-agnostic explanations)和SHAP(Shapley Additive explanations)都有助于解決“可解釋性”的苦差事。

Gurtu表示，“越來(lái)越多的實(shí)體正在整合生成式AI，他們必須為‘幻覺(jué)’的增長(zhǎng)做好準(zhǔn)備，隨著越來(lái)越多的實(shí)體這樣做，大規(guī)模的幻覺(jué)即將到來(lái)。避免在生成式AI的結(jié)果中產(chǎn)生‘幻覺(jué)’的方法是使用圖形AI語(yǔ)言模型?！?/p>

為了說(shuō)明這一點(diǎn)，我們只需看看最近一位律師在AI聊天機(jī)器人的幫助下向法院提交的摘要，當(dāng)它找不到現(xiàn)實(shí)世界的例子時(shí)，它會(huì)“幻覺(jué)”出不存在的案例。這導(dǎo)致法官發(fā)布了一項(xiàng)長(zhǎng)期命令，即使用AI創(chuàng)建的任何摘要都必須由人類進(jìn)行識(shí)別和驗(yàn)證。Gurtu認(rèn)為，“利用圖形方法，AI為用戶提供了極大的能力去理解上下文。如果沒(méi)有這些，結(jié)果將是大量的幻覺(jué)?！?/p>機(jī)器隊(duì)友需要與人兼容

幾乎所有行業(yè)最終都會(huì)受到AI的影響，并與機(jī)器成為隊(duì)友。在2022年8月發(fā)表的《心理學(xué)前沿》(Frontiers In Psychology)文章中，作者指出，人類團(tuán)隊(duì)的成功必須要有有效的團(tuán)隊(duì)合作。其中，領(lǐng)導(dǎo)力、解決沖突能力、適應(yīng)能力和后援行為等因素已被確定為成功的團(tuán)隊(duì)合作的關(guān)鍵方面。

作者推斷，要解決未來(lái)的人機(jī)團(tuán)隊(duì)問(wèn)題，將在一定程度上取決于機(jī)器代理，這些機(jī)器代理被設(shè)計(jì)成能夠成功地促進(jìn)和參與與人類隊(duì)友的團(tuán)隊(duì)合作。

在AI的背景下，信任仍然是一個(gè)主要的考慮因素。有多少實(shí)體將確保首席信任官(chief trust officer)的責(zé)任包括在產(chǎn)品和業(yè)務(wù)中以道德和負(fù)責(zé)任的方式使用AI?當(dāng)AI犯錯(cuò)誤時(shí)，誰(shuí)報(bào)告錯(cuò)誤?誰(shuí)來(lái)糾正錯(cuò)誤?如何衡量機(jī)器和人類隊(duì)友之間的信任關(guān)系呢?

每個(gè)CISO都應(yīng)該問(wèn)的AI相關(guān)問(wèn)題

IEEE成員、咨詢公司The Privacy Professor的創(chuàng)始人Rebecca Herold表示，將AI納入安全技術(shù)有許多潛在的好處：簡(jiǎn)化工作以縮短項(xiàng)目完成時(shí)間，能夠快速做出決策，更迅速地發(fā)現(xiàn)問(wèn)題。

但是，她補(bǔ)充說(shuō)，也有很多不成熟的例子被采用，買家最終會(huì)一頭扎進(jìn)AI池的最深處，而沒(méi)有仔細(xì)考慮AI是否像承諾的那樣工作。當(dāng)有缺陷的AI產(chǎn)生錯(cuò)誤結(jié)果，導(dǎo)致隱私泄露、偏見、安全事件和違規(guī)罰款時(shí)，那些使用AI的人會(huì)突然意識(shí)到AI的陰暗面。

為了獲得準(zhǔn)確、無(wú)偏見、隱私保護(hù)和符合數(shù)據(jù)保護(hù)要求的結(jié)果，建議每個(gè)CISO都應(yīng)該詢問(wèn)以下8個(gè)問(wèn)題：

1. 是否進(jìn)行了全面的測(cè)試以確保AI算法按預(yù)期工作?要求制造商和/或供應(yīng)商提供確認(rèn)此類測(cè)試的文件，并確認(rèn)所使用的標(biāo)準(zhǔn)和/或框架。例如，NISTAI風(fēng)險(xiǎn)管理框架(AI RMF 1.0)。

2. 用于訓(xùn)練AI的數(shù)據(jù)從何而來(lái)?如此等資料包括個(gè)人資料，有關(guān)人士必須同意將其個(gè)人資料用于此等目的。

3. 為了防止或盡可能減輕結(jié)果中的偏見，該AI算法是如何設(shè)計(jì)的?要求查看記錄的結(jié)果。

4. 該算法是如何設(shè)計(jì)的，以減輕與生成式AI相關(guān)的新的和具有挑戰(zhàn)性的風(fēng)險(xiǎn)?要求查看有關(guān)他們計(jì)劃的文檔，以便在持續(xù)的基礎(chǔ)上進(jìn)行管理。

5. 供應(yīng)商是否全面解決了與機(jī)器學(xué)習(xí)相關(guān)的安全問(wèn)題，如果是，是如何解決的?要求查看文檔化的政策和程序。

6. AI的設(shè)計(jì)是否考慮了AI系統(tǒng)攻擊表面的復(fù)雜性，如果是，以何種方式?要求提供文檔以驗(yàn)證所提供的信息。

7. 如何審查供應(yīng)鏈和第三方AI組件的安全和隱私風(fēng)險(xiǎn)，然后減輕風(fēng)險(xiǎn)?確保有一個(gè)持續(xù)的AI供應(yīng)鏈和第三方風(fēng)險(xiǎn)管理流程。

8. AI制造商或供應(yīng)商開發(fā)的AI產(chǎn)品是否符合其銷售地區(qū)的數(shù)據(jù)保護(hù)要求?

Herold補(bǔ)充道，僅僅相信銷售團(tuán)隊(duì)的說(shuō)法是不夠的，一個(gè)人必須培養(yǎng)自己的能力，找出棘手問(wèn)題的答案，或者找到既值得信賴又有能力的第三方。

當(dāng)AI成為合作伙伴時(shí)，人類必須加以引導(dǎo)

投資者兼演說(shuō)家Barry Hurd表示，當(dāng)機(jī)器成為團(tuán)隊(duì)成員時(shí)，人類必須承擔(dān)機(jī)器決策的責(zé)任。他表示，“與AI團(tuán)隊(duì)合作需要專門的人才來(lái)優(yōu)化工作關(guān)系，而非破壞工作關(guān)系。人類天生就不像機(jī)器那樣有足夠的容忍度。在科幻電影中，機(jī)械臂與虛弱的人體相比是堅(jiān)不可摧的，我們的邏輯和決策能力與AI團(tuán)隊(duì)成員的處理速度相比也同樣脆弱。”

Hurd指出，無(wú)論我們的行為是對(duì)還是錯(cuò)，機(jī)器都會(huì)使我們的行為成倍增加。規(guī)模和速度需要與我們?nèi)祟惖姆磻?yīng)時(shí)間保持平衡，以保持道德、合規(guī)的行動(dòng)時(shí)間。大規(guī)模的AI意味著在廣泛的部門領(lǐng)域可能會(huì)造成大規(guī)模的附帶損害。

Hurd稱，“一旦決定采取行動(dòng)，在我們能夠再次猜測(cè)剛剛發(fā)生了什么之前，行動(dòng)就會(huì)結(jié)束。然而，與一群了解如何實(shí)現(xiàn)有效倍數(shù)的有才華的人類合作伙伴配對(duì)，就可以形成一種共生關(guān)系，在這種關(guān)系中，批判性思維、主題專業(yè)知識(shí)和道德與有計(jì)劃的行動(dòng)和規(guī)模自動(dòng)化保持平衡。在這一點(diǎn)上，風(fēng)險(xiǎn)可以最小化，效率可以倍增。最優(yōu)秀的人才會(huì)創(chuàng)造出最好的技術(shù)，反之亦然。”

Gurtu補(bǔ)充道，當(dāng)AI隊(duì)友做出決定時(shí)，人類隊(duì)友還必須要能解釋為什么做出這種決定。

關(guān)鍵詞：