【it168 評論】為了在新時(shí)代蓬勃發(fā)展，企業(yè)安全需要減少人工智能帶來的風(fēng)險(xiǎn)，并充分利用它提供的機(jī)會。

人工智能(ai)正在創(chuàng)造信息安全的新領(lǐng)域。能夠獨(dú)立學(xué)習(xí)、推理和行動(dòng)的系統(tǒng)將越來越多地復(fù)制人類的行為。就像人類一樣，他們也會有缺陷，但也有能力取得偉大的成就。

人工智能帶來了新的信息風(fēng)險(xiǎn)，并使一些現(xiàn)有風(fēng)險(xiǎn)更加危險(xiǎn)。但是，它也可以永久使用，并且應(yīng)該成為每個(gè)組織防御性武器庫中的關(guān)鍵部分。業(yè)務(wù)和信息安全領(lǐng)導(dǎo)者都必須在接受即將成為日常業(yè)務(wù)中至關(guān)重要的技術(shù)之前，先了解風(fēng)險(xiǎn)和機(jī)遇。

人工智能已經(jīng)在許多主流業(yè)務(wù)用例中找到了自己的方式。組織使用ai的變體來支持客戶服務(wù)，人力資源和銀行欺詐檢測等領(lǐng)域的流程。但是，這種炒作可能導(dǎo)致人們對ai的真正含義及其對業(yè)務(wù)和安全的真正含義感到困惑和懷疑。很難將一廂情愿的想法與現(xiàn)實(shí)分開。

人工智能帶來的信息風(fēng)險(xiǎn)是什么？

隨著組織采用ai系統(tǒng)，它們對于日常業(yè)務(wù)運(yùn)營將變得越來越重要。一些組織已經(jīng)擁有或?qū)碛型耆蕾嘺i技術(shù)的業(yè)務(wù)模型。無論組織使用了ai的哪些功能，這樣的系統(tǒng)和支持ai的信息都會存在固有的漏洞，并且受到意外和對抗性風(fēng)險(xiǎn)的威脅。受損的ai系統(tǒng)將做出錯(cuò)誤的決策并產(chǎn)生意外的結(jié)果。

同時(shí)，組織開始面臨復(fù)雜的基于ai的攻擊，這些攻擊有可能以前所未有的速度和規(guī)模破壞信息并造成嚴(yán)重的業(yè)務(wù)影響。采取措施保護(hù)內(nèi)部ai系統(tǒng)并防御外部ai威脅，對于降低信息風(fēng)險(xiǎn)至關(guān)重要。

盡管組織采用的ai系統(tǒng)提供了誘人的目標(biāo)，但對抗性攻擊者也開始將ai用于自己的攻擊。ai是一種功能強(qiáng)大的工具，可用來增強(qiáng)攻擊技術(shù)，甚至創(chuàng)建全新的攻擊技術(shù)。組織必須準(zhǔn)備好調(diào)整防御措施，以應(yīng)對基于ai的網(wǎng)絡(luò)攻擊的規(guī)模和復(fù)雜性。

人工智能提供的防御性機(jī)會

?

安全從業(yè)者總是在努力跟上攻擊者使用的方法，而ai系統(tǒng)至少可以通過顯著增強(qiáng)各種防御機(jī)制來提供短期的能力提升。ai可以將大量任務(wù)自動(dòng)化，幫助人手不足的安全部門填補(bǔ)專業(yè)技能缺口，提高從業(yè)人員的效率。

為了保護(hù)自己免受現(xiàn)有威脅，ai可以讓防御者領(lǐng)先一步。然而，對手并不是靜止不動(dòng)的——隨著支持ai的威脅變得越來越復(fù)雜，安全從業(yè)者將需要使用ai支持的防御來跟上形勢。

在應(yīng)對威脅方面，ai的好處在于，它可以獨(dú)立行動(dòng)，在不需要人類監(jiān)督的情況下采取相應(yīng)措施，而且速度比人類快得多?？紤]到惡意軟件的存在幾乎可以在瞬間危害整個(gè)系統(tǒng)，這是一個(gè)非常有價(jià)值的能力。

人工智能可以顯著增強(qiáng)防御機(jī)制的方式有很多，這為我們提供了樂觀的理由，但與任何一種新技術(shù)一樣，人工智能也不是靈丹妙藥。安全從業(yè)人員應(yīng)該意識到部署防御性ai所涉及的實(shí)際挑戰(zhàn)。

在部署防御性ai系統(tǒng)之前，需要考慮的問題和考慮的范圍很窄，而且是為了完成一種任務(wù)而設(shè)計(jì)的。他們需要足夠的數(shù)據(jù)和輸入來完成這項(xiàng)任務(wù)。一個(gè)單一的防御性ai系統(tǒng)將不能增強(qiáng)之前概述的所有防御機(jī)制——一個(gè)組織可能采用多個(gè)系統(tǒng)。在購買和部署防御性ai系統(tǒng)之前，安全領(lǐng)導(dǎo)應(yīng)該考慮是否需要一個(gè)ai系統(tǒng)來解決問題，或者更傳統(tǒng)的選擇是否會起到類似或更好的作用。

要問的問題包括:

●問題有局限嗎?(例如，它是否可以用一個(gè)數(shù)據(jù)集或一種輸入類型來處理，或者它是否需要高度理解上下文，通常哪些人更擅長提供？)

●組織是否有運(yùn)行和優(yōu)化ai系統(tǒng)所需的數(shù)據(jù)?

安全領(lǐng)導(dǎo)者還需要考慮圍繞防御ai的治理問題，比如:

●防御性ai系統(tǒng)如何適應(yīng)組織的安全治理架構(gòu)?

●組織如何為防御ai系統(tǒng)提供安全保障?

●如何維護(hù)、備份、測試和修補(bǔ)防御性ai系統(tǒng)?

●組織是否有足夠的技術(shù)人員來為防御ai系統(tǒng)提供監(jiān)督?

人工智能不會用技術(shù)專長和對風(fēng)險(xiǎn)的直覺來取代對熟練安全從業(yè)人員的需求。這些安全從業(yè)人員需要在人工監(jiān)視的需要和允許人工智能支持的控制自動(dòng)有效地工作的信心之間取得平衡。這種信心需要時(shí)間來培養(yǎng)，尤其是在人工智能被證明不可靠、或做出糟糕或意外決定的故事不斷涌現(xiàn)的情況下。

人工智能系統(tǒng)會犯錯(cuò)誤，人類監(jiān)督的一個(gè)有益方面是，當(dāng)事情出錯(cuò)時(shí)，從業(yè)人員可以提供反饋，并將其納入人工智能的決策過程。當(dāng)然，人類也會犯錯(cuò)，采用防御性ai的組織需要投入時(shí)間、培訓(xùn)和支持來幫助安全從業(yè)人員學(xué)習(xí)如何使用智能系統(tǒng)。

如果有時(shí)間一起發(fā)展和學(xué)習(xí)，人類和ai的結(jié)合應(yīng)該成為組織網(wǎng)絡(luò)防御的一個(gè)有價(jià)值的組成部分。

現(xiàn)在開始準(zhǔn)備

能夠獨(dú)立學(xué)習(xí)、推理和行動(dòng)的計(jì)算機(jī)系統(tǒng)預(yù)示著一個(gè)充滿風(fēng)險(xiǎn)和機(jī)遇的新技術(shù)時(shí)代的到來。已經(jīng)出現(xiàn)的進(jìn)展只是冰山一角,未來還將出現(xiàn)更多的進(jìn)展。ai系統(tǒng)“思考”的速度和規(guī)模將隨著大數(shù)據(jù)訪問的增加、計(jì)算能力的增強(qiáng)和編程技術(shù)的不斷改進(jìn)而提高。這種力量這種權(quán)力將有可能創(chuàng)造和摧毀一家企業(yè)。

可用于防御的ai工具和技術(shù)也可用于犯罪分子、黑客活動(dòng)分子和政府支持的組織等惡意行為者。這些對手很快就會發(fā)現(xiàn)使用ai來創(chuàng)建諸如智能惡意軟件之類的全新威脅的方法，比如智能惡意軟件。使用傳統(tǒng)控件的安全從業(yè)人員將無法應(yīng)對攻擊的速度、數(shù)量和復(fù)雜性。

為了在新時(shí)代蓬勃發(fā)展，組織需要減少ai帶來的風(fēng)險(xiǎn)，并充分利用ai提供的機(jī)會。這意味著要保護(hù)自己的智能系統(tǒng)并部署自己的智能防御。人工智能不再是對遙遠(yuǎn)未來的憧憬:現(xiàn)在是開始準(zhǔn)備的時(shí)候了！