當(dāng)攻擊者篡改用于訓(xùn)練 AI 模型的數(shù)據(jù)時(shí),實(shí)際上會(huì)“中毒”。因?yàn)槿斯ぶ悄芤蕾囉谶@些數(shù)據(jù)來學(xué)習(xí)如何做出準(zhǔn)確的預(yù)測(cè),所以算法生成的預(yù)測(cè)將是不正確的。
威脅行為者現(xiàn)在正在以可用于網(wǎng)絡(luò)攻擊的方式處理數(shù)據(jù)。例如,他們可以通過更改推薦引擎的數(shù)據(jù)來做很多事情。從那里,他們可以讓某人下載惡意軟件應(yīng)用程序或單擊受感染的鏈接。
數(shù)據(jù)中毒是如此危險(xiǎn),因?yàn)樗褂萌斯ぶ悄軄韺?duì)付我們。我們?cè)絹碓较嘈湃斯ぶ悄軐?duì)我們個(gè)人生活和工作的許多方面的預(yù)測(cè)。從幫助我們選擇要觀看的電影到告訴我們哪些客戶可能會(huì)取消他們的服務(wù),它無所不能。
威脅行為者也在使用數(shù)據(jù)中毒來滲透防御者用來發(fā)現(xiàn)威脅的工具。首先,他們可以更改數(shù)據(jù)或添加數(shù)據(jù)以生成不正確的分類。此外,攻擊者還利用數(shù)據(jù)中毒來生成后門。
對(duì) AI 工具的數(shù)據(jù)中毒攻擊的增加意味著企業(yè)和機(jī)構(gòu)可能會(huì)猶豫轉(zhuǎn)向這些工具。它還使防御者知道要信任哪些數(shù)據(jù)變得更具挑戰(zhàn)性。
針對(duì)使用人工智能 (AI) 和機(jī)器學(xué)習(xí) (ML) 的安全軟件的數(shù)據(jù)中毒可能是下一個(gè)重大的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。隨著這種新威脅的迅速出現(xiàn),防御者必須學(xué)習(xí)如何發(fā)現(xiàn)數(shù)據(jù)中毒攻擊以及如何預(yù)防它們。否則,將根據(jù)錯(cuò)誤數(shù)據(jù)做出業(yè)務(wù)和網(wǎng)絡(luò)安全決策。作為捍衛(wèi)者不能盲目相信擁有的工具和數(shù)據(jù)。應(yīng)更加了解算法的工作原理并定期檢查異常數(shù)據(jù)將有助于我們提前防范攻擊。