原創不易 請隨手點擊關注
本文由Rehoo團隊Tin原創，無授權禁轉！(圖片來自網絡)
圖片來自網絡
隨著人工智能在幾乎所有商業和工業領域的應用，我們有一個新的問題需要擔心.,人工智能的“劫持”。黑客使用相同的技術和系統來轉向我們，妥協我們的數據，安全性和生活方式。我們已經看到黑客試圖解決這個問題，雖然安全團隊能夠成功抵禦這些攻擊，但黑客成功只是時間問題。
抓住它們被證明是一項挑戰，因為我們用來提高自己效率和工作效率的智能技術被黑客們所吸引，他們正在利用它們來阻礙我們的進步。似乎我們可以做任何事情，他們可以做並且有時他們做得更好。
解決這個問題並確保高級人工智能技術和算法仍然站在好人的一邊，這將成為未來幾年網絡安全專家面臨的最大挑戰之一。
圖片來自網絡
要做到這一點，公司必須更加積極主動地保護自己。許多組織安裝了高級安全系統來保護自己免受APT和其他新興威脅的攻擊，其中許多系統本身都使用AI和機器學習技術。通過這樣做，組織通常認為問題已得到解決; 一旦安裝了高級響應，他們就可以高枕無憂，確信他們受到保護。
然而，這種態度幾乎可以保證他們被黑客入侵。隨著系統的安裝，黑客幾乎總是領先一步。盡職盡責才是網絡保護中最重要的武器之一。
人們常說，自滿是敵人，在這種情況下，它是一個可以導致網絡悲劇的敵人。公司可以採取的步驟包括更多地關注基本安全性，支持基於AI的安全系統以更好地檢測黑客使用的策略，並教育工作人員瞭解網絡釣魚策略的危險以及黑客用來破壞系統的其他方法。
圖片來自網絡
黑客已經學會了妥協AI
黑客如何選擇我們的人工智能？特拉維夫大學的工作中開發了一些系統，這些系統使用人工智能來提高網絡的安全性，同時避免侵犯個人身份。
系統能夠感知入侵者何時嘗試訪問服務器或網絡。基於機器學習和高級分析，我們的AI系統能夠識別攻擊模式，能夠提醒管理員他們受到攻擊，使他們能夠採取行動，在入侵者進一步行動之前關閉他們。
這是一個黑客可以使用的策略示例。機器學習，我們今天稱之為人工智能的核心，通過觀察數據模式，以及在個人計算機或大型神經網絡上對其含義進行假設為“智能”。
因此，如果在特定進程運行時計算機處理器中發生特定操作，並且在神經網絡或特定計算機上重複該操作，系統將獲知該操作意味著已發生網絡攻擊，並且需要採取適當的行動。
但這裡是棘手的地方。精通AI的惡意軟件可以注入安全系統會讀取的錯誤數據 ，目標是破壞機器學習算法用於做出決策的模式。因此，可以將虛假數據插入到數據庫中，使得仿真正在複製個人信息的過程只是IT系統常規例程的一部分，並且可以安全地被忽略。
圖片來自網絡
黑客不是試圖超越智能機器學習安全系統，而是簡單地與他們“交朋友”， 利用他們自己的能力對付他們，並在服務器上幫助他們自己想要的任何東西。
黑客可以通過各種其他方式欺騙基於AI的安全系統。例如，已經顯示，基於AI的圖像識別系統可能通過僅改變圖像中的幾個像素而被欺騙。在日本九州大學的一項著名實驗中，科學家們近四分之三的時間能夠愚弄基於人工智能的圖像識別系統。
另一種策略涉及我稱之為“浮動和編織”，其中黑客插入信號和過程對IT系統完全沒有影響，除了訓練AI系統看這些是正常的。一旦它發生，黑客可以使用這些例程來執行安全系統將錯過的攻擊，因為它已被訓練為“相信”該行為是無關緊要的，甚至是正常的。
黑客可能會破壞基於AI的網絡安全系統的另一種方式是更改或替換日誌文件，甚至只是更改其時間戳或其他元數據，以進一步混淆機器學習算法。
圖片來自網絡
公司可以保護自己的方式
因此，人工智能的巨大優勢有可能成為它的垮臺。那麼，答案是擱置AI嗎？這肯定不會發生，也沒有理由。通過適當的努力，我們可以通過這個AI故障，並停止黑客的努手段。以下是一些具體的想法：
盡職盡責：公司需要做的第一件事就是提高他們與安全流程的互動程度。安裝先進人工智能安全系統的公司往往會對網絡安全感到自滿，認為系統會保護他們，並且通過安裝它們就可以確保他們的安全。然而，正如我們所見，事實並非如此。密切關注表面上保護組公司的人工智能是確保他們從網絡安全系統中獲取資金的第一步。
強化AI：黑客用來攻擊的一個策略是用低質量的數據侵入AI系統，以便混淆它。為防止這種情況發生，安全系統需要考慮遇到低質量數據的可能性。
對數據評估方式進行更嚴格的控制，例如，更密切地檢查日誌文件的時間戳以確定它們是否已被篡改，可以從黑客那裡獲取他們當前成功使用的武器方式。
更加關注基本安全性：黑客最常使用他們經過驗證的真實策略，APT或運行惡意軟件來滲透組織。通過加強對基本策略的防禦，組織將能夠通過完全阻止惡意軟件和攻擊來阻止任何類型的攻擊，包括那些使用高級AI的攻擊。
圖片來自網絡
教育員工應對網絡釣魚宣傳的危險， 包括獎勵或懲罰機制，以及更強大的基本防禦措施，如沙箱和反惡意軟件系統，以及更智能的人工智能防禦系統可能需要很長時間保護組織的方式。人工智能有可能使我們的數字化未來更加安全; 在我們的有效的戰略實施下，它將能夠避免被黑客操縱，並正確地完成其工作。