什麼是黑暗人工智能？黑暗 GPT、AI Deepfake 和其他網絡威脅

黑暗AI，也稱為邪惡AI，是將人工智能用於惡意目的，例如網絡攻擊、欺詐、詐騙、錯誤信息活動和數據洩露。在某些情況下，創建黑暗人工智能程序的明確目的是使這些惡意行為永久化，而在其他情況下，中立或有益的人工智能程序被重新利用以造成傷害。

黑暗人工智能通常與網絡犯罪分子有關，例如黑客、詐騙者和其他欺詐者，他們使用人工智能來創建或部署他們的計劃。這可能使他們能夠比以往更快、更輕鬆地發起更複雜的攻擊或詐騙。

參見：網絡安全威脅：發現可能讓您付出一切代價的跡象

然而，一些定義也將戰爭中使用的人工智能歸類為黑暗人工智能。例如，以色列曾使用人工智能程序協助選擇加沙目標。而在俄羅斯對烏克蘭的戰爭中，雙方都有僱用人工智能用於分析戰場數據等目的。

2025 年 2 月，人們對人工智能在戰爭中的作用的擔憂進一步加劇，當時谷歌解除了長期禁令關於使用人工智能開發監視工具和武器。

黑暗人工智能的例子

黑暗人工智能的例子包括用於操縱和聲譽損害的有害深度偽造、旨在編寫詐騙消息的生成人工智能程序，以及為促進網絡攻擊而構建的人工智能驅動的軟件。

人工智能可用於多種類型的邪惡活動，從製造深度贗品到實施欺詐。

深偽人工智能

Deepfakes 是人工智能創建的媒體，旨在密切模仿一個人的肖像，無論是他們的臉、舉止還是聲音。 Deepfake 視頻通常用於製作幽默片段，取笑政客、運動員和名人，但它們也可用於損害他人名譽或散佈虛假消息。

Deepfake 色情內容是有關該技術潛在危害的討論中最前沿的一個日益突出的問題。例如，這兩個學校韓國和西班牙深受深度偽造流行的影響，孩子們製作並分享同學的露骨深度偽造視頻。

許多知名公眾人物，如歌手泰勒·斯威夫特、Twitch 主播 Pokimane 和美國眾議員亞歷山大·奧卡西奧-科爾特斯，也都是深度造假的受害者。

人工智能錯誤信息

人工智能錯誤信息涉及利用人工智能創造和分享虛假、誤導性或未經證實的新聞和其他資源。這種錯誤信息通常通過深度造假傳播。例如，在俄羅斯對烏克蘭的戰爭期間，國家行為者和游擊隊多次使用深度贗品傳播錯誤信息和宣傳。

儘管這些視頻對某些人來說可能明顯是假的，但隨著技術的進步，深度偽造只會變得更加真實。這可能會導致未來國家和個人的錯誤信息活動更加成功。

人工智能生成的假新聞網站也出現在網上，其 URL 通常與哥倫比亞廣播公司 (CBS)、英國廣播公司 (BBC)、ESPN 和 NBC 等合法的知名新聞機構相似。在某些情況下，這些網站使用人工智能來總結和復制他們正在模仿的網站的故事。這可能會導致奇怪的措辭和文章結構，引入事實不准確和誤導性證據。

其他黑暗人工智能網站是專門為傳播假新聞而設計的。例如，USNewsper.com 被定位為合法的美國國家新聞來源，但它一直被告是在立陶宛註冊的人工智能生成網站。該網站因散佈喬·拜登退出 2024 年美國總統大選實際上是一場騙局的虛假說法而臭名昭著。

網絡釣魚人工智能

詐騙者可以使用黑暗人工智能來完善和簡化網絡釣魚活動，其中涉及從看似合法的來源發送消息來傳播惡意軟件或欺騙受害者披露敏感信息或匯款。

網絡犯罪分子可能會利用合法的大語言模型 (LLM) 來製作詐騙電子郵件看起來更現實。儘管 ChatGPT 和其他流行的法學碩士有限制——例如內容審核過濾器、實時數據限制、有限的技術細節以及道德和法律運營政策——但可以通過仔細的措辭來繞過它們。然而，騙子也可以利用暗GPTs，功能與 ChatGPT 類似但沒有護欄的程序。

騙子還可以利用黑暗人工智能研究和目標受害者，利用人工智能快速處理大量公開信息的能力。他們可以快速從社交媒體和人物搜索網站等來源獲取這些數據，以確定誰可能是易受攻擊的目標，​​以及欺騙他們的最佳方法是什麼。

選擇目標後，他們還可以將有關他們的個人簡介上傳到黑暗 GPT 中，並使用人工智能生成令人信服的個性化網絡釣魚消息。這可能會讓詐騙者以更快的速度產生文本或電子郵件攻擊。

你有欺詐行為

人工智能欺詐是指利用黑暗人工智能操縱個人、系統或公司以獲得經濟獎勵或其他不公正的優勢。例如，欺詐者使用演員布拉德·皮特的深度偽造圖像來欺騙法國女人相信她與他有戀愛關係，並騙取了她超過 80 萬美元。

這並不是人工智能欺詐第一次利用深度造假名人進行欺騙。許多詐騙公司利用人工智能生成的名人模仿品來宣傳他們的產品，例如假貨湯姆·漢克斯宣傳牙科計劃，虛假詹妮弗·安妮斯頓面對保健品和假貨泰勒·斯威夫特支持欺詐性的 L​​e Creuset 廚具贈品。

AI還被用於投資欺詐，迫使FINRA（金融業監管局）發布對投資者的警告。例如，深度偽造名人代言和虛假公司網站導致了拉高拋售計劃，欺詐者抬高資產價格，然後在高峰時拋售，讓投資者蒙受損失。

眾所周知，人工智能欺詐者還利用黑暗人工智能進行社交媒體操縱。通過使用人工智能在 X 等平台上創建和運行數百個虛假帳戶，他們可以使詐騙看起來更可信。

人工智能黑客

黑暗人工智能最重要的用途之一就是黑客攻擊。黑客可以利用人工智能程序加速密碼破解、逃避安全系統、自動化黑客攻擊和挖掘數據。重要的是要記住，人工智能並非萬無一失，並且有多種方法可以防禦人工智能黑客攻擊。例如，擁有強大、獨特的密碼可以幫助降低密碼破解技術的風險。

暗 GPT 的示例

暗 GPT 是用於惡意目的的大型語言模型 (LLM)。他們使用一種稱為 ANI（狹義人工智能）的人工智能來創建聊天機器人。這些 GPT 通常是合法 LLM 的黑客或越獄版本，例如 ChatGPT，但在某些情況下，它們是出於惡意意圖而專門構建的。

欺詐GPT

FraudGPT 可能是最著名的暗 GPT，可在暗網上使用，並被宣傳為網絡犯罪分子的一體化解決方案。它可用於處理各種任務，例如編寫惡意軟件、欺詐消息和詐騙網頁。此外，FraudGPT 是能夠檢測洩漏和漏洞在網絡、系統和應用程序中，以及監視目標站點、市場和群體。

蠕蟲GPT

WormGPT 是一種黑暗 GPT，專注於創建惡意軟件和其他惡意代碼。它僅在暗網上可用，並且已被特別普遍進行商業電子郵件洩露 (BEC) 攻擊。 WormGPT 使用數據進行訓練旨在模仿現實世界的黑客技術，使其成為最危險的惡意軟件創建工具之一。

毒GPT

PoisonGPT 旨在成為黑暗人工智能的教育示例。 PoisonGPT 由一家法國網絡安全公司創建，旨在展示開源法學碩士注入錯誤信息的速度有多快由壞演員。

如何保護自己免受人工智能威脅

您可以通過使用強密碼和多因素身份驗證、限制您的在線狀態、檢查電子郵件和文本以及堅持使用可驗證的新聞來源來幫助保護自己免受黑暗人工智能威脅。以下是您可以採取的防禦 AI 攻擊的關鍵操作的更詳細信息：

• 謹慎溝通：在與電子郵件和短信互動之前，請花時間正確檢查它們，即使它們看起來來自朋友、家人、同事或企業。

• 仔細檢查來源：請務必確認您在網上閱讀的內容的有效性，以免陷入人工智能錯誤信息的陷阱。例如，如果您閱讀了看似重大的新聞報導，請在相信之前檢查其他知名來源是否報導了相同的事情。

• 檢查是否存在差異：如果您懷疑自己正在觀看深度偽造視頻，請密切注意麵部和頸部等細節以及音頻缺陷，以幫助確定視頻是否為假視頻。如果感覺有什麼不對勁，通常是有原因的。

• 使用強密碼：始終為您的在線帳戶使用獨特且複雜的密碼。這樣，即使一個帳戶受到黑暗 AI 密碼破解攻擊的危害，至少您的其他帳戶不會立即面臨風險。

• 啟用雙因素身份驗證：啟用雙因素身份驗證 (2FA) 為您的帳戶增加了一層額外的安全保護，有助於防止黑客即使擁有您的密碼也無法獲得訪問權限。

• 使用強大的互聯網安全措施：強大的防病毒程序可以幫助保護您的系統，並刪除在您遭受網絡釣魚攻擊或單擊虛假網站上的鏈接時可能安裝的病毒和其他惡意軟件。

• 限制您的在線存在：Deepfakes 需要源材料來開發相似性。您可以通過限制在線共享的照片和視頻的數量來降低您的肖像被盜的風險，或者至少將隱私設置應用於您的 Facebook 個人資料和其他社交媒體帳戶。

• 將在線數據保持在最低限度：嘗試限制您公開分享的信息，例如您的生日、工作場所、親密家庭等。這將限制詐騙者或黑客收集的詳細信息數量，以形成令人信服的網絡釣魚電子郵件或其他針對您的詐騙。

幫助保護自己免受黑暗人工智能的侵害

黑暗人工智能正在不斷發展，可以說使網絡威脅比以往任何時候都更具欺騙性和危險性。從深度偽造和人工智能驅動的網絡釣魚攻擊到復雜的黑客工具，網絡犯罪分子正在利用人工智能利用漏洞並操縱信息來達到其惡意目的。

下載 Avast 免費防病毒軟件以獲得保護，這是一款一體化安全解決方案，可幫助檢測和阻止詐騙、惡意軟件和網絡釣魚嘗試。