劇情簡介
ChatGPT，越來越刑了!已有不法分子將其“打扮成”年輕女孩，社交軟件上，引誘男性鉤，進而實施詐騙。事上，據(jù) Forbes 最新消息，ChatGPT 不法用途還不止于此。它不僅能編寫少山序，視鍵盤輸入信息，也能己生成勒索軟件，甚至還有人用其編寫暗網(wǎng)上品交易市場各種功能的碼。而對很多不擅長英的異國黑客，ChatGPT 也是協(xié)助生成英文釣魚網(wǎng)站絕佳從犯。安研究機構(gòu)（如 Check Point）已關(guān)注到了 ChatGPT 被用于不法行徑的問題引發(fā)很多網(wǎng)友熱議。有感慨：這還只是開始。有人提議，要自己構(gòu)建 ChatGPT 聊天機器人，與詐騙聊天機人嘮嘮，會發(fā)生什么？以，ChatGPT 是如何被“帶壞”的？ChatGPT 惡意打開方式有幾種？ChatGPT 在 2022 年 11 月剛發(fā)布時，就有不少人預(yù)測竊脂它可能被于非法網(wǎng)絡(luò)犯罪。甚至人親自下場，試驗了一用 ChatGPT 如何觸碰網(wǎng)絡(luò)犯罪紅線。構(gòu)建魚叉式網(wǎng)絡(luò)釣魚郵，到運行能接受英語命的反向 shell，ChatGPT 都能 Hold 住?！?ChatGPT 生成的釣魚郵件值得明確的是，上述停留在“假設(shè)”與“警”中。直到這兩天，IT 安全公司 Check Point 表示，他們找到了確切證據(jù)比翼通對幾個主流地下黑客社論壇的分析，調(diào)研者發(fā)：已有第一批網(wǎng)絡(luò)犯罪子使用 OpenAI 開發(fā)惡意工具，他們中甚至有人沒有代碼開發(fā)力。為證明所言不虛，研者分享了一些案例。如 2022 年 12 月 29 日的一篇帖子，它來自地下黑客論，名為《ChatGPT-作為惡意軟件的好處》。帖子作者表示，他已在嘗試用 ChatGPT 創(chuàng)建惡意軟件，隨文還分享出一段基于 Python 的竊取器的代碼。該程序會搜索 12 種常見文件類型，比如 Office 文檔、PDF 及圖片，當(dāng)發(fā)現(xiàn)特定文件后，程序會中庸們復(fù)制到 Temp 文件夾內(nèi)，壓縮并上傳到 FTP 服務(wù)器。網(wǎng)絡(luò)安全分析者還指出，番禺程發(fā)送文件過程中并未加，因此，第三方也可能得上述傳輸?shù)奈募Ｔ?子作者還分享了一段 Java 代碼，它將下載 PuTTY。這是一個常見的 SSH 和 telnet 客戶端，惡意代碼將使用 Powershell 在系統(tǒng)中秘密運行它。通過修改本，能下載任何惡意軟。值得注意的是，這位帖者是地下黑客論壇活分子，曾參與多個非法本開發(fā)，比如一個試圖過網(wǎng)絡(luò)釣魚獲得用戶敏信息的 C++ 程序。他還分享過 Android RAT 和 SpyNote 的破解版。網(wǎng)絡(luò)安全機構(gòu)調(diào)研羽山認，此人是個技術(shù)能手，篇帖子是個教程，旨在低開發(fā)能力的不法分子示利用 ChatGPT 的方法及實例。如果上述帖子是柘山術(shù)派帶壞 ChatGPT 的代表，下面一篇帖子，就是門漢利用 AI 作惡的旁證。這位名為 USDoD 的黑客發(fā)布了一個原創(chuàng)腳本長蛇特意強調(diào)這是創(chuàng)建的第一個腳本。下有人指出該代碼很像 AI 生成代碼時，他也承認絜鉤OpenAI 提供了一個“好幫手”。其能是對單個文件加密，將消息認證碼 （MAC）附在文件末尾，也能硬編碼路徑加密，并解參數(shù)文件列表。盡管上代碼可用于合法場景，是，一旦部分腳本與語問題加以調(diào)整，它就能成一個勒索軟件。該發(fā)者是一位技術(shù)不強的活分子，曾出售被盜數(shù)據(jù)訪問權(quán)，最近還共享過 InfraGard 數(shù)據(jù)庫。相比生成腳本與碼，更多不法分子專注用 ChatGPT 從事更容易上手的非法交。一篇 2022 年 12 月 31 日的帖子討論了 —— 用 ChatGPT 在暗網(wǎng)創(chuàng)建非法商品市場有多鱃魚。內(nèi)容中，涉及交易的品包括被盜賬戶、銀行、惡意軟件，甚至毒品槍械，付款方式以加密幣進行。其他地下論壇，也有相當(dāng)一部分帖子論如何利用 ChatGPT 進行詐騙的手法。有網(wǎng)西岳安全調(diào)研機構(gòu)向體表示，已有詐騙者企利用 ChatGPT 創(chuàng)建聊天 bot，模仿女孩聊天，用以低成本受害男性聊天，博取他信任，從而實施詐騙。Check Point 調(diào)研者補充道，盡管 ChatGPT 所生成的惡意軟件及代碼很基延維不可能像此前攻破愛爾衛(wèi)生系統(tǒng)的 Conti 一樣精致，但其潛在危害在于降低了新梁書違法門檻。他繼續(xù)補充，該檻不僅針對技術(shù)，對于擅長英語的各國黑客，ChatGPT 也是生成合法釣魚郵件的“絕佳具”。在釣魚郵件犯罪，AI 也可能被用于個性化生成內(nèi)容。值得一的是，在地下黑客論壇關(guān)于在灰色地帶靠 ChatGPT 獲利的討論內(nèi)容也不少。有內(nèi)容討如何用 AI 快速創(chuàng)造網(wǎng)文、電子書并銷售獲，另一部分內(nèi)容討論了 OpenAI 另一個模型 DALLE-2 生成圖片并出售的操作關(guān)于上述威脅，也有人問了問 ChatGPT 的看法。AI 認為，這類現(xiàn)象并不罕見，并出常見手法。更值得注的是，ChatGPT 在結(jié)尾很“機智”、“關(guān)”地替母公司給出一辯護說辭：值得注意的，OpenAI 本身并不對第三方濫用技術(shù)的為負責(zé)，公司已采取了關(guān)措施防止技術(shù)被用于意目的，比如出臺條款求用戶同意 —— 禁止將其技術(shù)用于非法?鳥有活動。最后問問，對濫 ChatGPT 現(xiàn)象，你有解決方案么？參鏈接：[1]https://www.forbes.com/sites/thomasbrewster/2023/01/06/chatgpt-cybercriminal-malware-female-chatbots/?sh=1f13474c5534[2]https://research.checkpoint.com/2023/opwnai-cybercriminals-starting-to-use-chatgpt/本文來自微信公眾號：子位 （ID：QbitAI），作者：詹厘山
約翰·里德利
弗雷德里克·懷斯曼
洪金寶
