“ Vibe Hacking”迫使聊天機器人為網絡犯罪分子工作

顯然，當網絡犯罪分子開始時，對AI消費者的工具的潛在濫用引起了人們的關注，他們能夠欺騙聊天機器人進行編碼，以便他們可以在生產有害計劃的生產中提出它們。

所謂的“ tabtal hacking”是一種更積極的“編碼氛圍”中的武器，大概是那些沒有豐富經驗的人可以在網絡犯罪美國公司領域實現進化的人。

該實驗室的Claude產品與最大的聊天靴競爭Openai的Chatgpt競爭，該報告在周三發布的報告中點燃了“ Claubresiden（Claubresiden（Claubresiden）（在短時間內，Claubresiden（claubresiden）（Claubresiden）（Claubresiden（claubresiden），Claubresiden（其Claubresiden（該claube）代碼在短時間內進行了幾個國際用途。”

Anthropic說，編程聊天機器人是為了幫助進行上個月在政府，醫療保健，急診服務和宗教機構中至少“驚奇”至少17個不同組織的攻擊。 ”

從那以後，攻擊者被禁止擬人化。

在此之前，他們能夠使用Claude代碼來創建收集個人數據，醫療記錄和輸入數據的工具，並幫助發送了贖回要求，為500,000美元。

“眾所周知的安全和安全的複雜措施不能阻止濫用。

這種確定的案件證實了從出現廣泛生成工具的那一刻起困擾網絡安全行業的擔憂，並且遠非局限於人類。

“如今，網絡犯罪分子與更廣泛的用戶相同的方式採用了AI，” Rodrig Le Bayon說。

逃避擔保

像Anpropic一樣，六月的OpenAI被Chatgpt幫助用戶開發有害軟件時，這通常被稱為惡意程序。

為人工智能的聊天機器人提供聊天機器人的模型包含保證，可以阻止用戶吸引他們參加非法活動。

但是，有些策略可以允許“零知識威脅零知識”來提取他們從工具中攻擊系統所需的內容。

3月，他宣布，他找到了為製作代碼生產的聊天機器人的設備，這通常會違反其內置限制。

該方法包括說服生成的AI，因為他參加了一個“詳細的虛構世界”，其中惡意的創建被視為一種藝術的形式，並且聽起來有一個聊天的聊天來扮演其中一個角色的角色並創建可以竊取人密碼的工具。

Simonovac說：“我在網絡安全領域有10年的經驗，但我不是惡意軟件的開發人員。這是我檢查當前LLM邊界的方式。”

他的嘗試遭到了Google Gemini和Claude的Claude的拒絕，但內置在Catgpt，Charten Chatt Deepseek和Microsoft的Fopilot中。

將來，這種旁路路徑意味著甚至沒有代碼“對組織構成巨大威脅，因為現在他們可以……沒有技能，開發惡意軟件，” Simonovac說。

來自奧蘭治的勒·巴約（Le Bayon）預測，這些工具可能“增加網絡犯罪的受害者人數”，幫助攻擊者製造更多，而不是創造新的黑客人群。

他說：“我們不會看到聊天框直接創建的非常困難的代碼。”

Le Bayon補充說，越來越多的生成工具被用作生成工具，“他們的創建者正在努力分析使用數據”，這使他們可以“更好地檢測到將來的惡意使用”聊天機器人。

©2025 AFP