印度政府和私營部門實體現在正在透過 Project Glasswing 利用 Anthropic 的 Mythos AI 部分來加強網路安全並檢測關鍵軟體漏洞，因為 Anthropic 對人工智慧的快速發展及其潛在的社會風險發出了警告。
重點
- 印度政府和私營部門透過 Project Glasswing 提供了對 Mythos AI 模型的存取。
- Glasswing 專案是一項先進的人工智慧網路安全計劃，旨在識別關鍵基礎設施中的軟體漏洞。
- 該計劃已在全球擴展，目前已涵蓋 15 個以上國家的另外 150 個組織，涉及電力、水和衛生等領域。
- Anthropic也敦促人工智慧實驗室考慮放慢人工智慧的發展，因為擔心系統會加速自身的發展，超越人類的監督，從而帶來社會風險。
知情人士透露，作為 Glasswing 計畫最新擴展的一部分，印度政府機構和私人公司等少數組織已獲得人工智慧模型 Mythos 的使用權。
當被問及獲得該模型存取權限的印度實體數量時，消息人士表示，這個數字只有個位數。發送給 Anthropica 的電子郵件沒有立即得到回應。消息人士稱，印度實體的參與涉及政府和私營部門，但沒有透露具體名稱。
Anthropic 的 Glasswing 計畫在全球擴張
Glasswing 專案被描述為“為世界上最重要的軟體而共同努力”，是一項人道主義舉措，旨在透過為特定組織提供 Cloud Mythos Preview 的訪問權限來加強網路安全，Cloud Mythos Preview 是一種可以理解軟體漏洞的高級人工智慧模型。
自從該計劃於 4 月在全球宣布以來，大約 50 個合作夥伴最初獲得了該模型的存取權限，Anthropic 表示，他們在程式碼庫中發現了 10,000 多個高或嚴重嚴重性缺陷。
本週早些時候，Anthropic 宣布對 Glasswing 計畫進行重大擴展，擴展到超過 15 個國家的約 150 個組織。新群體包括電力、水、衛生、通訊和硬體等領域的關鍵基礎設施工人。
該公司在 6 月 2 日的聲明中表示：“許多新合作夥伴都是供應商，即維護程式碼庫的公司或非營利組織，這些程式碼庫由世界各地許多其他組織（包括政府）共享。”
該人權組織表示，這些合作夥伴擔心，一次成功的網路攻擊可能會產生深遠的影響，在某些情況下可能會影響超過 10 萬人。簡而言之，該方法預計將加速組織參與檢測數位基礎設施中的安全漏洞、測試防禦和調整易受攻擊的軟體系統。
人工智慧發展和平與社會風險
同時，Anthropic 在他的上一篇部落格中敦促人工智慧實驗室考慮控制人工智慧的發展速度，並警告說，能力日益增強的系統可能很快就會獲得加速進步的能力，從而超越人類的監督並造成更大的社會風險。
該公司在題為「當人工智慧建構自身時」的部落格中表示，「我們認為，可以選擇推遲或暫時推遲人工智慧發展的極限，以實施社會結構和夜間研究，以保持技術進步，」隨著先進人工智慧模型進化的速度。
免責聲明：新聞內容來源於所述來源。標題、摘要、章節標題、圖像是使用人工智慧/演算法自動生成或選擇的，可能並不總是完全準確。建議讀者參考全文以了解完整背景。
