完全開放，透明，多語言模型

7月，EPFL，Eth Zurich和CSC宣布了共同的倡議，以創建大型語言模型（LLM）。現在，該模型可以使用，並為未來應用程序（例如聊天機器人，翻譯系統或教育工具工具）提供開發人員和組織的構建基礎。

該模型稱為Apertus -Latin用於“打開” – 照明其區別函數：整個開發過程，包括其體系結構，模型權重，數據和食譜，公開可用並已完全記錄。

研究人員，專業人士和經驗豐富的人工智能愛好者可以通過瑞士科姆的戰略合作夥伴訪問該模型，或者從擁抱面（用於模型和AI應用程序的平台上加載），並將其擴展為自己的項目。

Apertus有兩種尺寸可自由使用 – 量為80億和700億個參數，這不太適合個人使用。這兩種模型均在開源許可下生產，允許在教育和研究中使用以及廣泛的社會和商業應用。

一個完全開源的

作為一種完全開放的語言模型，Apertus允許研究人員，專業人士和愛好者依靠該模型並適應其特定需求，並檢查教育過程的任何部分。這將Apertus與僅使選定組件可用的模型區分開。

EPFL機器學習教授，該計劃的瑞士領先委員會成員Martin Dzhaggi說：“通過此發布，我們努力為如何開發可靠，主權和包容性的AI模型提供計劃。”該模型將定期由開發人員團隊更新，其中包括專業工程師以及來自CSCS，Eth Zurich和EPFL的大量研究人員。

創新驅動程序

多虧了開放式方法，EPFL，Eth Zurich和CSC到達了一個新領域。 “ Apertus並不是傳統的將技術從研究傳輸到產品的案例。相反，我們將其視為創新的驅動力和手段，可以加強AI作為研究，社會和工業的一部分，” ETH Zurich的CSCS主任Thomas Schult說。根據其傳統，EPFL，ETH Zurich和CSC提供了基本技術和基礎設施，以刺激整個經濟的創新。

用1000多種語言使用100萬億英語的令牌 – 40％的數據不是英語概念，其中包括迄今為止在LLM中未得到支持的許多語言，例如瑞士德語，羅曼什等。

“ Apertus是為公共物品而建造的。它位於此規模上的少數完全開放的LLM之中，是第一個體現多語言主義，透明度和合規性作為基本設計原則的同類產品，” LLM項目的技術領導者Imanol Slag說，Zurich的研究人員是Imanol Slag。

“瑞士康姆（Swisscom）為他是最早在我們的主權瑞士AI平台中使用大型語言展開這種創新模式的人之一而感到自豪。作為AI Swiss倡議的戰略合作夥伴，我們支持瑞士（AI）（AI）週期間的Apertus Access。

可訪問性

雖然Apertus設置對於專業人士和經驗豐富的用戶很簡單，但實際使用需要其他組件，例如服務器，雲基礎架構或特定的用戶界面。即將到來的瑞士周將是開發人員嘗試Apertus，檢查其功能並提供改進未來版本的反饋的第一個機會。

Swisscom將為Hakaton參與者提供分配的界面，這將促進與模型的相互作用。迄今為止，Swisscom客戶將能夠通過瑞士瑞士瑞士瑞士瑞士平台訪問Apertus模型。

此外，對於瑞士以外的人 人工智能輸出的公共公用事業 Apertus將作為公共AI全球運動的一部分提供。 “目前，Apertus是AI的主要公共模式：由國家機構為公共利益而創建的模型。這是我們最好的證據，即AI可以是一種公共基礎設施，例如高速公路，水或電力，” Joshua Tan說，伴隨公共戒菸AI。

透明度和遵守

Apertus在性質上具有透明度的開發，從而確保了學習過程的完全再現。與模型一起，研究小組發表了許多資源：複雜文檔和學習過程的源代碼以及所使用的數據集，該模型的重量（包括中間檢查點）根據許可證和開源代碼發布，這也允許使用商業用途。可以通過擁抱者獲得條件和條件。

根據歐盟AI法律，適當考慮有關瑞士數據保護法，瑞士有關版權法和透明義務的法律的適當考慮，並開發了Apertus。特別關注數據完整性和道德標準：教育建設僅基於公開可用的數據。它被過濾以尊重機器從網站（甚至是追溯）的可讀請求，以及在培訓開始之前刪除個人數據和其他不良內容。

旅行的開始

“ Apertus證明了生成性AI既有強大又開放，” EPFL自然語言處理實驗室的教授兼負責人Antoine Bosslut和瑞士自然的合著者。

“ Apertus的發布並不是最後一步，這是旅程的開始，長期義務開放，值得信任和AI的主權資金，為全世界的公共利益。我們很高興看到開發人員如何與瑞士{AI} Hakov中的模型互動。

未來版本旨在擴大模型家族，提高法律，氣候，醫療保健和教育等領域的適應性效率和研究。預計他們還將整合額外的機會，同時保持透明度的強大標準。