隨著各國政府和機構對資安問題的⽇益重視,離線型 AI 的發展逐漸浮上檯⾯,墨⽯資本旗下玉山 AI(Yushan AI)開發離線版 LLM(⼤語⾔模型),具離線操作、手機直接跑、去中心化、垂直領域與私有等特性,獲得微軟投資 2,000 萬美元。
美國眾議院⾏政長 Catherine Szpindor 要求美國國會,移除微軟 Copilot ⼈⼯智慧服務,充分反映各國政府在資訊安全⽅⾯的共同關注,因為美國網絡安全辦公室認定,Copilot 服務可能導致內部資訊外洩⾄未獲批准的雲端服務,因此決定對其 PC 設備採取必要限制措施。
Yushan AI 對此提供⼀個全⾯的解決⽅案,包括通⽤的 7b(70 億參數)⼤語⾔模型,並加強對繁體中⽂及其它亞洲國家的語⾔的訓練,並正在訓練 1.5b、3b、13b 等語⾔模型,以利⽤於不同的硬體設備與場景,使⽤離線 AI 技術來處理敏感資訊,徹底解決因連網⽽導致資訊外洩的風險。
Yushan AI 的解決⽅案可以離線運⾏,包括⼿機(如 iPhone 或 Android)、筆電、Desktop 或私⼈區域網絡的伺服器在斷網的環境中運⾏,並提供⾼度的靈活性、可靠性和可擴展性,解決政府、⾦融機構、醫療院所導入 AI 服務時資訊外洩問題。
Yushan AI 暨墨⽯資本董事長張義發表⽰,這個解決⽅案能確保敏感資訊的安全,並提供⾼效率和準確性,使其成為防⽌資訊外洩的理想選擇,解決美國眾議院內部資訊外洩的問題,還可以為其他國家的政府和機構提供安全保障,確保其敏感資訊不受外部威脅的影響。
這次合作有望為 Yushan AI 取得 Microsoft Azure 雲算⼒的解決⽅案,並進⼀步鞏固微軟在 AI 領域的布局與地位,這是微軟繼投資歐洲 Mistral 開源 LLM 後,奠定 Mistral 為歐洲 OpenAI 的地位,再次補強亞洲地區 LLM ⼤模型,並提供離線 AI 的選擇。
美國微軟投資 Yushan AI 的 2000 萬美元,預計將被⽤來購買更多的算⼒,以訓練各種不同參數的離線 Yushan AI ⼤語⾔模型,這⼀舉措將幫助 Yushan AI 加速其離線⼤語⾔模型的研發和優化,以滿⾜不同應⽤場景的需求。
(首圖來源:Yushan AI)
從這裡可透過《Google 新聞》追蹤 TechNews