「CoSAI」人工智慧安全聯盟成立 全球科技巨頭共推AI安全標準

  •  2024-07-21

「CoSAI」人工智慧安全聯盟成立 全球科技巨頭共推AI安全標準 7

CNEWS匯流新聞網記者王佐銘/綜合報導

在人工智慧技術迅猛發展的背景下,全球領先的科技企業宣布共同成立「CoSAI」人工智慧安全聯盟,以提升AI技術的安全性和責任感。此次聯盟的創立標誌著人工智慧領域的一次重大進步,旨在解決AI技術所面臨的各種潛在風險。

「CoSAI」的創始成員包括Google、亞馬遜、Anthropic、Cisco、IBM、Intel、微軟、NVIDIA、OpenAI、PayPal、Wiz、Chainguard、GenLab及Cohere等業者。此舉建立在Google去年提出的人工智慧安全框架「SAIF」的基礎之上,並致力於推動人工智慧的更安全、負責的發展。

推動安全AI的核心目標

「CoSAI」將專注於改善人工智慧的潛在風險,包括防止模型被盜用或濫用,避免惡意資料影響模型訓練準確性,並防範惡意指令輸入(Prompt Injection)對模型輸出結果的影響。聯盟的工作重點包括制訂人工智慧系統軟體供應鏈的安全規範,並確保AI系統以安全可靠的軟體和資料建立。

全面規範與評估系統

聯盟計畫透過建立開源、標準化的框架與工具,幫助開發者創建更安全的人工智慧系統。同時,「CoSAI」將設置保障措施,以識別和應對各種人工智慧安全威脅。為確保系統的安全使用,聯盟還將規範如何開發AI系統,並透過評估系統幫助開發者評估其系統的安全性。

組織架構與推進

「CoSAI」將由專案管理委員會協助推進和管理專案發展。學界與業界的人工智慧專家將組成技術指導委員會,負責對聯盟工作的監督和指導。

此次「CoSAI」聯盟的成立,為全球人工智慧技術的安全發展提供了新的動力和方向,預期將對未來AI技術的應用和發展產生深遠影響。

《更多CNEWS匯流新聞網報導》

國會擴權法案暫時擋下 許智傑:對國民黨與民眾黨是警惕

指教育局「蓋牌」幼兒園性侵案 林延鳳:蔣萬安應向社會大眾道歉

【文章轉載請註明出處】