軍用AI將導入SBOM概念,溯源軟體強化安全與效率


【東寫西讀電子報】摘錄《好讀周報》精彩話題,以推廣閱讀與寫作為核心內容,讓您掌握每周最新內容! 【聯安醫週刊】提供健康新知、飲食營養等內容,以淺顯易懂的方式和大家輕鬆聊健康,落實生活中的健康美學。
★ 無法正常瀏覽內容,請按這裡線上閱讀
新聞  健康  udn部落格  
2024/09/19 第797期  |  訂閱/退訂  |  看歷史報份
  科技新知 軍用AI將導入SBOM概念,溯源軟體強化安全與效率
生成式AI蓬勃發展,帶動資料中心容量和頻寬大量擴充之需求
台灣科技大廠在智慧醫療領域布局之初探
藝術創作者的曙光,Glaze防止生成式AI剽竊原創作者心血

軍用AI將導入SBOM概念,溯源軟體強化安全與效率
FIND研究員:李啟榮

軟體安全足以動搖國本,連美國軍方都開始重視「軟體成分清單(Software Bill of Materials,SBOM)」的重要性,希望從源頭把關每個軟體組成和元件的安全性,減少漏洞和風險暴露而被駭客利用。另外,隨著美國與中國在「生成式人工智慧(Generative AI)」的軍備競賽愈演愈烈,美國陸軍希望在軍用AI的開發上,導入SBOM的概念,揭露軟體成分,以利與美軍後勤體系進一步整合。

【技術發展背景】

美國陸軍採購後勤技術部(Army for Acquisition, Logistics, and Technology)首席副部長楊邦(Young Bang)有感於美軍逐步導入人工智慧,作為武器控制、部隊通訊、指揮決策的關鍵角色,以SBOM為靈感,提出了配合美國陸軍採購需求的「AI BOM(AI成份清單)」的倡議,稱作「Project Linchpin」。

圖 1 美國陸軍採購後勤技術部 首席副部長 楊邦

資料來源: (Edwards, 2023)

楊邦接著表示,AI成份清單需要將AI引擎的演算法、參數設定、資料集(Dataset)等成分揭露出來,來預防木馬程式潛伏、資料集下毒(Data poisoning)等風險,讓AI所使用的提示詞(Prompt)避免產生意料之外的結果。

【技術介紹與應用現況】

AI BOM就跟SBOM一樣,內容清單要交代AI模型的摘要資訊、模型架構、預期用途和注意事項 (Mor-Ofek, 2024)。包括:

模型摘要資訊:模型名稱、模型類別、模型版本號、外連函式庫、模型開發者名稱、模型簽署證明(Attestation)

模型架構:前代繼承模型(Parent model)、基準模型(Base model)、模型架構和模型家族、軟體和硬體、下載函式庫、資料集、輸入輸出端

模型用途:預期用途說明、禁止使用之用途說明、例外(非預期且非禁止)用途說明

注意事項:AI模型倫理道德使用限制、AI模型使用對環境之影響(例:碳排、能耗)

AI BOM的理念雖然立意良好,但在要付諸實行之前卻遇上國防承包商的反彈,怕有機密疑慮。因此,「AI BOM」此一概念得做出調整、改弦更張,預計將改為「概要卡(Summary card)」的方式,僅列舉非產業敏感項目,來評斷AI業者自行提出的公開資料,是否值得被美軍採用 (Demarest, 2024)。

【未來展望/挑戰】

AI BOM的概念,起初是美軍針對中國藉由AI軟硬體紅色供應鏈,將生成式AI武器化作出的回應,藉由讓生成式AI用途透明化,讓AI更容易被信任和掌握;但在要付諸實行的過程中,卻因為生成式AI的部分技術細節仍有機敏考量,而不如SBOM那樣地順利推廣並被採納。

在生成式AI的導入過程中,往往會遇到AI演算法透明化、個資隱私、技術機密等多方面折衷與妥協,若不同的生成式AI相關應用,要串接成完整的AI BOM,勢必取得相關各方的通力合作,以及來自業主和使用者的信任,才有機會實現生成式AI的安全、透明及高效率。

封面圖片來源:123RF

參考資料來源:

1.Demarest, C. (2023, June 1). US Army may ask defense industry to disclose AI algorithms. Retrieved from Defense News: https://www.defensenews.com/artificial-intelligence/2023/05/31/us-army-may-ask-defense-industry-to-disclose-ai-algorithms/

2.Demarest, C. (2024, Apr 23). Army may swap AI bill of materials for simpler 'baseball cards'. Retrieved from C4ISRnet: https://www.c4isrnet.com/artificial-intelligence/2024/04/23/army-may-swap-ai-bill-of-materials-for-simpler-baseball-cards/

3.Edwards, J. (2023, June 1). Young Bang: Army Eyes 'Bill of Materials' for AI Algorithms. Retrieved from ExecutiveGov: https://executivegov.com/2023/06/young-bang-army-eyes-bill-of-materials-for-ai-algorithms/

4.Mor-Ofek, D. (2024, March 15). It's Time to Talk About AI/ML BOM (Artificial Intelligence Bill of Materials) And Vulnerability Management. Retrieved from C2A Security: https://c2a-sec.com/its-time-to-talk-about-ai-ml-bom-artificial-intelligence-bill-of-materials-and-vulnerability-management/

5.Pomerleau, M. (2023, May 25). Army looking at the possibility of 'AI BOMs'. Retrieved from DefenseScoop: https://defensescoop.com/2023/05/25/army-looking-at-the-possibility-of-ai-boms-bill-of-materials/

6.Underwood, K. (2023, May 25). S. Army Is Considering AI Bill of Materials. Retrieved from AFCEA International: https://www.afcea.org/signal-media/cyber-edge/us-army-considering-ai-bill-materials

 
生成式AI蓬勃發展,帶動資料中心容量和頻寬大量擴充之需求
FIND研究員:李啟榮

有鑑於生成式人工智慧(Genrative AI)模型不斷進化,使得資料產出量加速膨脹,生成式AI依存的資料中心,除了在運算能量、能源消耗大幅度成長外,容量和頻寬連帶有大量擴充的需求,來支持生成式AI使用者不斷成長的創造力和生產力。

趨勢發展背景

生成式AI服務的經典應用,如蘋果Siri、亞馬遜Alexa、GPT-3.5等,都需要藉由雲端的資料中心進行後台運算,再回傳到使用者持有的終端行動裝置上;後隨著生成式AI被激發出自動寫程式、自動繪圖等潛能之後,伴隨著資料量的成長,驅使資料中心運算能力和容量也需連帶成長。

值得一提的是,資料中心的聯外頻寬連帶影響資料中心和終端裝置之間銜接的流暢度,若頻寬不足將會影響生成式AI的運算能量和使用體驗。主打高頻寬、低延遲的5G行動網路,在問世一段時間後,旋即遇上生成式AI浪潮衝擊,挑戰著5G行動網路是否能支持頻寬上限,也迫使5G網路依存的資料中心和基礎設施必須比以往採取更快、更早的步調,讓頻寬和容量同步成長。

產業趨勢說明

依據IDC Global StorageSphere 2023報告指出(Rydning, 2023),全球資料中心的總容量預估,從2023年的10.1ZB(101億TB),預估在2027年成長為21.0ZB(210億TB),年均複合成長率(CAGR)為18.5%。

另一方面,依據市調機構Dell'Oro Group的資料(Boujelbene, 2024)顯示,從2020至2022年的網路交換器頻寬流量分布,推測從2023至2027年間,因應生成式AI使用量成長的頻寬流量分布演變:包括2020年以100至200Gbps的容量為主;2023年以200至400Gpbs容量為主,並開始有較大容量的800Gbps出現;而2027年則以800至1600Gbps容量為主、400Gbps則減少到10%以下。

圖 1 因應生成式AI流量成長,帶動資料中心頻寬連帶成長

資料來源: (Boujelbene, 2024)

未來展望/挑戰

在5G網路逐漸無法應付生成式AI使用量的急速成長下,幸虧隨著晶片製程的進步,使行動裝置具備了一定比重的運算能量,來實現生成式AI的邊緣運算,於裝置端先期處理部分較為簡單的運算能量,以減少此一部分資料中心和基礎設施的容量和頻寬負載。

近年,隨著永續性(Sustainability)意識的增長,資料中心也要加入節能減碳設計,資料中心主機內的AI晶片製程,除了追求更高運算效率之外,也要追求更低能耗、更低發熱,以期在兼顧節能減碳需求的前提下,穩定地朝更大的容量和頻寬向前邁進,讓生成式AI使用者繼續享受到大容量、大頻寬的即時運算優勢。

封面圖片來源:123RF

參考資料來源:

1.Boujelbene, S. (2024, January 10). Exploring the Data Center Switch and AI Networks Markets Landscape in 2024. Retrieved from Dell'Oro Group: https://www.delloro.com/exploring-the-data-center-switch-and-ai-networks-markets-landscape-in-2024/

2.Rasheed, A. (2024, January 8). AI Workloads Put Data Center Performance to the Test. Retrieved from Spirent: https://www.spirent.com/blogs/ai-workloads-put-data-center-performance-to-the-test

3.Steele, K. (2024, January 31). Growth of AI creates unprecedented demand for global data centers. Retrieved from JLL: https://www.jll.ca/en/newsroom/growth-of-ai-creates-unprecedented-demand-for-global-data-centers

 
台灣科技大廠在智慧醫療領域布局之初探
FIND研究員:吳芊昱、王善惠 根據世界衛生組織(WHO)定義,智慧醫療是透過資通訊技術(ICT),以達成促進醫療保健、提高患者照護品質、可及性的創新方式。隨著科技產業的技術日新月異,現今高速發展的人工智慧AI、大數據、物聯網、醫療資料串連、基因體學等領域,也在醫療場域颳起旋風。 ...
 
藝術創作者的曙光,Glaze防止生成式AI剽竊原創作者心血
FIND研究員:簡立婷 生成式AI技術不斷進化,以原作風格、類型等為依據,進行作品再製生成甚至超越原作的案例時有所聞。然而若在未來,每一位藝術創作者的心血結晶,都有機會被放上公共素材平台 ...
 
離婚財產怎分、對方身家如何查、保險能分嗎?一文全看懂
有工作的職業婦女至少還有在社會的立足空間,相較於60歲以上的家庭主婦,已脫鉤社會太久,往往已喪失工作技能,離婚很可能導致她們生活陷入困境。房子往往佔台灣一般家庭中大部分的資產,如果登記女方名字或是共同登記相對都較有保障,比較不怕直接脫產,或是刻意不分,這時候就需要法律的保障,當然即便脫產也有方式可以追回屬於自己的一部分。

Class and Accent 階級和口音
你所表達的話與想法固然重要,但表達時的聲音也一樣重要。沒錯,世界上仍有人會先判斷你的口音,然後才考慮你說的話,而你甚至可能也有自己的偏見。在不同的情況中能使用不同的口音,或許能幫助人們避免受到歧視,但比較好的做法是,大家要認清自身不合理的偏見,並抗拒這種偏見。
 
本電子報著作權均屬「聯合線上公司」或授權「聯合線上公司」使用之合法權利人所有,
禁止未經授權轉載或節錄。若對電子報內容有任何疑問或要求轉載授權,請【
聯絡我們】。
  免費電子報 | 著作權聲明 | 隱私權聲明 | 聯絡我們