淺談IBM WatsonX AI新平台


【人資e周刊】內容包含最新勞工政策解析、企業管理進修、人事聘用秘方,希望您的疑難雜症能獲得解決之道。 看電影怕白花錢?電影痴必看的熱門影評及趣聞迭事,【火行者電影精選週報】週週推薦精彩好片不踩雷!
★ 無法正常瀏覽內容,請按這裡線上閱讀
新聞  健康  udn部落格  
2023/09/28 第748期  |  訂閱/退訂  |  看歷史報份
  科技新知 淺談IBM WatsonX AI新平台
探討如何運用MLOps來持續改進GPT模型
膚質好不好一試便知,肌膚檢測有一套!
IFPI全球音樂報告出爐,2023流行音樂產業趨勢一次看!

淺談IBM WatsonX AI新平台
FIND研究員:盧建智

WatsonX為IBM即將推出的企業級人工智慧和數據平台,旨在擴大人工智慧對企業的影響,該平台主要在AI模型開發工具、數據處理優化及AI治理策略等面向,提供對應的解決方案,期望透過AI和自動化技術,協助企業打造AI加值應用服務,簡化核心業務工作流程,提升企業生產力。

技術發展背景:

IBM曾在十多年前,就創建了AI系統Watson,當時在機智問答節目「Jeopardy」中,因擊敗人類獲得冠軍而引起關注,但卻沒有帶來獲利,近期因ChatGPT應用,使得生成式AI技術獲得熱烈關注,隨著生式成AI應用逐漸普及,包含:文本摘要、對話問答、程式撰寫、圖像生成…等語言類及圖像類的應用,現在IBM試圖搭上近期AI熱潮,推出WatsonX平台,同時支援傳統機器學習及生成式AI模型建置與管理,協助企業透過AI技術優化服務流程,提升產業競爭力。

圖說一、IBM搭上近期AI熱潮,推出WatsonX平台,協助企業優化服務流程。

圖片來源:IBM

技術介紹:

IBM WatsonX AI新平台主要包含3個強大的元件:watsonx.ai、watsonx.data、watsonx.governance,協助企業可依據其業務性質,快速訓練和部署自定義的AI模型,發揮數據集的價值,進而提供預測建議與決策參考。

watsonx.ai:為企業級AI模型開發工具,支援傳統機器學習及生成式AI模型的訓練、驗證、調整和部署,在AI模型建置過程中,可使用IBM精選基礎模型套件及其合作夥伴Hugging Face的開源模型,以確保業務應用模型的可信度和效率,從而定義滿足企業需求的最佳模型,同時提供完整的SDK和API函式庫,讓企業能在很短的時間內,使用少量數據,建構符合企業需求的AI應用服務。

watsonx.data:提供安全性及可靠性的數據儲存優化管理功能,可以跨混合雲環境,透過單一入口方式取得所有數據,可快速連接到儲存和分析環境,並可透過內建的治理、安全和自動化機制,增強對數據的信任,同時在跨多個查詢引擎及資料儲存層處理時,透過將正確的工作負載與正確的引擎配對,可降低資料倉儲處理成本,使企業能夠更彈性地擴展AI工作負載及數據應用。

watsonx.governance:當AI技術應用到日常工作流程中的次數越多,就越需要主動治理來推動整個企業,做出負責任且合乎道德的決策,透過此元件進行AI生命週期治理,用來指導、管理和監控組織內的AI活動,並透過軟體自動化來識別、管理、監控和報告風險與合規性,以降低企業風險,並符合監管要求。

未來展望:

隨著生成式AI技術發展,帶動資本市場投資熱度,新創業者如雨後春筍般出現,國際大廠與新創業者皆想搶這塊市場大餅,然而各技術皆有其發展重點方向,以IBM WatsonX而言,聚焦在提供一個為企業打造的人工智慧及數據平台,幫助企業可以更輕鬆地建構AI加值應用與服務,優化企業工作流程,創造更具競爭力的優勢。

封面圖片來源:IBM官網

資料來源:

1.IBM官網,https://www.ibm.com/watson

2.pcmarket,https://www.pcmarket.com.hk/ibm-think-watsonx-ge-ai/

3.gvm,https://www.gvm.com.tw/article/102522

4.technews,https://technews.tw/2023/05/11/ibm-announces-watsonx-platform/

5.inside,https://www.inside.com.tw/article/31578-IBM-WatsonX

6.cnyes,https://news.cnyes.com/news/id/5171518

 
探討如何運用MLOps來持續改進GPT模型
FIND研究員:李啟榮

ChatGPT的問世,除了展現令人驚豔的回答能力外,卻也有AI模型架構缺乏安全性、資料不真實等隱憂,需要藉由後續的維護和改良,才能讓ChatGPT發揮應有的使命,來造福使用者。若能藉由導入MLOps來改善GPT模型源頭的資料模型和資料集,可以讓AI模型的訓練和改良,導入敏捷化策略,才能讓AI模型與時俱進、去蕪存菁。

技術發展背景

現行ChatGPT以GPT 3.5模型為核心,先準備龐大、未經分類的「訓練前資料集(Pre-training)」,再經由轉化器(Transformer)將資料集的Raw data進行反覆訓練,並基於正確答案來提升再次訓練的準確率和匹配率;最後,這些訓練出來的資料就銜接到「指引式GPT(Instruct GPT)」介面,讓訓練出來的結果結合人類語法來造樣造句,藉此將正確答案的片段,拼湊為完整的對話語句,才會使GPT成為具備模擬真人對話的ChatGPT。

圖 1:ChatGPT運作簡圖

資料來源: (Cuofano, 2023)

技術介紹與應用現況

隨著GPT的資料輸入量不斷膨脹,ChatGPT也面臨到答題失準、失控的狀況;有鑑於此,為逐步糾正ChatGPT的錯誤答案,早期採用人工評分(點讚、倒噓)的方式,提升正確答案的準確度和匹配度。

若要從源頭資料集來強化GPT的品質和準確度,可藉由導入MLOps的方法,在最源頭的ML循環,建立資料模型、打好基礎;接著再進入Dev循環,進行資料模型的正確性測試,同時採CI/CD管線化部署;在部署上線後,就進入對外運作的Ops循環,除了持續監控資料模型和答案之間的匹配結果外,也能依據使用者意見反饋,來協助資料科學家改良資料模型的品質。

圖 2:MLOps運作簡圖

資料來源: (Khomich, 2022)

未來展望/挑戰

MLOps除了可以用自動化測試、自動化部署的方式,降低人工調校GPT資料模型的麻煩之外,也能夠因應日新月異的最新資料、求新求變的客戶需求,讓資料模型和資料集,能時時自我調整、自我校正。

近期,隨著最新版GPT-4上路,MLOps可藉由此一契機嘗試與GPT-4整合,以先進的開發策略搭配全新的AI模型訓練方式,來提高AI模型的品質,強化AI模型不斷追求快、狠、準的回答速度和準度。

圖片來源:123RF

參考資料:

1.Chauhan, A. (2021, October 19). MLOps: Basic Standard Principles. Retrieved from Towards AI: https://pub.towardsai.net/devops-e2b28176724d

2.Cuofano, G. (2023, February 24). How Does ChatGPT Work? Retrieved from FourWeekMBA: https://fourweekmba.com/how-does-chatgpt-work/

3.Khomich, A. (2022, April 11). Why Machine Learning Solutions are Difficult to Implement without Machine Learning Operations? Retrieved from Product Coalition: https://productcoalition.com/why-machine-learning-solutions-are-difficult-to-implement-without-machine-learning-operations-674385693733

 
膚質好不好一試便知,肌膚檢測有一套!
FIND研究員:曾雅鈴 面對百貨公司專櫃、開架門市琳瑯滿目的保養品,總是讓人「選擇困難症」大發作,即使爬遍網路上的保養分享文,仍舊不確定哪個保養品是自己的蜜糖還是毒藥。化妝台上的瓶瓶罐罐,有的針對美白、有的針對保濕、有的針對抗老等等 ...
 
IFPI全球音樂報告出爐,2023流行音樂產業趨勢一次看!
FIND研究員:李盈瑩 【IFPI公布最新全球音樂報告:2022年全球音樂收入成長9.0%】 國際唱片業協會(IFPI)近日公布2022年全球音樂報告,報告中顯示2022年在付費訂閱串流音樂成長的推動下,全球音樂市場的收入提升了9個百分比,總收入為262億美元,又以串流音樂為收入比例最大宗 ...
 
科技新貴逆轉肝纖維化 護肝方法報你知
維持良好生活習慣、定期檢查肝臟狀況是保肝的不二之道,一旦發現有肝纖維化、肝硬化或肝癌的情況,也不要放棄,反而要更積極與醫護人員配合,找出最適當治療方式,才能讓肝臟長長久久,不讓人生由彩色變黑白。

in good time不是良辰吉時
上周剛剛交出一個企劃案,很緊張,一直在等英國老闆批准。過不久,老闆回答:"I 'll tell you in good time."這到底是什麼意思?難道老外做事情,也要挑一個好時間嗎?
 
本電子報著作權均屬「聯合線上公司」或授權「聯合線上公司」使用之合法權利人所有,
禁止未經授權轉載或節錄。若對電子報內容有任何疑問或要求轉載授權,請【
聯絡我們】。
  免費電子報 | 著作權聲明 | 隱私權聲明 | 聯絡我們