「防止中國AI文化侵略」台灣第一個繁體中文大語言模型TAIDE，能做什麼？

「以台灣民主化的程度，抖音都不能禁止，也不可能禁止使用文心一言，如果台灣的年輕人都像使用抖音一樣使用文心一言，這問題會很嚴重，」李育杰說。

在危機感驅使下，李育杰迅速提出開發台灣LLM的研究計劃，國科會主委吳政忠於去年1月底收到後，也快馬加鞭，從因應必要急迫科技需求的科技會報跨部會署科發基金中，撥出兩億多預算，任務是在今年3月前打造出繁體中文對話引擎TAIDE，以及建立人工智慧評測中心。

「我們可能無法第一時間抗衡大引擎，但有自己的對話引擎，至少大家有選擇，」李育杰期許。

TAIDE計劃主持人李育杰指出，TAIDE除了爭取繁中話語權，也在過程中訓練出一批AI人才。（謝佩穎攝）

打造AI國家隊，有多困難？

儘管預算到位，TAIDE作為國家隊，卻沒有想像中那麼容易。

參與TAIDE計劃的陽明交通大學資訊學院副院長吳毅成坦言，台灣在AI領域的發展，從硬體、經驗到經費，「幾乎什麼都缺。」

廣告

因此國家高速網路與計算中心的超級電腦中，有1028顆V100 GPU，在不影響對外服務的前提下，從一開始就被列在計劃裡，由於單台伺服器無法支援足夠的算力，國網中心首次將多台伺服器串接，並在去年11月購入9顆輝達的H100 GPU。

然而，最大挑戰至今仍無法完全解決，李育杰指出，「訓練資料取得實在太難了。」

大語言模型需要透過大量的資料訓練，為了避免侵權，TAIDE的資料是來自15個教育部、國科會等政府單位的10236 MB資料。其中，超過七成來自《中央社》的中文新聞網，該資料庫擁有400萬則新聞。

「至少《中央社》聳動標題比較少，」李育杰說，因此TAIDE的口吻就像專業、嚴謹的助理。

TAIDE是台灣第一個可信賴人工智慧應用的範例。（謝佩穎攝）

「但是，TAIDE不是台版ChatGPT，」李育杰強調，相較於ChatGPT擁有1750億參數，TAIDE是直接在Meta推出的開源語言模型Llama 2原型基礎上，進一步以繁體中文資料訓練出參數量為70億的模型。巨大的資料量差距，導致理解與溝通能力當然明顯受限。

廣告

一名資深AI專家因此認為，受限於投入的資源，TAIDE嚴格來說，只能算是Llama 2的繁體中文應用，但其他國家的AI模型時，都是投入大把時間金錢，從零開始做基礎演算法。「如果以國家力量做，投兩、三億都太少了，30億還差不多，」他說。

TAIDE可以被調教成專業工具

李育杰解釋，可以將TAIDE理解成一個會說繁體中文的初步模型，各單位將這個模型帶回去後，再根據需求調教成擅長特定領域的工具。過程中產生的資料也只會存在各自的硬體中，不會回傳給OpenAI等大公司。

去年底開始，已陸續有台灣公司、學研單位與TAIDE簽訂合作，中興大學的「神農GPT」就是一個案例。這項由中興大學資訊工程系副教授范耀中帶領學生一起做的語言模型，能夠針對台灣特有農業知識問題進行回答。去年12月，范耀中將引擎從ChatGPT換成了TAIDE。

「雖然引入TAIDE後需要花個幾小時做訓練，不像ChatGPT馬上可以用，但我們發現系統的中文準確度明顯提升了，」他分享。

廣告

范耀中舉例，ChatGPT就像個從派遣公司找來、十項全能但鐘點費用昂貴的華僑員工，不僅人才把關受制於人，還要擔心他把祕密透露給派遣公司；相較起來，TAIDE是個受過基本教育的台灣工讀生。

「只是要請人幫忙整理資料而已，」他說，「殺雞焉用牛刀，大部份公司、研究室需要的是小模型，在某些任務表現好即可。」

小模型也更節省成本，過去在神農GPT上的每個問答，都要付給OpenAI大約一到兩元，改用TAIDE後，需要負擔的只有研究室兩台電腦的電費。

台灣AI人才的磨刀石

「有些人會覺得重點是為了政治或文化層面，」吳毅成說，「但我覺得，計劃跑一圈下來，對台灣更重要的意義是讓AI培養環境更上一層樓，」包括算力、人才都能透過這次演習充分盤點。

未來，台灣能不能真正擁有一個從基礎能力開始訓練的模型？李育杰提出關鍵問題，那就是訓練資料要足夠，且必須有比現在更便宜、節能的方式。

廣告

「這次學到的經驗，對未來相關研究或創業，都有相當大的幫助，」李育杰期待，「要是有機會直接底層基礎運算，對台灣的AI影響會很正面，但時機要成熟。」

TAIDE計劃集結國家實驗研究院、數發部、中研院、各大學等至少16個單位，為台灣的AI養成，點亮第一團篝火。（責任編輯：洪家寧）