Zen-GPT

提案人 Chiwei Che
第二梯(2024/02/21 - 2024/03/17)

本提案在於善用台灣本土興盛與豐富的佛教中華禪經典文物,包括已存的數位保存歷代大師的開示與對話,以及正在與未來在各地方道場的資料收集,將他們用在訓練,用改革性的微調工程或算法,產生並持續提供一個賦予佛系特色的台灣禪師級的開源語言大模型,並開發多重前端應用給大衆,包括問答,協助閲讀經文,提供地方口語的解釋。這些應用將使用在手機與智慧音箱,並以開源的方式達到普及目的。

02. 提案代表人

車繼偉/Chiwei Che

03. 提案代表人的 g0v Slack 帳號名稱與成員識別碼

Chiwei Che (D06CK2R1FQX)

06. 專案於 g0v slack 的頻道名稱

zen-gpt

07. 提案團隊簡介及與主題的相關性

Chiwei Che: 專案經理,發起人。微軟首席產品經理,鴻海資深處長,自然語言處理。
Justin Wang:資料科學家,微軟首席Data Scientist。大數據與算法。
Eric Yeh:消費者產品與前端體驗顧問。微軟首席產品經理,鴻海副總。產品規劃。

09. 專案符合本次計畫哪些主題:(請勾選至少一項)

繁體中文文本採集,用於語言模型訓練資料
Benchmark 台灣觀點的評測
其他語言考慮:台語、客語、原住民族語
繁體中文為主的開源模型
繁體中文特用型語言模型,以法律、醫療、教育為主但不限

10. 參與梯次

第二梯(2024/02/21 - 2024/03/17)

12. 專案摘要(300字以內)

本提案在於善用台灣本土興盛與豐富的佛教中華禪經典文物,包括已存的數位保存歷代大師的開示與對話,以及正在與未來在各地方道場的資料收集,將他們用在訓練,用改革性的微調工程或算法,產生並持續提供一個賦予佛系特色的台灣禪師級的開源語言大模型,並開發多重前端應用給大衆,包括問答,協助閲讀經文,提供地方口語的解釋。這些應用將使用在手機與智慧音箱,並以開源的方式達到普及目的。

13. 專案動機

台灣對漢傳佛教的保留和傳承以及經典數位化的成就是非常少數爲人所知的事實。但也是一個非常大的遺憾。目前團隊的觀察是沒有一個及時將這些文物以及多媒體展示給世人知道的系統化方式。在資訊技術日新月異的時代,如果沒有及時地去對這方面做多點的努力,那前人辛苦的纍積就沒有辦法得到收成。本專案的動機其實是在參加一個佛教活動時,收到一個智慧音箱,有個佛學小助手的功能,但是苦於後端的自然語言服務來自對岸,又其實已經沒法運行,所以有了去瞭解台灣本土的現代佛教數位化的念頭。後來看到有像法鼓的文化機構和資源,才想用開源,大模型,自然語言和多模型的處理概念。期待這是個源自台灣,放眼世界的項目。

14. 專案設計概念以及與主題的相符性

https://photos.app.goo.gl/wC7Vyrwb5Xd5Y8uS9
是本專案的設計架構圖,使用示意圖為大型功能模塊,箭頭為功能指向

15. 專案技術可行性

計劃使用AI技術如下:
1. 基礎大模型:使用目前被積極開發如ChatGPT 4.0 或 LLaMA2類型大模型。此類大模型已經有很多demo,以及特定領域的demo(例如 twllm.com 是針對台灣語料的大模型)
2. 微調技術:使用Parameter Efficient Fine Tune (PEFT)在特定領域對大模型做微調, 目前已知如 https://deerpark.ai/ 的demo是使用大藏經做PEFT微調

16. 專案可應用之情境說明

1. 對答系統(GPT):使用者提出任何對漢傳佛教(汎指佛教,因爲使用者并無任何假設立場)的問題,本系統提供可能的答案,並進行多輪對話。本系統為模擬禪師的開示的例子,除了給與相對的問答,如有相關,希望能以以往聖嚴法師的開示(多媒體)回復使用者。
2. 語言支持:基於使用英語的使用者其實苦無此類服務,也能推廣本專案,使用者可以使用英文,系統提供雙向翻譯功能。影片和語音的部分,提供字幕以供理解。(長期計劃為提供原語音支持)
3. 閲讀以及瞭解經文: 提供使用者經文預讀指引,提供白話解釋(或由影片導引)。使用者可以向系統提出針對經文的問題,系統提供對答。
4. 數位化建立使用者的反饋用於自動微調: 本系統建立使用者反饋以及評分機制,能用於算法精進,完善回復的滿意度,以及及時對相關内容做調整。

17. 專案預期效益與社會貢獻

專案預期能提供大致兩個面相的服務:
1. 針對幫助台灣本身的佛學文案以及多媒體的數位話整理
1.1 發揮台灣本土已纍積的佛學資源,增加知識與認知的能力
1.2 經由開源,獲取台灣以外的資源,讓更多人擁有與使用這些服務
2. 針對社會普羅大衆的佛學認識,破除非正信的非正常宗教指引
2.1 有通用,普及,免費的服務,消除認識宗教的壁壘,免於錯誤和誤導
2.2 讓宗教能儘所能發揮平穩社會,與安靜人心的功能

18. 專案現況說明

N/A

19. 團隊過去是否有做過相關主題的計畫?

團隊並無針對漢傳佛教主題的計劃,但是團隊的成員都在世界前十大公司,參與開發,設計自然語言產品的記錄,包括 台灣注音輸入法,微軟文件簡體繁體互換,以及 微軟翻譯系統,以及語音助手。

20. 開源內容及其授權方式

本專案的主要開源包括所有相關軟體為MIT, 文件為CC-BY,圖像為CC
用於後端大模型,對目前已有的相關法鼓文化出版的數位文物為法鼓文化所有,並不在本計劃開源範圍。

21. 專案期中與期末規劃

期中(60 days)規劃:
1. Data Inventory (純文本), 聖嚴法師在公開平臺的開示video 爲主
2. 平臺微調使用監督方式,以1 的資料爲主,通用問題使用原架構LLM功能
3. Zen-GPT 平臺功能建造,主要前端功能會以網頁對答系統為演示為驗收(繁體)
期末(120 days)規劃:
1. 平臺微調使用大量法鼓文化公開資料為預訓練,提高通用能力
2. 開發專屬app在手機端使用
3. Zen-GPT所有功能在網頁與手機段演示為驗收 (繁體+英文)

22. 專案預算規劃

23. 專案於計畫結束後之長期規劃

本專案在此次計劃在於完成第一階段的後端部署(工程部分),以及用一個前端對答的應用在網絡端,長期規劃如下:
1. 開發外部接入的“sub"界面:其他的機構可以接入他們開源的資料,分享平臺資源
2. 啓動多媒體加入文本的資源
3. 開始針對其他普及式前端的開發:如智能音箱,電視,以及公用互動屏幕
4. 繼續推廣後端的大模型技術使用,減低服務成本

24. 其他想補充之內容

本專案與法鼓山法鼓文化與法鼓山文理學院合作,預期與學院師生進行實驗以及技術回饋,目前還沒有任何媒體報導以及公開的演示。