LegaL-Mind：智慧法律諮詢系統

李韋杰

Wei-jie(U06GPA4KKEK)

legal-Mind

李韋杰

• 主要負責專案經理、模型訓練
• 曾在遠傳開發自動化測試系統
• 在中研院建立知識圖譜應用
• 現為政大資科系研究生（研究方向為法律相關的自然語言處理）

吳柏憲

• 法律任務評比規劃、訓練資料整合
• 現為政大資科系研究生

陳瑞得

• 系統建構與網站維護
• 曾於國內知名交易室建立市場資料庫系統
• 現為政大資科系研究生

翁瑞鴻

• 提供法律相關意見
• 就讀台大法律研究所（通過111律師高考、司法官考試）

Benchmark 台灣觀點的評測
繁體中文特用型語言模型，以法律、醫療、教育為主但不限
繁體中文為主的開源模型
繁體中文文本採集，用於語言模型訓練資料

第一梯（2024/02/18 前）

本計畫將以司法院公開文件為基礎訓練大型語言模型，建立一個能夠回答法律相關問題的對話系統，並透過法律相關評比任務來評測我們的法律大型語言模型的表現（如判讀裁判書中的兩造主張、事實面論述與總結等）；後期再將我們的法律大型語言模型整合到我們的另一個相關案件檢索模型，以打造完整的RAG（Retrieval Augmented Generation）系統，讓一般使用者可以向我們的模型詢問基礎的法律問題，即時地得到法律或訴訟上的相關知識與建議；法律從業人員則可透過輸入關鍵字以外的方式（如事件情節、犯罪手法或量刑方面）搜尋並得到系統推薦之相關案件，用以參考過去之相關案件的內容。

為了讓一般使用者在不諳法律領域相關知識並付費諮詢專業律師或相關人士之前，能透過本系統先免費進行法律諮詢，以得到基礎的法律知識與該個案將來訴訟的可能發展等資訊，減少與專業人士的溝通成本與整體訴訟成本；讓法律從業人員能夠透過該系統為訴訟或法律問題準備來源更多元的資訊，或是在個案與過去的案例與審判結果中進行比較，進行訴訟或法律問題上的沙盤推演。

我們期望除了能提供一個中文的評比任務（例如：中文的 legalbench）之外，還能建立一個完整的法律諮詢與對話系統並加入在中研院研究知識圖譜的能力利用RGA的方式提高模型的回答能力。以下是我們模型的訓練規劃:

以下是RAG與知識圖譜搜尋的概念圖，之後也會運用該專案(langchain)進行規劃問答系統
RAG圖片來源

我們已使用PEFT與deepspeed以fp16精度pre-train 與 fine-tune完LLAMA2的模型與brezee-7b模型，使其有處理法律相關任務的能力，並使用爭點抽取任務頻評斷其模型回答能力。
正在進行各項評比任務並與法律專業人士持續交流，以確認目前模型的效能表現；相關案件檢索部分亦有針對特定案件的模型，正在進行通用化的研究。
RAG可運用langchain等套件配合司法資料庫可以回答更加正確的法律知識。

對於一般非法律專業使用者來說，當遇到法律或訴訟相關問題時，在與律師進行法律諮詢前，可透過本系統先針對個案內容之可能有的法律相關問題進行諮詢，取得相關法律知識與未來訴訟的可能發展方向；對法律從業人員來說，本系統能夠做為法律智慧助手，例如從業人員可透過本系統得到系統推薦之過去相關案件的情節與最終結果，以作為訴訟或審判上的參考，得到更多元的資料來源。

本系統希冀能夠拉近普羅大眾與法律的距離，讓一般非法律專業的使用者能透過本系統得到充分的法律知識，或是在遇到法律問題時能即時地得到相關資訊，讓法律對於大眾而言不再遙不可及，也能減輕普通人在需要法律協助時所需要付出的金錢、學習或與法律專業人士的溝通成本；對於法律從業人員來說，本系統也能作為法律智慧助手，在進行訴訟或審判過程中，往往需要大量資訊做為參考，本系統可以透過推薦過去相關案件、總結與歸納不同案件內容與結果等方式來進一步提升法律從業人員的工作效率、提供更多元的資訊來源。

• 已完成pre-train法律模型在爭點抽取任務上有接近GPT3.5的成績。
• 修改了LLAMA2的tokenizer使我們的模型在長文本上的回答效率有所提升。
• 在embedding層上的案件分群任務有接近訓練過的BERT效果，並超越了lawformer模型的表現。
• 已建立好API與對話網頁
• 已完成部分法律相關評比任務

• 國科會計畫:訴訟文書標記、檢索、分析與應用:深度學習語文本分析之綜合應用

• 預計公開模型與相關細節與資料至github 與 huggingface 授權方式如 MIT與apache2.0
• 訓練資料公開至 GOOGLE DRIVE 授權方式 CC-BY

• 60天 準備更多法律資料集來優化模型，讓他在法律相關任務有接近GPT3.5水準
• 120天 完成評比任務設計與demo網頁，並開源模型與評比任務與相關資料集

1. 法律意見諮詢

諮詢費用每月 5,000 元新台幣，共計四個月 20,000 元新台幣。

2. 開發費用

2.1

任務評比與資料蒐集及前處理 每月 25,000 元新台幣，共計四個月 100,000 元新台幣。

2.2

模型建置與訓練每月 25,000 元新台幣，共計四個月 100,000 元新台幣。

2.3

系統建構與網站維護 每月 25,000 元新台幣，共計四個月 100,000 元新台幣。

3. 軟體授權與雲端平台使用費

3.1

ChatGPT API 用以進行評比任務 新台幣 50,000 元

3.2

AWS 用以架設網站與部分模型微調任務與部署 新台幣 20,000 元

4. 設備購置

4.1

一台配有RTX4090的電腦用於模型訓練 新台幣 110,000元

共計 新台幣 500,000 元

針對使用者提供之回饋進行持續性的更新與修正、順應現實中的法條修正或其他訴訟程序的調整作出主動性更新、維持系統常態化的運行。