Microsoft Graph RAG 介紹：用 Knowledge Graph 來做 RAG＋Colab 實作

[@kirisamewang6860]

這樣看下來，GraphRAG 比較著重在 document loader 的環節，把文章系統化的拆分成 nodes 再組合成 communities，最後用於生成的 context 就是每一個 community 的 summary
它在 retrieval 與 generation 上沒有特別利用到圖的結構，不過仍然對需要結構思考的問題很有啟發性

[@tony0731]

對！Graph 的結構只有在一開始 indexing 有用到。另外針對 Knowledge Graph 也有類似的做法例如 LightRAG，他直接對每個 node and edge 生成 key-value pair，減少了 GraphRAG 一個一個 community 去問這樣的成本，不過在針對 query 去取得相關的 nodes 和 edges 時，他會利用到 graph 的結構再去把一些鄰居 node 和 edge 也放進 generation 的 context，是個蠻有趣的做法

[@yen_s_life]

感謝分享！

[@tony0731]

[@dyumaildyumail]

Thanks for sharing.

[@tony0731]

[@dyumaildyumail]

@@tony0731在local 端ollama pull llama3, 就可以免付費了

[@dyumaildyumail]

安裝ollama, 試了不同的LLM, 包括llama3.2, phi3, mistral, gemma2, qwan, 也測試在不同分析階段使用不同的LLM, 回應結果有點怪, 可能是免費model, 沒有chatgpt來的好, 例如使用llama3.2
query: What are the main themes in these documents?
answer:
Based on the provided information, it appears that the community is interested in exploring ways to promote mutual understanding, address global challenges, and foster collaborative efforts among nations. The main themes present in the documents include:
1. International Cooperation
2. Diplomacy
3. Trade Agreements
4. Human Rights Instruments
5. Environmental Conventions
6. International Institutions

[@tony0731]

哇！太感謝幫忙測試結果了～～

[@zavierlin11]

您好，想請問如果把能源資料換成別的資料的話，跑出來的結果會如預期嗎?
放入的文件會有固定格式嗎?

[@tony0731]

您好！我這個示範的 notebook 還沒有跑過其他文件的資料，不確定結果會怎麼樣！
由於這個 notebook 是為了 demo GraphRAG，我一開始 load 文件的部分只去抓 txt 檔，如果需要針對其他類型如 pdf 檔案，需要利用其他套件來轉換成純文字才能跑 GraphRAG 哦～

[@m.preacher2829]

本科弄过knowledge graph embedding，但团队一般就放弃了😂

[@tony0731]

可以分享主要是卡在哪裡嗎？我自己也還沒實作過那個部分哈哈

[@m.preacher2829]

@@tony0731 我主要是对这个方向没兴趣，团队后期的论文质量也一般。你可以试试pykeen，里面有很多embedding算法，这算是我入门KG embedding的框架😂

[@tony0731]

@@m.preacher2829原來如此！感謝推薦！ 覺得之前 embedding based 的 knowledge graph 和現在基於 LLM 的 KG 應用情境有些不一樣的地方，如果有機會結合起來感覺會滿有趣的！