LangChain
LangChain 是一個用於開發語言模型（LLM）驅動的應用程序的框架。它提供了一組元件和現成的鏈，使得與LLM的工作變得容易。以下是一些重要特點：
- 高級API：LangChain 將大部分複雜性進行抽象，並提供高級API來與LLM一起工作。例如，您可以輕鬆連接到LLM提供商（OpenAI、Gemini、Claude2、Cohere、Hugging Face等）並查詢他們。
- 現成的鏈：LangChain 包含預先建立的鏈，可以幫助您完成特定的任務。這些鏈可以定制或用作建立新應用程序的基礎。例如，SqlDatabaseChain 允許您連接SQL數據庫並從所提供的LLM生成響應。
LangChain 適合簡單的原型設計和產品應用。如果您的應用程序需要更廣泛的功能和工具集成，LangChain可能是更好的選擇。
LlamaIndex
另一方面，LlamaIndex 是一個特別為LLM應用程序設計的數據框架。它專注於高效的索引和檢索。以下是它如何實現這一點的：
- 向量存儲索引(Retrival)：LlamaIndex 將您的文檔分割成節點，並創建每個節點的文本的向量嵌入。
- 向量嵌入(vector embedding)：這些是您文本語義的數值表示。兩段具有相似含義的文本將具有數學上相似的嵌入。
- 嵌入過程(embedding progress)：Vector Store Index 使用您的LLM的API將所有文本轉換為嵌入。
- Top K 檢索(top-k retrieve)：一旦排名完成，VectorStoreIndex 將返回最相似的嵌入及其對應的文本塊。
如果您的應用程序主要依賴於高效的索引和檢索，LlamaIndex 可能更適合。 但其實很多情況下我們可以Langchain 和 llamaIndex 合併使用。
在某些場景下，兩種工具可以一起使用以增強您的應用程序。例如，您可能會使用LangChain來提供其高級API和現成的鏈，並使用LlamaIndex進行高效的索引和檢索。
在以下示例中，展示了如何在產品AI應用程序中一起使用 LangChain 和 LlamaIndex：
在此示意圖中：
- 用戶提交查詢。
- LangChain 處理查詢。
- 根據查詢，LangChain 選擇適當的鏈。
- 選定的鏈查詢語言學習模型（LLM）提供商。
- 如果查詢需要數據檢索，則該鏈與LlamaIndex交互。
- LlamaIndex 從其索引數據中檢索相關數據。
- 然後將數據傳遞給LLM進行處理。
- LLM根據數據生成響應。
- 然後將響應返回給用戶。
請注意，這是一種簡化的表示方式，實際實施可能會根據具體的用例和要求而有所不同。此外，該示意圖假設 LangChain 和 LlamaIndex 以一種 LangChain 可以直接與 LlamaIndex 交互的方式集成。
根據您的應用程序架構，可能會涉及到更多的層或組件。那個時候大家可以基於這張圖的架構再去做延伸。
Please follow my GitHub (https://github.com/kevin801221/Langchain_course_code) or encourage me by giving it a star ⭐️. I will update it with the latest theory or applications at least weekly.
请关注我的GitHub (https://github.com/kevin801221/Langchain_course_code)，或者鼓励我给我一个小星星⭐️。我至少每周都会更新最新的理论或应用。
請追蹤我的GitHub (https://github.com/kevin801221/Langchain_course_code)，或者鼓勵我賞我一顆小星星⭐️。我至少每週會更新最新的理論或應用。
