랭체인 통합

참고

랭체인과의 통합은 파이썬 또는 자바스크립트로 수행할 수 있습니다.

LangChain은 대규모 언어 모델(LLM) 기반 애플리케이션을 개발하기 위한 프레임워크입니다.

Gaia 노드를 LLM 백엔드로 사용하도록 Langchain을 구성할 수 있으며, 이를 통해 추론에 Gaia를 사용하는 모든 AI 에이전트 또는 AI 기반 애플리케이션을 구축할 수 있습니다.

전제 조건

공개 URL을 통해 LLM 서비스를 제공할 준비가 된 Gaia 노드가 필요합니다. 가능합니다:

• 나만의 노드 실행
• 퍼블릭 노드 사용

퍼블릭 노드를 사용하는 경우 API 키가 필요합니다. Gaia는 개발자 계정을 신청하면 퍼블릭 노드 등 사용 가능한 서비스에서 사용할 수 있는 50,000 API 크레딧을 무료로 제공합니다.

설정

• 머신에서 프로젝트 설정(JavaScript 또는 Python)

• 랭체인 설치:

자바스크립트

npm 설치 @랭체인/오픈아이 @랭체인/코어 도트엔브이

Python

pip 설치 랭체인 오픈파이 파이썬-도텐브

Gaia와 통합

Gaia 노드 실행을 시작하려면 나만의 노드 설정하기 페이지의 가이드에 따라 빠르게 시작할 수 있습니다.

이 가이드에서는 Gaia 노드를 로컬에서 실행할 것이므로 API 키가 필요하지 않으므로 다음과 같은 문자열을 사용할 수 있습니다: "Gaia"와 같은 문자열을 자리 표시자로 사용할 수 있습니다. 새로운 .env 파일을 생성하고 API 키를 저장합니다:

GAIANET_API_KEY="Gaia"

랭체인과 가이아와의 통합은 자바스크립트나 파이썬으로 할 수 있습니다. 두 언어의 통합이 어떻게 이루어지는지 보여주는 코드 스니펫은 아래에 나와 있습니다:

자바스크립트

import { ChatOpenAI, OpenAI } from "@langchain/openai";
import dotenv from "dotenv";

dotenv.config();

const model = new ChatOpenAI({
    configuration: {
        apiKey: process.env.GAIANET_API_KEY,
        model: "Llama-3-Groq-8B-Tool",
        baseURL:
        "gaia-node-url/v1",
    },
});

const response = await model.invoke("Hello, world!");

console.log(response)

Python

에서 랑체인_오픈아이 import ChatOpenAI, OpenAI
import os

모델 = ChatOpenAI(
    api_key=os.environ.get("가이아넷_API_키"),
    model="Llama-3-Groq-8B-Tool",
    base_url="GAIA-NODE-URL/V1"
)

reponse = model.invoke("안녕하세요, 세상!")

print(응답)

가이아 모델 호출

기본 연결이 설정되면 Langchain의 강력한 기능을 사용할 수 있습니다. 먼저 모델을 호출하는 것부터 시작하세요.

자바스크립트

// ...
const response = await model.호출("안녕하세요, 세상!");

콘솔.log(response)

Python

# ...
응답 = model.invoke("안녕하세요, 세상!")

print(응답)

LangChain 지원으로 LangGraph 및 LangSmith와의 통합도 가능해졌습니다.