OpenAI 에코시스템 앱

각 Gaia 노드는 OpenAI 호환 API 서비스를 제공하기 때문에 거의 모든 LLM 애플리케이션과 프레임워크에서 OpenAI를 대체할 수 있습니다. 이 섹션의 글에서 인기 있는 LLM 앱에서 Gaia를 사용하는 방법에 대한 지침과 예시를 확인하세요.

Python

OpenAI 파이썬 라이브러리

참고

다음을 교체해야 합니다. YOUR_API_KEY_GOES_HERE 당신의 자체 API 키. 고유한 API 키를 얻으려면 다음을 따르세요. 이 튜토리얼.

공식 OpenAI Python 라이브러리는 다음과 같이 설치할 수 있습니다.

pip 설치 오픈AI

라이브러리를 사용하여 OpenAI 클라이언트를 생성할 때 API 엔드포인트 지점을 다음과 같이 전달할 수 있습니다. base_url. 를 추가하는 것을 잊지 마십시오. /v1 를 추가하세요. 퍼블릭 노드 목록을 찾을 수 있습니다. 여기.

openai 가져오기

client = openai.OpenAI(base_url="https://YOUR-NODE-ID.gaia.domains/v1", api_key="YOUR_API_KEY_GOES_HERE")

또는 OS 수준에서 환경 변수를 설정할 수도 있습니다.

export OPENAI_API_BASE=https://YOUR-NODE-ID.gaia.domains/v1
export OPENAI_API_KEY=YOUR_API_KEY_GOES_HERE

그런 다음 클라이언트를 클릭하고 모델 은 노드에서 사용 가능한 모델 이름 로 설정되어 있습니다.

response = client.chat.completions.create(
    model="Meta-Llama-3-8B-Instruct-Q5_K_M",
    messages=[
        {"role": "system", "content": "You are a strategic reasoner."},
            {"role": "user", "content": "What is the purpose of life?"}
        ],
        temperature=0.7,
        max_tokens=500
    ]
)

끝입니다! 이제 공식 OpenAI Python 라이브러리로 빌드된 모든 애플리케이션을 가져와서 Gaia 노드 를 백엔드로 사용할 수 있습니다!

노드 JS

OpenAI 노드 API 라이브러리

참고

다음을 교체해야 합니다. YOUR_API_KEY_GOES_HERE 당신의 자체 API 키. 고유한 API 키를 얻으려면 다음을 따르세요. 이 튜토리얼.

다음과 같이 타입스크립트 또는 자바스크립트에서 OpenAI REST API에 편리하게 액세스할 수 있는 OpenAI 노드 라이브러리를 설치할 수 있습니다:

npm 설치 openai

프로젝트에 다른 이름으로 가져옵니다:

// Node.js의 사용 예시
const OpenAI = require('openai');

사용자 지정 기본 URL을 사용하여 OpenAI 클라이언트를 만듭니다. 반드시 /v1 를 호스트 이름 뒤에 붙입니다.

const client = new OpenAI({
  baseURL: 'https://YOUR-NODE-ID.gaia.domains/v1',
  apiKey: 'YOUR_API_KEY_GOES_HERE'
});

또는 다음을 사용하여 환경 변수를 설정할 수 있습니다. dotenv 노드에서.

process.env.OPENAI_API_BASE = 'https://YOUR-NODE-ID.gaia.domains/v1';

그런 다음 클라이언트를 클릭하고 모델 은 노드에서 사용 가능한 모델 이름 로 설정되어 있습니다.

async function callOpenAI() {
  try {
    const response = await client.chat.completions.create({
      model: "Meta-Llama-3-8B-Instruct-Q5_K_M",
      messages: [
        { role: "system", content: "You are a strategic reasoner." },
        { role: "user", content: "What is the purpose of life?" }
      ],
      temperature: 0.7,
      max_tokens: 500
    });

    console.log(response.choices[0].message.content);
  } catch (error) {
    console.error('Error:', error);
  }
}

//Usage
callOpenAI();