라마튜터
라마튜터는 라마 3.1을 사용하는 타입스크립트 애플리케이션으로 오픈 소스 AI 개인 튜터 역할을 합니다. 이 애플리케이션을 실행하면 문의 주제에 따라 웹에서 검색을 요청한 다음 학습할 콘텐츠를 생성합니다.
이 프로그램은 공식 OpenAI 라이브러리를 사용하지 않았으며, Gaia 노드를 LLM 백엔드로 사용하는 것을 지원하는 포크된 라이브러리를 사용할 수 있습니다.
전제 조건
공개 URL을 통해 LLM 서비스를 제공하려면 Gaia 노드가 준비되어 있어야 합니다. 다음을 수행할 수 있습니다.
이 튜토리얼에서는 퍼블릭 라마3 노드를 사용하겠습니다.
| 속성 | 가치 |
|---|---|
| API 엔드포인트 URL | https://llama8b.gaia.domains/v1 |
| 모델 이름 | llama |
| API 키 | 가이아 |
에이전트 실행
먼저, 포크된 라마튜터의 소스 코드를 가져와야 합니다.
git clone https://github.com/JYC0413/llamatutor.git
cd 라마튜터
그런 다음 .env 파일을 만듭니다.
cp .example.env .env
여기에서 네 가지 매개 변수를 구성해야 합니다.
- SERPER_API_KEY: 온라인 콘텐츠 검색을 위한 serper API 키입니다. 여기에서 BING_API_KEY를 사용할 수도 있습니다.
- llamaedge_base_url: LLM API 기본 URL의 URL입니다.
- llamaedge_model_name: 사용할 모델의 이름입니다.
- LLAMAEDGE_API_KEY: LLM 서비스에 액세스하기 위한 API 키입니다.
그런 다음 필요한 종속성을 설치해야 합니다.
npm 설치
다음으로 애플리케이션을 로컬에서 실행해 보겠습니다.
npm 실행 개발
마지막으로 브라우저에서 http://localhost:3000 을 열고 학습을 시작하세요.
