Julep AI: DSL을 사용하여 다단계 지능형 바디 워크플로우를 구축하는 AI 클라우드 플랫폼

일반 소개

줄렙 AI는 과거의 상호작용을 기억하고 복잡한 다단계 작업을 수행하는 AI 지능을 생성 및 관리하기 위한 플랫폼으로, 장기 메모리와 다단계 프로세스 관리 기능을 제공하고 외부 도구 및 API와의 통합을 지원하여 복잡한 시나리오를 처리할 수 있습니다. 사용자는 간단한 YAML 파일을 작성하여 작업의 개별 단계, 결정 지점, 루프, 병렬 처리 등을 정의하고 클라우드에서 이러한 작업의 실행을 자동화할 수 있습니다.

줄렙 AI는 AI 인텔리전스 및 다단계 작업을 관리하기 위한 새로운 도메인별 언어(DSL)와 서버를 도입합니다. 이 DSL을 통해 사용자는 많은 양의 기존 코드를 작성할 필요 없이 복잡한 워크플로를 보다 직관적으로 설명하고 관리할 수 있으며, 줄렙 AI의 클라우드 플랫폼이 이러한 작업의 실행을 처리하여 안정적이고 효율적인 작업이 이루어지도록 보장합니다.

기능 목록

• 퍼시스턴트 AI 에이전트지능은 맥락과 정보를 기억하여 장기적인 상호 작용을 지원할 수 있습니다.
• 상태 전체 세션과거 상호작용을 추적하여 개인화된 응답을 제공합니다.
• 다단계 작업루프와 의사 결정을 통해 복잡한 다단계 프로세스를 구축하세요.
• 작업 관리장시간 실행될 수 있는 작업을 처리하고 작업이 성공적으로 완료되도록 합니다.
• 기본 제공 도구 및 API 통합: 기본 제공 도구 및 외부 API를 사용하여 인텔리전스의 기능을 확장할 수 있도록 지원합니다.
• 자가 치유실패한 단계를 자동으로 다시 시도하고 메시지를 다시 전송하여 작업이 원활하게 실행되도록 합니다.
• RAG(검색 증강 생성)문서 저장소를 사용하여 자체 데이터를 검색하고 사용할 수 있는 시스템을 구축하세요.

도움말 사용

설치 프로세스

1. 계정 등록하기줄렙 AI 웹사이트를 방문하여 '등록하기' 버튼을 클릭하고 필요한 정보를 입력하여 등록을 완료하세요.
2. API 키 가져오기로그인 후 사용자 패널에서 API 키 생성 옵션을 찾아 API 키를 생성하고 저장합니다.
3. SDK 다운로드플랫폼 요구사항에 따라 적절한 SDK(예: Python, Node.js 등)를 다운로드하고 설명서에 따라 설치합니다.

사용 가이드라인

인텔리전스 생성

1. 인텔리전스 정의제어판에서 '애널리틱스 만들기'를 클릭하고 애널리틱스의 이름과 설명을 입력합니다.
2. 구성 모델적합한 AI 모델(예: GPT-4)을 선택하고 기본 매개변수(예: 온도, 최대 토큰 수 등)를 설정합니다.
3. 도구 추가웹 검색, API 호출 등과 같은 인텔리전스에 필요한 도구를 추가합니다.

다단계 프로세스 정의

1. YAML 파일 작성제어판에서 의사 결정 트리, 루프 및 병렬 실행을 정의하기 위해 YAML을 사용하여 다단계 프로세스를 작성합니다.
2. 파일 업로드작성된 YAML 파일을 플랫폼에 업로드하고 테스트합니다.
3. 배포 프로세스테스트가 통과되면 '배포' 버튼을 클릭하여 프로세스를 온라인으로 전환합니다.

신속한 프로토타이핑

1. 새 프로젝트 만들기제어판에서 '새 프로젝트'를 클릭하고 프로젝트 이름과 설명을 입력합니다.
2. 기능 모듈 추가: 필요에 따라 필요한 기능 모듈(예: RAG, 상태 관리 등)을 선택하여 추가합니다.
3. 테스트 및 반복플랫폼에서 테스트하고, 실시간으로 기능 모듈을 조정 및 최적화합니다.

프로덕션 레벨 준비

1. 구성 인프라제어판에서 자동 확장, 로드 밸런싱 등과 같은 인프라 옵션을 구성합니다.
2. 오류 처리 설정오류 처리 메커니즘을 정의하여 실패 시 작업이 자동으로 다시 시도되도록 합니다.
3. 온라인 프로젝트: 구성을 완료한 후 'Go Live' 버튼을 클릭하여 프로젝트를 프로덕션에 푸시합니다.

모듈식 설계

1. 모듈 선택제어판에서 원하는 모듈(예: 외부 API 연결, LLM 전환 등)을 찾아 선택합니다.
2. 드래그 앤 드롭 통합드래그 앤 드롭 인터페이스를 사용하여 프로젝트에 모듈을 통합합니다.
3. 테스트 및 최적화최적화 및 튜닝을 위한 모듈 기능의 실시간 테스트.

무제한 확장

1. 확장 옵션 구성제어판에서 자동 확장 및 부하 분산 옵션을 구성합니다.
2. 성능 모니터링플랫폼에서 제공하는 모니터링 도구를 사용하여 시스템 성능과 사용자 동시 접속자 수를 실시간으로 모니터링합니다.
3. 구성 조정안정적인 시스템 운영을 위해 모니터링 데이터를 기반으로 확장 및 로드 밸런싱 구성을 조정합니다.

미래 대비

1. 새 모델 추가제어판에서 '새 모델 추가'를 클릭하여 새 AI 모델을 선택하고 구성합니다.
2. 새로운 도구 통합플랫폼에서 제공하는 새로운 도구를 찾아보고, 선택하여 기존 프로젝트에 통합하세요.
3. 테스트 및 배포새 모델과 도구를 테스트하여 호환성과 안정성을 확인한 다음 실시간으로 배포합니다.

샘플 작업

줄렙은 단순한 신호 응답 모델을 뛰어넘는 AI 사용 사례가 필요한 애플리케이션에 적합합니다.

간단한 예

다음과 같은 작업을 수행할 수 있는 리서치 AI 에이전트를 상상해 보세요:

• 주제 선택
• 이 주제에 대한 30개의 검색어
• 동시 웹 검색
• 요약 결과
• Discord에 요약 보내기

줄렙에서는 이 작업이 별도의 작업으로 80줄의 코드를 작성한 다음 완전히 호스팅되어 독립적으로 실행됩니다. 모든 단계는 줄렙의 자체 서버에서 수행되므로 사용자는 아무것도 할 필요가 없습니다.

이것은 유효한 예입니다:

name: Research Agent
# Optional: Define the input schema for the task
input_schema:
type: object
properties:
topic:
type: string
description: The main topic to research
num_questions:
type: integer
description: The number of search queries to generate
# Define the tools that the agent can use
tools:
- name: web_search
type: integration
integration:
provider: brave
setup:
api_key: <your-brave-api-key>
- name: discord_webhook
type: api_call
api_call:
url: https://discord.com/api/webhooks/<your-webhook-id>/<your-webhook-token>
method: POST
headers:
Content-Type: application/json
# Special variables:
# - inputs: for accessing the input to the task
# - outputs: for accessing the output of previous steps
# - _: for accessing the output of the previous step
# Define the main workflow
main:
- prompt:
- role: system
content: >-
You are a research assistant.
Generate {{inputs[0].num_questions|default(30, true)}} diverse search queries related to the topic:
{{inputs[0].topic}}

Write one query per line.
unwrap: true
# Evaluate the search queries using a simple python expression
- evaluate:
search_queries: "_.split(NEWLINE)"
# Run the web search in parallel for each query
- over: "_.search_queries"
map:
tool: web_search
arguments:
query: "_"
parallelism: 5
# Collect the results from the web search
- evaluate:
search_results: _
# Summarize the results
- prompt:
- role: system
content: >
You are a research summarizer. Create a comprehensive summary of the following research results on the topic {{inputs[0].topic}}.
The summary should be well-structured, informative, and highlight key findings and insights. Keep the summary concise and to the point.
The length of the summary should be less than 150 words.
Here are the search results:
{{_.search_results}}
  unwrap: true
settings:
model: gpt-4o-mini
- evaluate:
discord_message: |-
f'''
**Research Summary for {inputs[0].topic}**
{_}
'''

# Send the summary to Discord
- tool: discord_webhook
arguments:
json_: 
content: _.discord_message[:2000] # Discord has a 2000 character limit

이 예제에서는 Julep이 자동으로 병렬 실행을 관리하고, 실패한 단계를 다시 시도하고, API 요청을 다시 보내고, 작업이 완료될 때까지 안정적으로 실행되도록 유지합니다.

샘플 출력 결과

30초 후에 실행되며 다음과 같은 출력을 반환합니다:

인공 지능 연구 요약

인공지능(AI) 연구 결과 요약

개요
최근 몇 년 동안 인공 지능(AI) 분야에서 상당한 진전이 이루어졌으며, 기계가 환경을 인식하고 데이터를 통해 학습하며 의사 결정을 내릴 수 있는 방법과 기술이 개발되고 있는 것이 특징입니다. 이 요약에서는 다양한 AI 관련 연구 결과에서 얻은 인사이트를 중점적으로 다룹니다.

주요 결과

• 인공 지능의 정의 및 범위 ::
  인공 지능은 학습, 추론, 문제 해결 등 인간과 같은 지능이 필요한 작업을 수행할 수 있는 시스템을 만드는 데 중점을 두는 컴퓨터 과학의 한 분야로 정의됩니다(위키백과). 머신 러닝, 자연어 처리, 로봇 공학, 컴퓨터 비전 등 다양한 하위 분야를 포괄합니다.
• 영향 및 적용 ::
  AI 기술은 효율성과 생산성을 향상시키기 위해 다양한 분야에 통합되고 있습니다. 자율 주행 자동차, 의료 진단부터 고객 서비스 자동화, 금융 예측(OpenAI)에 이르기까지 다양한 분야에 적용되고 있습니다. 모든 사람을 위한 AI를 만들기 위한 Google의 노력은 여러 플랫폼에서 사용자 경험을 향상시켜 일상생활을 크게 개선할 수 있는 잠재력을 강조합니다(Google AI).
• 윤리적 고려 사항 ::
  프라이버시, 편견, 의사결정 과정에서의 책임 등 AI의 윤리적 함의에 대한 논의가 계속되고 있습니다. AI 기술의 안전하고 책임감 있는 사용을 보장하기 위한 프레임워크(OpenAI)의 필요성이 강조되었습니다.
• 학습 메커니즘 ::
  AI 시스템은 지도 학습, 비지도 학습, 강화 학습과 같은 다양한 학습 메커니즘을 활용합니다. 이러한 방법을 통해 AI는 과거의 경험과 데이터를 학습하여 성능을 향상시킬 수 있습니다(Wikipedia). 지도 학습과 비지도 학습의 차이는 매우 중요한데, 지도 학습은 레이블이 지정된 데이터에 의존하는 반면, 비지도 학습은 미리 정의된 레이블 없이 패턴을 인식합니다(비지도).
• 향후 방향 ::
  향후 AI의 발전은 AI 시스템의 해석 가능성과 투명성을 향상시켜 올바른 결정과 조치를 내릴 수 있도록 하는 데 초점을 맞출 것으로 예상됩니다(OpenAI). 또한 AI 시스템에 대한 접근성과 사용자 친화성을 높여 다양한 사람과 업계에서 더 폭넓게 채택하도록 장려하기 위한 노력도 계속되고 있습니다(Google AI).

평결에 도달하기
인공지능은 여러 영역에 걸쳐 산업을 재편하고 삶의 질을 향상시킬 수 있는 혁신적인 힘을 가지고 있습니다. 그러나 그 역량이 확장됨에 따라 그에 따른 윤리적, 사회적 영향을 다루는 것이 중요합니다. 기술자, 윤리학자, 정책 입안자 간의 지속적인 연구와 협력은 AI의 미래 환경을 탐색하는 데 매우 중요합니다.

Python 배포 프로세스

줄렙을 사용하려면 pip를 사용하여 설치하세요:

pip install julep

여기에서 API 키를 받으세요.

### Step 0: Setup

import time
import yaml
from julep import Julep # or AsyncJulep

client = Julep(api_key="your_julep_api_key")

### Step 1: Create an Agent

agent = client.agents.create(
name="Storytelling Agent",
model="claude-3.5-sonnet",
about="You are a creative storyteller that crafts engaging stories on a myriad of topics.",
)

### Step 2: Create a Task that generates a story and comic strip

task_yaml = """
name: Storyteller
description: Create a story based on an idea.

tools:
- name: research_wikipedia
type: integration
integration:
provider: wikipedia
method: search

main:
# Step 1: Generate plot idea
- prompt:
- role: system
content: You are {{agent.name}}. {{agent.about}}
- role: user
content: >
Based on the idea '{{_.idea}}', generate a list of 5 plot ideas. Go crazy and be as creative as possible. Return your output as a list of long strings inside ```yaml 标签位于您的回复末尾。
展开：true

- 评价：
情节想法：load_yaml（_.split（'```yaml')[1].split('```')[0].strip())

# 第二步：从情节思路中提取研究领域
- 迅速的：
- 角色：系统
内容：您是 {{agent.name}}。{{agent.about}}
- 角色：用户
内容: >
以下是一些故事情节的想法：
{% 表示 _.plot_ideas 中的想法 %}
- {{主意}}
{% 结束 %}

为了发展故事情节，我们需要研究情节思路。
我们应该研究什么？写下你认为有趣的情节想法的维基百科搜索查询。
将输出作为 yaml 列表返回```yaml tags at the end of your response.
unwrap: true
settings:
model: gpt-4o-mini
temperature: 0.7

- evaluate:
research_queries: load_yaml(_.split('```yaml')[1].split('```')[0].strip())

# Step 3: Research each plot idea
- foreach:
in: _.research_queries
do:
tool: research_wikipedia
arguments:
query: _

- evaluate:
wikipedia_results: 'NEWLINE.join([f"- {doc.metadata.title}: {doc.metadata.summary}" for item in _ for doc in item.documents])'

# Step 4: Think and deliberate
- prompt:
- role: system
content: You are {{agent.name}}. {{agent.about}}
- role: user
content: |-
Before we write the story, let's think and deliberate. Here are some plot ideas:
{% for idea in outputs[1].plot_ideas %}
- {{idea}}
{% endfor %}

Here are the results from researching the plot ideas on Wikipedia:
{{_.wikipedia_results}}

Think about the plot ideas critically. Combine the plot ideas with the results from Wikipedia to create a detailed plot for a story.
Write down all your notes and thoughts.
Then finally write the plot as a yaml object inside ```yaml 标签位于响应末尾。yaml 对象应具有以下结构：

```yaml
title: "<string>"
characters:
- name: "<string>"
about: "<string>"
synopsis: "<string>"
scenes:
- title: "<string>"
description: "<string>"
characters:
- name: "<string>"
role: "<string>"
plotlines:
- "<string>"```

确保 yaml 有效，且角色和场景不为空。还要注意分号和编写 yaml 的其他问题。
展开：true

- 评价：
情节：“load_yaml（_.split（'```yaml')[1].split('```')[0].strip())”
"""

任务 = 客户端.任务.创建（
agent_id=代理.id，
**yaml.safe_load（任务_yaml）
)

### 步骤 3：执行任务

执行 = 客户端.执行.创建（
任务ID=任务ID，
输入={“idea”：“一只学飞的猫”}
)

# 🎉 观看故事和漫画面板的生成
while (result := client.executions.get(execution.id)).status 不在 ['成功', '失败'] 中：
打印（结果.状态，结果.输出）
时间.睡眠(1)

# 📦执行完成后，检索结果
如果 result.status ==“成功”：
打印（结果.输出）
别的：
引发异常（结果.错误）