주요 내용
1. AI 에이전트:
고정된 사전 정의 워크플로우를 넘어 자율적인 의사 결정을 가능하게 합니다.
반복적 추론, 적응형 실행, 지속적 학습을 활용합니다.
2. Smolagents:
약 1,000줄의 코드로 구성된 가벼운 Python 라이브러리로, AI 에이전트 생성을 간소화합니다.
샌드박스 환경에서 안전하게 실행되는 실행 가능한 Python 코드 스니펫을 직접 출력합니다.
다양한 모델, 모달리티(텍스트, 이미지, 오디오, 비디오) 및 외부 도구 통합을 지원합니다.
3. Novita AI 지원:
Smolagents와 호환되며, 향상된 성능과 합리적인 가격의 DeepSeek R1 Turbo와 같은 강력한 모델을 지원합니다.
인공지능은 패턴 인식에서 창의적 콘텐츠 생성으로 진화했습니다. 다음으로 큰 도약은 복잡한 다단계 문제를 해결하기 위해 자율적으로 의사 결정하고 행동할 수 있는 시스템인 에이전트 AI(agentic AI)의 등장입니다. 이 글에서는 AI 에이전트의 개념, 코드 에이전트의 세부 사항, 구축 방법, 다양한 기본 모델의 성능, 그리고 이 혁신적인 기술에 대한 자주 묻는 질문을 다룹니다.
AI 에이전트란 무엇인가?
에이전트 AI는 기존의 경직된 워크플로우가 효과적으로 처리하기 어려운 작업이 제기하는 문제를 해결합니다. 많은 실제 시나리오는 정적인 사전 정의된 if-else 구조로 완전히 포착할 수 없는 복잡하고 미묘한 프로세스를 포함합니다. 에이전트 AI는 워크플로우에 유연성과 적응성을 도입하여 시스템이 변화하는 맥락에 따라 최적의 작업 순서를 동적으로 결정하고 실행할 수 있도록 합니다.
작동 방식
에이전트 AI는 인지, 추론, 행동, 학습의 반복적이고 동적인 루프를 통해 작동합니다. 핵심적으로 AI 에이전트는 LLM(대규모 언어 모델)을 추론 엔진으로 사용하여 상황을 분석하고, 응답을 계획하며, 특화된 모델을 조정하고, 작업을 실행합니다. 일반적인 워크플로우는 다음 단계를 포함합니다:
- 데이터 수집 및 인식: 에이전트는 여러 소스에서 데이터를 수집하고 처리하여 의사 결정 과정에 정보를 제공하는 상황 인식을 얻습니다.
- 추론 및 계획: LLM을 사용하여 에이전트는 데이터를 해석하고, 가능한 솔루션에 대해 추론하며, 전략적 계획을 생성하고, 목표를 달성하기 위해 필요한 작업을 결정합니다.
- 행동 및 실행: 에이전트는 외부 도구 및 사전 정의된 함수와 통합하여 추론 결과에 따라 작업을 실행합니다. 반복적으로 작업을 수행하고 결과를 관찰하며 원하는 결과를 얻을 때까지 조정합니다.
- 지속적 학습: 피드백 루프와 RAG(검색 증강 생성)와 같은 기술을 통해 에이전트는 독점 데이터 소스에 접근하고, 이해를 개선하며, 성능, 정확성 및 관련성을 지속적으로 향상시킵니다.
이러한 기능(자율적 의사 결정, 반복적 추론, 외부 도구 통합, 지속적 개선)을 결합함으로써 에이전트 AI는 LLM 기반 추론과 실제 실행 및 적응을 효과적으로 연결합니다.
출처: Nvidia
Smolagents란 무엇인가?
Smolagents는 강력한 AI 에이전트 구축을 간소화하도록 설계된 가벼운 Python 라이브러리입니다. 미니멀리즘 접근 방식으로 핵심 로직은 약 1,000줄의 코드에 들어 있으며, 최소한의 추상화와 더 큰 직접 제어를 개발자에게 제공합니다. Smolagents는 transformers.agents의 후속 버전으로, 후자는 결국 사용 중단될 예정입니다. 자세한 내용은 github에서 확인하세요!
주요 기능 및 핵심 매커니즘
✨ 단순성
- Smolagents는 약 1,000줄의 코드로 강력한 AI 에이전트 로직을 구현하여 개발자에게 더 큰 유연성을 제공하는 최소한의 추상화를 유지합니다(
agents.py참조).
🧑💻 일급 코드 에이전트 지원
- Smolagents의 CodeAgent는 JSON이나 텍스트 대신 에이전트의 동작을 직접 Python 코드 스니펫으로 출력하여 효율성과 성능을 향상시킵니다. 샌드박스 환경(E2B, Docker) 내에서 코드를 안전하게 실행하며, 기존 JSON/텍스트 기반 에이전트도 지원합니다.
🤗 Hub 통합
- Smolagents는 Hugging Face Hub를 통해 재사용 가능한 Python 기반 도구를 쉽게 공유하고 로드할 수 있게 하여 협업과 도구 재사용을 간소화합니다.
🌐 모델 독립적
- Smolagents는 사실상 모든 LLM(로컬 transformers 또는 ollama 모델, Hugging Face 호스팅 모델, LiteLLM을 통한 OpenAI 또는 Anthropic과 같은 외부 제공자)을 지원합니다.
👁️ 모달리티 독립적
- Smolagents로 생성된 에이전트는 텍스트, 이미지, 비디오, 오디오 등 다양한 입력 모달리티를 원활하게 처리할 수 있습니다.
🛠️ 도구 독립적
- Smolagents는 LangChain, Anthropic의 MCP, 또는 Hugging Face Hub Spaces와 같은 다양한 생태계의 도구를 유연하게 통합합니다.
Smolagents와 Novita AI API를 사용하여 에이전트 구축하기
Novita AI는 개발자가 간단한 API를 사용하여 AI 모델을 쉽게 배포할 수 있도록 하고, 구축 및 확장을 위한 합리적이고 신뢰할 수 있는 GPU 클라우드를 제공하는 AI 클라우드 플랫폼입니다.
Smolagents는 Novita AI를 포함한 다양한 LLM을 지원합니다! 이제 deepseek r1 turbo를 예로 들어 smolagents와 Novita AI의 강력함을 보여드리겠습니다.
중요한 점은 Novita AI가 3배 처리량과 한정 기간 60% 할인을 제공하는 Turbo 버전을 출시했다는 것입니다!
예제
입력:
import os
from smolagents import OpenAIServerModel, CodeAgent, DuckDuckGoSearchTool
model = OpenAIServerModel(
model_id="deepseek/deepseek-r1-turbo",
api_base="https://api.novita.ai/v3/openai",
api_key="Your API Key" # 대상 서버의 API 키로 변경하세요.
)
agent = CodeAgent(tools=[DuckDuckGoSearchTool()], model=model)
agent.run("상하이에서 베이징으로 주말 여행 계획을 세워주세요. 교통편, 일정 및 필수 준비물 목록을 포함해 주세요.")
출력:
transport = web_search(query="Shanghai to Beijing transportation weekend trip 2024")
print("Transportation options:", transport)
attractions = web_search(query="Beijing 2-day itinerary top attractions 2024")
print("Attraction recommendations:", attractions)
details = web_search(query="Beijing travel must-haves 2024")
print("Essential items and tips:", details)
weekend_plan = {
"Transportation": {
"Recommended Option": "Friday evening G12 train (18:00-22:30) from Shanghai Hongqiao to Beijing South",
"Alternative": "Saturday morning flight (07:00-09:00+transit time)"
},
"Itinerary": {
"Day 1 (Saturday)": [
"08:30 - Tiananmen Square (free entry)",
"10:00 - Forbidden City (booked ticket, 3-4hr tour)",
"14:00 - Temple of Heaven",
"Evening: Houhai Lake dinner + hutongs exploration"
],
"Day 2 (Sunday)": [
"07:00 - Depart for Mutianyu Great Wall (book shuttle/taxi)",
"09:00-12:00 - Great Wall visit (cable car recommended)",
"14:00 - Summer Palace",
"18:00 - Return to city, take G27 train (19:00-23:18) back to Shanghai"
]
},
"Must-Haves": [
"Pre-booked Forbidden City ticket (¥60)",
"Comfortable walking shoes",
"Layered clothing (check weather forecast)",
"Portable WiFi/power bank",
"WeChat Pay/Alipay balance",
"ID/passport for train ticket collection"
]
}
final_answer(weekend_plan)
최종 답변
Final answer: {'Transportation': {'Recommended Option': 'Friday evening G12 train (18:00-22:30) from Shanghai Hongqiao to Beijing South', 'Alternative': 'Saturday morning flight (07:00-09:00+transit time)'}, 'Itinerary': {'Day 1 (Saturday)': ['08:30 - Tiananmen Square (free entry)', '10:00 - Forbidden City (booked ticket, 3-4hr tour)', '14:00 - Temple of Heaven', 'Evening: Houhai Lake dinner + hutongs exploration'], 'Day 2 (Sunday)': ['07:00 - Depart for Mutianyu Great Wall (book shuttle/taxi)', '09:00-12:00 - Great Wall visit (cable car recommended)', '14:00 - Summer Palace', '18:00 - Return to city, take G27 train (19:00-23:18) back to Shanghai']},
'Must-Haves': ['Pre-booked Forbidden City ticket (¥60)', 'Comfortable walking shoes', 'Layered clothing (check weather forecast)', 'Portable WiFi/power bank', 'WeChat Pay/Alipay balance', 'ID/passport for train ticket collection']}
Smolagents에서 모델 성능 비교
자세한 내용은 Hugging Face에서 확인할 수 있습니다.
에이전트 AI는 인공지능의 주요 발전을 나타내며, 자율적인 문제 해결과 작업 실행을 가능하게 합니다. Smolagents 라이브러리는 지능형 에이전트 구축을 위해 특별히 설계된 가볍지만 강력한 프레임워크를 제공하며, 직접적인 코드 기반 동작과 다양한 LLM과의 호환성을 강조합니다. 오픈소스 모델이 계속해서 빠르게 개선됨에 따라 Smolagents는 개발자에게 다양한 도메인에서 에이전트 AI의 흥미로운 잠재력을 탐구하고 구현할 수 있는 접근 가능하고 다재다능한 툴킷을 제공합니다.
자주 묻는 질문
에이전트 AI와 생성형 AI의 주요 차이점은 무엇인가요?
생성형 AI는 텍스트와 이미지 같은 새로운 콘텐츠를 만드는 데 초점을 맞추는 반면, 에이전트 AI는 목표를 달성하기 위해 결정을 내리고 자율적인 작업을 수행하는 데 초점을 맞춥니다.
smolagents에서 코드 실행은 안전한가요?
smolagents는 E2B 또는 Docker를 사용한 샌드박스 환경을 포함한 안전한 코드 실행 옵션을 제공하므로 로컬 시스템에 대한 위험을 제거합니다.
smolagents에 대한 더 많은 정보는 어디에서 찾을 수 있나요?
smolagents GitHub 저장소와 라이브러리 전용 Hugging Face Space에서 전체 문서, 튜토리얼 및 예제를 찾을 수 있습니다.
Novita AI는 AI 야망을 실현하는 올인원 클라우드 플랫폼입니다. 통합 API, 서버리스, GPU 인스턴스 — 비용 효율적인 도구를 제공합니다. 인프라를 없애고, 무료로 시작하며, AI 비전을 현실로 만드세요.
