사람을 대신해 미션을 해결해주거나 주요 과업을 자동화하여 돕는 AI.
사용자와의 의사소통을 통해 의도를 정확히 파악하고 원하는 결과를 만들어냅니다.
업무 생산성을 높히고 의사결정 과정을 개선하며 다양한 업무에 혁신을 가져올 것으로 기대되고 있습니다.
특히 2024년에 들어 폭발적으로 관련 연구가 늘어났던 AI 에이전트, 그 정의와 연구 동향을 살펴봅니다.

AI Agent

전통적인 AI에서, 환경을 인식하고 그에 따라 행동하는 정의된 개체를 Agent라고 합니다.
AI Agent의 구체적인 정의는 다분하지만, 미국 프린스턴 대학교 연구진은 시스템이 다음의 특징을 가지고 있을 때 AI Agent로 간주할 수 있다고 정의하였습니다.

AI 시스템이 복잡한 환경에서 사용자 지시 없이 어려운 목표를 추구할 수 있는 경우
자연어 지시 하에 사용자의 인터페이스나 감독 없이 자율적으로 행동할 수 있는 경우
웹 검색, 프로그래밍 등의 도구를 사용할 수 있거나 계획할 수 있는 경우

관련논문 : AI Agents That Matter (2024.07)

AI Agent 는 복잡한 환경 하에 자율적으로 작업을 수행한다는 점에서 다음과 같은 점들이 고려되어야 합니다

Multimodality : 환경에 대해 더 풍부하게 이해할 수 있으며, 다양한 상호작용을 수행할 수 있어야 합니다.
도구 사용 능력 : 웹 검색, API 사용 등의 외부 도구를 활용할 수 있어야 합니다.
윤리적 고려사항 : 의사결정이 투명하고, 안전하고 신뢰할 수 있어야 하며, 프라이버시를 보호하여야 합니다.
자율성 강화 : 더 장기적이고 복잡한 목표를 설정하고 달성할 수 있어야 하며, 불확실성을 다룰 수 있어야 합니다.

AI Agent 의 연구 동향

AI Agent 의 연구는 위의 고려사항을 기반으로 하여 다양한 방향으로 확장하고 있습니다.
그 중 큰 줄기가 되는 세 가지 방향과 최근 연구를 소개해드립니다!

LLM 활용

GPT-o1, Claude 3.5 sonnet 등의 LLM의 큰 도약과 Langchain 등의 LLM을 활용하여 Agentic 하게 자동화 작업을 수행할 수 있게 돕는 프레임워크가 함께 발전하면서, 더 복잡한 환경에서 LLM을 활용하려는 시도들이 많아지고 있습니다.

AI Scientist (2024.08)
Sakana AI의 AI Scientist는 LLM의 주도하에 end-to-end Process로 과학적인 발견을 해내는 AI Agent 입니다. AI Scientist는 먼저 일련의 아이디어를 발명한 후 그 참신성을 평가합니다. 이후 자동화된 코드 생성 기술을 활용한 코드베이스를 편집하여 필요한 코드를 작성하며, 가설을 테스트하는 방법을 결정합니다. 그 후, 정량적 평가와 그래프나 표 등의 시각적 요약으로 구성된 결과 세트를 수집하기 위해 자동으로 실험을 실행합니다. 실험 결과는 LaTeX 보고서의 형태로 아이디어, 기술 설명과 함께 제공됩니다. 마지막으로, AI Scientist는 표준 ML/DL 학회의 현재 관행에 따라 자동화된 리뷰를 생성합니다. 이를 통해 LLM 은 독립적으로 리서치를 수행할 수 있습니다.

논문 확인하기

도메인 특화

복잡한 웹 서핑, 코드 작성 및 실행을 수행하는 작업 특화 AI Agent 부터, 의료, 금융, 교육 등의 분야에서, 해당 분야의 전문 지식을 활용하여 더욱 정확하고 효율적인 서비스를 제공할 수 있는 AI agent 까지 전문성이 강화된 AI Agent가 개발되고 있습니다.

KGAREVION (2024.10)
하버드 대학교 연구진이 개발한 지식 그래프 기반 에이전트 KGARevion은 LLM의 지식을 활용해 트리플렛을 생성하고, 실제 지식 그래프로 검증하여 정확한 답변을 도출합니다. 4개의 의료 QA 데이터셋에서 15개의 모델을 제치고 5.2% 이상의 정확도 향상을 보였고, 새로 제작한 3개의 데이터셋에서는 10.4%의 성능 향상을 달성했습니다.

KGARevion-2 워크플로우

Multi AI Agent

에이전트간의 상호작용으로 더 정교하고 복잡한 작업을 수행할 수 있는 연구들이 최근 들어 주목받고 있습니다.

multi-agent-orchestrator, 이미지를 클릭하시면 깃헙으로 연결됩니다.

Multi-agent-orchestrator (2024.11.22)
아마존이 개발한 Multi AI Agent 관리 프레임워크. 상호작용 전반에 걸쳐 컨텍스트를 유지하며, 컨텍스트와 내용을 기반으로 가장 적합한 에이전트에게 쿼리를 동적으로 라우팅하는 지능형 의도 분류 기능을 제공합니다. 이를 통해 Multi-agent-orchestrator는 빠른 배포를 위한 사전 구축된 컴포넌트를 제공할 수 있고, 커스텀 에이전트와 대화 메시지 저장 솔루션을 쉽게 통합할 수 있습니다. 이러한 강점으로 Multi-agent-orchestrator를 통해 사용자는 단순한 챗봇부터 정교한 AI 시스템까지 광범위한 애플리케이션을 구축할 수 있으며, 다양한 요구사항을 수용하고 효율적으로 확장할 수 있습니다. Python과 TypeScript에서 구현된 Multi-agent-orchestrator는 AWS Lambda부터 로컬 환경이나 모든 클라우드 플랫폼까지 어디서나 실행 가능합니다.

마치며

2025 AI Trend 중 하나가 될 AI Agent 의 주요 특징과 최근 발표된 기술을 알아보았습니다.
곧 발행될 세번째 예측도 기대해주세요 !

이전 글 보러가기 : 2025 AI Trend 시리즈 – 1. Multimodal AI

국가대표급 AI 전문가가 연사로 참여하는 모두콘 신청하기

글쓴 박퍼실이랑 AI Agent 같이 공부하기