에이전트 기반 시스템에서 계획은 매우 중요한 부분입니다. 이를 통해 에이전트는 자신의 행동을 고려하고, 복잡한 작업을 하위 작업으로 분해하며, 목표를 더 신뢰성 있고 일관되게 실행할 수 있습니다. 해리슨 체이스는 현재 언어 모델은 스스로 이러한 계획을 신뢰성 있게 수행할 수 없으며, 개발자들은 외부 프롬프팅 전략과 인지 아키텍처에 의존해야 한다고 강조했습니다.

주요 과제 중 하나는 언어 모델이 반응적이고 "for-loop" 방식으로 작동한다는 것입니다. 이는 최적의 의사 결정과 장기 계획 부족으로 이어질 수 있습니다. 트리 오브 쓰ought, 반영, 하위 목표 분해 등의 기술은 모델이 자신의 행동을 고려하고 계획을 세우며 복잡한 작업을 분해할 수 있게 하여 이 문제를 해결하고자 합니다.

그러나 장기적인 해결책은 현재 트랜스포머 기반 모델을 넘어서는 근본적인 아키텍처 변화가 필요할 수 있습니다. 이는 QAR(Question-Answering Reasoning) 프로젝트와 "천천히 생각하는" 모델 등의 연구를 통해 진행 중입니다.

에이전트 애플리케이션의 사용자 경험(UX)은 해리슨이 특히 흥미로워하는 분야입니다. 그는 UX가 아직 완벽하게 구현되지 않았으며, 언어 모델의 신뢰성 부족과 환각 가능성으로 인해 사람의 개입이 여전히 필요하다고 지적했습니다.

해리슨은 Anthropic Delphi 데모에서 보여준 UX를 긍정적인 예로 들었는데, 브라우저, 채팅 창, 터미널, 코드 등 다양한 화면을 한 화면에서 볼 수 있는 기능이 특징입니다. 또한 이전 상태로 돌아가 조정할 수 있는 "되감기 및 편집" 기능의 가치를 언급했습니다.

추가적으로 해리슨은 "흐름 엔지니어링"의 중요성을 논의했는데, 이는 에이전트가 작동하는 워크플로우와 상태 머신의 명시적 설계를 의미합니다. 이를 통해 언어 모델 자체의 한계를 보완할 수 있다고 제안했습니다.

에이전트는 복잡한 프롬프트 이상의 기능을 가지고 있습니다. 에이전트를 강력하게 만드는 핵심 요소 중 하나는 단기 및 장기 메모리를 활용할 수 있다는 점입니다.

단기 메모리를 통해 에이전트는 대화나 상호 작용 중에 학습하고 개선할 수 있으며, 이전 단계를 기반으로 접근 방식을 조정할 수 있습니다. 이를 통해 사용자에 의해 조종되고 수정될 수 있는 더 역동적이고 적응적인 상호 작용이 가능해집니다.

한편 장기 메모리는 에이전트가 기업의 지식 베이스를 유지하고 활용하는 데 필수적입니다. 이를 통해 에이전트는 기업, 프로세스, 관련 정보에 대한 깊은 이해를 가질 수 있어 업무에 더 효과적일 수 있습니다. 그러나 장기 메모리 관리에는 무엇을 저장할지, 언제 잊을지, 기업 변화에 따라 어떻게 메모리를 발전시킬지 등의 과제가 있습니다.

에이전트 프레임워크에 단기 및 장기 메모리를 통합하는 것은 활발한 연구 및 개발 분야입니다. 이러한 기능이 지속적으로 향상됨에 따라 일관성과 품질이 중요한 기업 환경에서 에이전트가 더욱 신뢰성 있고 개인화되며 가치 있는 존재가 될 것입니다.

해리슨 체이스의 에이전트 관련 주요 내용은 다음과 같습니다:

1. 에이전트는 복잡한 프롬프트 이상의 기능을 가지고 있으며, 다양한 도구, 메모리(단기 및 장기), 계획 수립 및 행동 능력을 갖추고 있습니다.

2. 계획 수립은 에이전트에게 매우 중요한 부분으로, 작업을 완수하기 위한 단계를 고려할 수 있게 합니다. 그러나 현재 언어 모델은 신뢰할 수 있는 계획 수립에 어려움을 겪어, 외부 프롬프팅 전략을 사용해야 합니다. 미래에는 트랜스포머 모델을 넘어선 새로운 아키텍처가 필요할 수 있습니다.

3. 에이전트 애플리케이션의 사용자 경험(UX)은 매우 중요한 분야입니다. 에이전트의 행동을 되감고 편집할 수 있는 기능은 신뢰성을 높이고 사용자 통제력을 강화할 수 있습니다. 자동화와 사람의 개입 사이의 균형을 맞추는 것이 지속적인 과제입니다.

4. 단기 및 장기 메모리는 에이전트가 학습하고 상호 작용을 개인화하는 데 필수적입니다. 절차적 메모리(무언가를 수행하는 방법 기억)와 개인화된 메모리(사용자에 대한 정보 기억)는 중요한 기능으로 탐구되고 있습니다.

전반적으로 이 강연은 에이전트의 현재 상태와 미래 잠재력을 강조하며, 신뢰성 있고 유용한 실제 애플리케이션을 만들기 위해서는 계획 수립, UX, 메모리 분야에서의 발전이 필요함을 시사합니다.