대규모 언어 모델(LLM)이 실제 세계와 상호 작용하고 단순한 채팅 도우미 이상의 유용성을 발휘하기 위해서는 함수 호출 기능이 중요합니다. LLM은 현재 날씨 상태를 검색하는 등의 특정 작업을 수행할 내부 지식이 없을 수 있지만, 외부 API 또는 함수를 활용하여 필요한 정보를 검색하고 처리할 수 있습니다.

함수 호출 흐름은 다음과 같습니다:

1. LLM은 먼저 내부 교육 지식으로 작업을 수행할 수 있는지 여부를 판단하고, 필요한 경우 외부 도구 또는 함수를 사용합니다.
2. 외부 도구가 필요한 경우 LLM은 사용자 쿼리를 분석하고 적절한 함수를 선택합니다.
3. LLM은 Python 컴파일러를 사용하여 함수 호출을 수행하고, 결과를 검색하여 최종 응답을 생성합니다.

이러한 기능을 통해 LLM은 기능을 확장하고 실제 세계와 상호 작용할 수 있어 더욱 유용하고 다재다능해집니다. 함수 호출을 통해 LLM은 날씨 예보, 주식 시장 분석, 장치 제어 등의 작업을 수행할 수 있습니다. 이는 내부 지식만으로는 불가능한 작업입니다.

이 섹션에서는 모델의 다중 함수 호출 및 중첩 함수 호출 처리 능력을 탐구합니다. 복잡한 쿼리를 분해하고 여러 함수를 순차적으로 실행하여 종합적인 응답을 제공할 수 있는 모델의 기능을 테스트하는 것이 목표입니다.

먼저 사용자 쿼리를 해결하기 위해 두 개의 별도 함수를 실행해야 하는 다중 함수 호출 사례를 살펴볼 것입니다. 모델은 관련 함수를 식별하고, 필요한 함수 호출을 수행하며, 결과를 결합하여 최종 응답을 생성할 수 있어야 합니다.

다음으로 중첩 함수 호출 개념을 탐구할 것입니다. 이 시나리오에서는 한 함수 호출의 출력이 다른 함수 호출의 입력이 됩니다. 모델은 이러한 종속성을 인식하고, 함수를 올바른 순서로 실행하며, 최종 결과를 사용자에게 제공해야 합니다.

모델의 응답이 정확하고 잘 구성되도록 하기 위해 종속적인 함수 호출을 처리하는 방법을 안내하는 시스템 메시지를 활용할 것입니다. 이 접근 방식은 다단계 함수 실행 프로세스 전반에 걸쳐 데이터의 무결성을 유지하는 데 도움이 됩니다.

마지막으로 다중 함수 호출과 중첩 함수 호출이 결합된 더 복잡한 예를 테스트할 것입니다. 이를 통해 모델의 복잡한 쿼리 처리 능력과 여러 함수의 실행 조정 능력을 입증할 수 있습니다.

이러한 예를 탐구함으로써 모델의 다재다능성과 외부 도구 및 함수와 상호 작용할 수 있는 능력을 평가할 수 있습니다.

중첩 함수 호출은 언어 모델이 여러 함수의 출력을 연결하여 복잡한 다단계 작업을 수행할 수 있게 해주는 강력한 기능입니다. 이 기능은 언어 모델이 실제 세계와 상호 작용하고 단순한 채팅봇을 넘어선 고급 사용 사례를 해결할 수 있게 해줍니다.

이 섹션에서는 Mistol 7B 버전 3 모델이 중첩 함수 호출을 처리하는 방법을 탐구합니다. 여기서 한 함수 호출의 출력이 다른 함수 호출의 입력으로 사용됩니다. 이를 통해 모델은 복잡한 사용자 쿼리를 일련의 상호 종속적인 단계로 분해할 수 있으며, 각 단계는 별도의 함수에 의해 실행됩니다.

중첩 함수 호출을 구현하는 핵심 단계는 다음과 같습니다:

1. 종속적인 함수 식별: 모델은 사용자 쿼리가 한 함수의 출력을 다른 함수의 입력으로 요구하는지 인식해야 합니다. 이를 위해서는 사용 가능한 함수와 해당 입출력 관계에 대한 포괄적인 이해가 필요합니다.

2. 순차적인 함수 호출 실행: 종속적인 함수가 식별되면 모델은 이를 올바른 순서로 실행하고, 관련 데이터를 한 함수 호출에서 다음 함수 호출로 전달해야 합니다.

3. 출력 형식 올바르게 지정: 최종 출력의 정확성과 의미를 보장하기 위해 모델은 중간 함수 호출 결과의 형식을 지정하는 데 도움이 되는 시스템 메시지를 사용해야 합니다.

이러한 기술을 마스터함으로써 언어 모델은 점점 더 복잡한 실제 세계 작업을 해결할 수 있게 되며, 다양한 외부 도구 및 API를 seamlessly 통합하여 사용자에게 종합적이고 맞춤형 응답을 제공할 수 있습니다. 이러한 기능 수준은 언어 모델을 다양한 응용 분야에서 진정으로 유용하고 필수적인 도구로 만드는 데 있어 핵심적인 단계입니다.

다단계 또는 중첩 함수 호출을 처리할 때는 입력과 출력 형식이 올바르게 유지되는 것이 중요합니다. Uncle Code는 적절한 도구를 선택하고 도구 간 종속성을 처리하는 데 도움이 되는 시스템 메시지를 사용하는 것을 권장합니다.

제안된 시스템 메시지는 다음과 같습니다:

당신은 도움이 되는 조수입니다. 사용자 쿼리와 관련된 도구를 선택하는 것이 당신의 임무입니다. 여러 도구가 필요한 경우, 도구 간 종속성이 있고 한 도구의 입력 매개변수가 다른 함수의 출력에서 나오는 경우, 매개변수 값 앞에 @와 함수 이름을 사용하십시오. 이렇게 하면 값이 올바르게 형식화됩니다.

이 시스템 메시지에는 두 가지 핵심 목적이 있습니다:

1. 도구 선택: 사용자 쿼리에 따라 관련 도구를 선택하도록 조수에게 지시하여 필요한 기능이 포함되도록 합니다.

2. 종속성 처리: 도구 간 상호 종속성이 있고 한 함수의 출력이 다른 함수의 입력으로 필요한 경우, 시스템 메시지는 조수에게 @function_name 구문을 사용하여 이전 함수의 출력을 올바르게 참조하도록 안내합니다.

이 시스템 메시지를 사용하면 입력과 출력 형식이 올바르게 유지되어 다단계 또는 중첩 함수 호출이 원활하게 실행될 수 있습니다. 이 접근 방식은 데이터 흐름의 무결성을 유지하고 모델의 함수 호출 기능을 안정적으로 활용할 수 있는 방법을 제공합니다.

Mistol V3 모델은 다중 함수 호출과 중첩 함수 호출을 처리하는 데 있어 인상적인 기능을 보여주었습니다. 주요 요점은 다음과 같습니다:

1. 모델은 복잡한 사용자 쿼리를 별도의 함수 호출로 분해하고 병렬로 실행할 수 있습니다. 파리의 현재 날씨와 샌프란시스코의 현재 시간을 가져오는 예를 통해 이를 확인할 수 있습니다.

2. 한 함수의 출력이 다른 함수의 입력으로 사용되는 중첩 함수 호출의 경우, 모델은 이를 seamlessly 처리할 수 있습니다. 첫 번째 함수 호출의 출력이 두 번째 함수 호출에 올바른 형식으로 전달되도록 시스템 메시지를 사용합니다.

3. 다중 함수 호출과 중첩 함수 호출이 결합된 최종 예제를 통해 모델의 유연성과 실제 시나리오에서의 강건성을 확인할 수 있습니다.

전반적으로 Mistol V3 모델의 함수 호출 기능은 외부 API와 서비스를 활용할 수 있는 대화형 애플리케이션을 구축하는 데 강력한 도구가 됩니다. 이 모델을 프로젝트에 통합하면 단순한 채팅 상호 작용을 넘어서는 다양한 작업을 수행할 수 있는 지능형 조수를 만들 수 있습니다.