Visual Studio Code용 AI Toolkit

Visual Studio Code용 AI Toolkit은 포괄적인 확장 기능으로, 개발자와 AI 엔지니어가 생성형 AI 모델을 사용하여 지능형 애플리케이션을 구축, 테스트 및 배포할 수 있도록 지원합니다. 로컬에서 작업하든 클라우드에서 작업하든 AI Toolkit은 전체 AI 애플리케이션 수명 주기를 위한 통합 개발 환경을 제공합니다.

AI Toolkit은 OpenAI, Anthropic, Google, GitHub와 같은 제공업체의 인기 있는 AI 모델과 원활하게 통합되는 동시에 ONNX 및 Ollama를 통한 로컬 모델도 지원합니다. 모델 검색 및 실험부터 프롬프트 엔지니어링 및 배포에 이르기까지 AI Toolkit은 VS Code 내에서 AI 개발 워크플로우를 간소화합니다.

주요 기능

기능	설명	스크린샷
모델 카탈로그	GitHub, ONNX, Ollama, OpenAI, Anthropic, Google을 포함한 다양한 소스의 AI 모델을 검색하고 액세스하세요. 모델을 나란히 비교하고 사용 사례에 가장 적합한 모델을 찾으세요.
플레이그라운드	실시간 모델 테스트를 위한 대화형 채팅 환경입니다. 다양한 프롬프트, 매개변수 및 이미지 및 첨부 파일을 포함한 다중 모드 입력을 실험해 보세요.
에이전트 빌더	간소화된 프롬프트 엔지니어링 및 에이전트 개발 워크플로우입니다. 정교한 프롬프트를 만들고, MCP 도구를 통합하고, 구조화된 출력을 사용하여 프로덕션 준비 코드를 생성하세요.
일괄 실행	여러 모델에 걸쳐 배치 프롬프트 테스트를 동시에 실행합니다. 모델 성능을 비교하고 다양한 입력 시나리오로 규모를 테스트하는 데 이상적입니다.
모델 평가	데이터 세트와 표준 메트릭을 사용한 포괄적인 모델 평가입니다. 내장 평가자(F1 점수, 관련성, 유사성, 일관성)로 성능을 측정하거나 사용자 지정 평가 기준을 만드세요.
미세 조정	특정 도메인 및 요구 사항에 맞게 모델을 사용자 지정하고 조정하세요. GPU 지원으로 로컬에서 모델을 학습하거나 Azure Container Apps를 활용하여 클라우드 기반 미세 조정을 수행하세요.
모델 변환	로컬 배포를 위해 머신러닝 모델을 변환, 양자화 및 최적화하세요. Hugging Face 및 기타 소스의 모델을 변환하여 CPU, GPU 또는 NPU 가속을 사용하여 Windows에서 효율적으로 실행하세요.
추적	AI 애플리케이션의 성능을 모니터링하고 분석하세요. 추적 데이터를 수집하고 시각화하여 모델 동작 및 성능에 대한 통찰력을 얻으세요.

AI Toolkit는 누구를 위한 것인가요?

AI Toolkit은 초보자부터 전문가까지 생성형 AI를 다루는 모든 사람을 위해 설계되었습니다.

개발자

• 앱 개발자: 언어 모델을 통합해야 하는 AI 기반 애플리케이션을 구축하는 개발자
• 풀스택 개발자: 웹 및 데스크톱 애플리케이션에 지능형 기능을 추가하려는 개발자
• 모바일 개발자: 프로덕션 배포 전에 AI 기능을 프로토타이핑하는 개발자

AI 엔지니어 및 데이터 과학자

• AI 엔지니어: 특정 도메인에 맞게 모델을 미세 조정하고 프로덕션에 배포하는 엔지니어
• 데이터 과학자: 모델 성능을 평가하고 다양한 접근 방식을 비교하는 과학자
• ML 엔지니어: 효율적인 로컬 배포를 위해 모델을 변환하고 최적화하는 엔지니어

연구원 및 교육자

• AI 연구원: 다양한 모델과 프롬프트 엔지니어링 기술을 실험하는 연구원
• 교육자: AI 개념을 가르치고 모델 기능을 시연하는 교육자
• 학생: 생성형 AI 및 실습 모델 상호 작용에 대해 배우는 학생

주요 사용 사례

• Anthropic, OpenAI, GitHub와 같은 제공업체의 모델을 검색하고 평가합니다.
• 개인 정보 보호 및 비용 제어를 위해 ONNX 및 Ollama를 사용하여 모델을 로컬에서 실행합니다.
• 프롬프트 생성 및 MCP 도구 통합을 통해 에이전트를 구축하고 테스트합니다.
• 다양한 하드웨어 구성에 배포하기 위해 모델을 변환하고 최적화합니다.

설치 및 설정

빠른 설치

시작하는 가장 빠른 방법은 Visual Studio Marketplace를 통해 확장을 설치하는 것입니다.

VS Code용 AI Toolkit 설치

성공적으로 설치한 후 AI Toolkit 아이콘이 활동 막대에 나타납니다.

수동 설치

Visual Studio Code Marketplace에서 AI Toolkit 확장을 수동으로 설치할 수도 있습니다. 확장 프로그램 설치에 자세히 설명된 단계를 따르세요.

• Visual Studio Code용 AI Toolkit을 검색하고 검색 결과에서 설치를 선택하세요.

  

• 성공적으로 설치한 후 AI Toolkit 아이콘이 활동 막대에 나타납니다.

AI Toolkit 살펴보기

AI Toolkit은 자체 보기로 열리며, AI Toolkit 아이콘이 VS Code 활동 막대에 표시됩니다. 이 확장에는 몇 가지 주요 섹션이 있습니다. 내 리소스, 모델 도구, 에이전트 및 워크플로 도구, MCP 워크플로, 도움말 및 피드백입니다.

• 내 리소스: 이 섹션에는 AI Toolkit에서 액세스할 수 있는 리소스가 포함되어 있습니다. 내 리소스 섹션은 Azure AI 리소스와 상호 작용하기 위한 기본 보기입니다. 다음 하위 섹션이 포함됩니다.

  • 모델: 이 섹션에는 AI 애플리케이션을 구축하고 배포하는 데 사용할 수 있는 모델이 포함되어 있습니다. 모델 보기에서 AI Toolkit에 배포된 모델을 찾을 수 있습니다.
  • 에이전트: 이 섹션에는 AI Toolkit에 배포된 에이전트가 포함되어 있습니다.
  • MCP 서버: 이 섹션에는 AI Toolkit에서 작업 중인 MCP 서버가 포함되어 있습니다.

• 모델 도구: 이 섹션에는 AI 애플리케이션을 구축하고 배포하는 데 사용할 수 있는 모델 도구가 포함되어 있습니다. 모델 도구 보기에서 배포된 모델을 사용하기 위해 사용할 수 있는 도구를 찾을 수 있습니다. 다음 하위 섹션이 포함됩니다.

  • 모델 카탈로그: 모델 카탈로그를 사용하면 GitHub, ONNX, Ollama, OpenAI, Anthropic, Google을 포함한 다양한 소스의 AI 모델을 검색하고 액세스할 수 있습니다. 모델을 나란히 비교하고 사용 사례에 맞는 모델을 찾으세요.
  • 모델 플레이그라운드: 모델 플레이그라운드는 생성형 AI 모델을 실험할 수 있는 대화형 환경을 제공합니다. 다양한 프롬프트를 테스트하고, 모델 매개변수를 조정하고, 다른 모델의 응답을 비교하고, 다양한 유형의 입력 파일을 첨부하여 다중 모드 기능을 탐색하세요.
  • 변환: 모델 변환 도구를 사용하면 로컬 Windows 플랫폼에서 사전 빌드된 머신러닝 모델을 변환, 양자화, 최적화 및 평가할 수 있습니다.
  • 미세 조정: 이 도구를 사용하면 사용자 지정 데이터 세트를 사용하여 GPU가 있는 로컬 컴퓨팅 환경 또는 GPU가 있는 클라우드(Azure Container Apps)에서 사전 학습된 모델에 대한 미세 조정 작업을 실행할 수 있습니다.

• 에이전트 및 워크플로 도구: 이 섹션에서는 AI Toolkit에 배포된 에이전트를 배포하고 사용하기 위한 도구를 찾을 수 있습니다. 다음 하위 섹션이 포함됩니다.

  • 에이전트 빌더: 에이전트를 쉽게 만들고 배포하세요.
  • 일괄 실행: 에이전트와 프롬프트를 배치 모드에서 여러 테스트 사례에 대해 테스트합니다.
  • 평가: 모델, 프롬프트 및 에이전트의 출력을 기준 데이터와 비교하고 평가 메트릭을 계산하여 평가합니다.
  • 추적: AI 애플리케이션의 성능을 모니터링하고 분석하는 데 도움이 되는 추적 기능입니다.

• MCP 워크플로: 이 섹션에는 기존 MCP 서버를 추가하거나 새 서버를 만들기 위해 사용하는 도구가 포함되어 있습니다. 다음 하위 섹션이 포함됩니다.

  • MCP 서버 추가: 기존 MCP 서버를 추가하고 작업하기 위한 링크입니다.
  • 새 MCP 서버 만들기: AI Toolkit에서 새 MCP 서버를 만들고 배포하기 위한 링크입니다.

• 도움말 및 피드백: 이 섹션에는 Microsoft Foundry 설명서, 피드백, 지원 및 Microsoft 개인 정보 보호 정책에 대한 링크가 포함되어 있습니다. 다음 하위 섹션이 포함됩니다.

  • 설명서: Microsoft Foundry 확장 설명서에 대한 링크입니다.
  • 리소스: AI Toolkit 시작에 도움이 되는 튜토리얼 모음인 AI Toolkit 튜토리얼 갤러리에 대한 링크입니다.
  • 시작하기: AI Toolkit의 기본 사항을 배우는 데 도움이 되는 시작 안내서에 대한 링크입니다.
  • 새로운 기능: AI Toolkit 릴리스 노트에 대한 링크입니다.
  • GitHub에 문제 보고: Microsoft Foundry 확장 GitHub 리포지토리의 문제 페이지에 대한 링크입니다.

AI Toolkit 시작하기

AI Toolkit에는 AI Toolkit의 기본 사항을 배울 수 있는 시작 안내서가 있습니다. 이 안내서는 채팅을 사용하여 AI 모델과 상호 작용할 수 있는 플레이그라운드를 안내합니다.

1. 활동 막대에서 AI Toolkit 보기를 선택합니다.

2. 도움말 및 피드백 섹션에서 시작하기를 선택하여 안내서를 엽니다.

   

다음 단계

• AI Toolkit에서 생성형 AI 모델 추가에 대한 자세한 정보를 얻으세요.
• 모델과 상호 작용하려면 모델 플레이그라운드를 사용하세요.