모델 변환에서 템플릿 프로젝트 설정

이 문서는 모델 변환에서 템플릿 프로젝트를 설정하고 사용자 정의하는 방법을 소개하며, 특정 모델, 데이터셋 및 워크플로우 요구 사항에 맞게 sample.json, model_project.config 및 기타 구성 파일을 편집하는 과정을 안내합니다.

템플릿 프로젝트를 만든 후 다음과 같은 파일이 생성된 것을 볼 수 있습니다. 템플릿 프로젝트를 작동시키려면 프로젝트의 README를 따라 필요한 매개변수를 업데이트하십시오.

sample.json 업데이트

샘플을 작동시키려면 다음 속성을 채워야 합니다. 예:

• MODEL_PATH: Intel/bert-base-uncased-mrpc
• MODEL_TASK: text-classification
• DS_NAME: glue
• DS_SUBSET: mrpc
• DS_SPLIT: validation
• DATA_COLS: [ "sentence1", "sentence2" ]
• FIXED_PARAMS: [ "batch_size", "sequence_length" ]
• FIXED_VALUES: [ 1, 128 ]

필요에 따라 다른 매개변수를 조정할 수도 있습니다.

• execution_providers: [ "CPUExecutionProvider" ]: QNNExecutionProvider와 같은 다른 공급자를 위해. 일치하는 장치에서 실행해야 합니다.
• max_length: 128 / batch_size: 1: 정적 양자화의 경우 입력 크기가 고정되어야 합니다. FIXED_VALUES와 일치하도록 조정하십시오.
• max_samples: 100: 사용된 샘플 수.

model_project.config 업데이트 (선택 사항)

원하는 작업을 반영하도록 워크플로우의 name을 업데이트하십시오. 그러면 워크플로우 목록에서 더 쉽게 선택할 수 있습니다.

사용한 내용에 맞게 modelInfo의 displayName 및 modelLink를 업데이트하십시오. 그러면 모델 목록에서 더 쉽게 선택할 수 있습니다.

sample.custom.config 업데이트 (선택 사항)

이 파일은 Run 패널 및 Re-evaluate 패널을 렌더링하는 데 사용됩니다. sample.json과 일치하도록 매개변수를 제거하거나 추가할 수 있습니다. json 속성 이름을 변경하는 경우 경로 업데이트가 필요할 수 있습니다.

inference_sample.ipynb 업데이트 (선택 사항)

로드하고 출력 모델을 테스트할 자체 코드를 작성하십시오. 이 파일은 기록 폴더에 복사되므로 서로 다른 ipynb를 사용하여 다른 기록의 모델을 비교할 수 있습니다.