🤗 Transformers 노트북

여기에는 Hugging Face에서 제공하는 공식 notebook 목록을 확인할 수 있습니다.

또한, 커뮤니티에서 만든 흥미로운 콘텐츠도 여기에 나열하고 싶습니다. 🤗 Transformers를 활용한 노트북을 작성하셨다면 여기에 소개되길 원하신다면, Pull Request를 열어 Community notebooks 섹션에 포함되도록 해 주세요.

Hugging Face의 노트북 🤗

문서 노트북

Colab에서 문서의 모든 페이지를 노트북으로 열 수 있습니다(해당 페이지에 버튼이 있습니다). 필요하신 경우, 여기에도 목록으로 정리되어 있습니다:

노트북	설명
라이브러리 빠른 투어	Transformers의 다양한 API 소개
작업 요약	Transformers 라이브러리의 모델을 작업별로 실행하는 방법
데이터 전처리	토크나이저를 사용하여 데이터를 전처리하는 방법
사전 학습된 모델의 파인튜닝	Trainer를 사용하여 사전 학습된 모델을 파인튜닝하는 방법
토크나이저 요약	토크나이저 알고리즘 간의 차이
다국어 모델	라이브러리의 다국어 모델 사용 방법

PyTorch 예제

자연어 처리

노트북	설명
토크나이저 학습	나만의 토크나이저를 학습하고 사용하는 방법
언어 모델 학습	transformers를 쉽게 시작하는 방법
텍스트 분류로 모델을 파인튜닝하는 방법	GLUE 작업에서 데이터를 전처리하고 사전 학습된 모델을 미세 조정하는 방법을 보여 줍니다.
언어 모델링으로 모델을 파인튜닝하는 방법	데이터를 전처리하고, causal 또는 masked LM 작업에서 사전 학습된 모델을 fine-tune하는 방법을 보여 줍니다.
토큰 분류를 위해 모델을 파인튜닝하는 방법	데이터를 전처리하고 토큰 분류 작업(NER, PoS)에서 사전 학습된 모델을 파인튜닝하는 방법을 보여 줍니다.
질문 답변을 위한 모델 파인튜닝 방법	SQUAD에서 사전 학습된 모델을 fine-tune하기 위해 데이터를 전처리하는 방법을 보여 줍니다.
다중 선택 문제로 모델을 파인튜닝하는 방법	SWAG에서 사전 학습된 모델을 데이터 전처리 및 미세 조정하는 방법을 보여 줍니다.
번역 작업에 대한 모델 파인튜닝 방법	WMT에서 데이터를 전처리하고 사전 학습된 모델을 미세 조정하는 방법을 보여 줍니다.
요약 작업으로 모델을 파인튜닝하는 방법	XSUM에서 데이터를 전처리하고 사전 학습된 모델을 미세 조정하는 방법을 보여 줍니다.
언어 모델을 처음부터 학습하는 방법	커스텀 데이터로 Transformer 모델을 효과적으로 학습하는 모든 단계
텍스트 생성 방법	transformers에서 언어 생성을 위해 다양한 디코딩 방법을 사용하는 방법
Reformer	Reformer가 언어 모델링의 한계를 어떻게 확장하는가

컴퓨터 비전

노트북	설명
이미지 분류로 모델을 미세 조정하는 방법 (Torchvision)	Torchvision을 사용하여 데이터를 전처리하는 방법과 Image Classification에서 사전 학습된 Vision 모델을 미세 조정하는 방법을 보여 줍니다
이미지 분류로 모델을 파인튜닝하는 방법 (Albumentations)	Albumentations를 사용하여 데이터를 전처리하고, 사전 학습된 Vision 모델을 Image Classification에 대해 fine-tune하는 방법을 보여 줍니다
이미지 분류로 모델을 미세 조정하는 방법 (Kornia)	Kornia를 사용하여 데이터를 전처리하고 사전 학습된 Vision 모델을 Image Classification에 대해 fine-tune하는 방법을 보여 줍니다
OWL-ViT를 사용한 제로샷 객체 감지 수행 방법	텍스트 쿼리를 사용하여 이미지에서 제로샷 객체 감지를 수행하는 방법을 보여 줍니다
이미지 캡셔닝 모델 파인튜닝 방법	커스텀 데이터셋에서 이미지 캡셔닝을 위해 BLIP을 파인튜닝하는 방법
Transformers로 이미지 유사도 시스템 구축하기	이미지 유사도 시스템을 구축하는 방법을 보여 줍니다
의미 분할에서 SegFormer 모델 파인튜닝 방법	데이터 전처리 방법과 Semantic Segmentation에서 사전 학습된 SegFormer 모델을 fine-tune하는 방법을 보여 줍니다
VideoMAE 모델을 비디오 분류로 미세 조정하는 방법	데이터 전처리 방법과 Video Classification에서 사전 학습된 VideoMAE 모델을 fine-tune하는 방법을 보여 줍니다

오디오

노트북	설명
영어 음성 인식 모델 파인튜닝 방법	TIMIT에서 사전 학습된 Speech 모델을 전처리하고 미세 조정하는 방법을 보여 줍니다
어떤 언어로든 음성 인식 모델을 파인튜닝하는 방법	Common Voice에서 다국어 사전 학습 음성 모델을 전처리하고 미세 조정하는 방법을 보여 줍니다
오디오 분류를 위해 모델을 파인튜닝하는 방법	데이터 전처리 방법과 Keyword Spotting을 위해 사전 학습된 Speech 모델을 fine-tune하는 방법을 보여 줍니다

생물학적 시퀀스

노트북	설명
사전 학습된 단백질 모델의 파인튜닝 방법	단백질을 토큰화하고 대규모 사전 학습된 단백질 “언어” 모델을 파인튜닝하는 방법을 확인해 보세요
단백질 접힘 생성 방법	단백질 서열에서 완전한 단백질 모델 및 PDB 파일까지의 생성 과정을 확인해 보세요
Nucleotide Transformer 모델 파인튜닝 방법	DNA를 토큰화하고 대규모 사전 학습된 DNA “언어” 모델을 파인튜닝하는 방법을 확인해 보세요
LoRA를 사용하여 Nucleotide Transformer 모델 파인튜닝	메모리 효율적인 방식으로 더 큰 DNA 모델을 학습

기타 모달리티

노트북	설명
확률적 시계열 예측	커스텀 데이터셋에서 Time Series Transformer를 학습하는 방법을 확인하세요

유틸리티 노트북

노트북	설명
모델을 ONNX로 내보내는 방법	ONNX를 통해 추론 워크로드를 내보내고 실행하는 방법을 강조합니다

Optimum 노트북

🤗 Optimum은 🤗 Transformers의 확장으로, 대상 하드웨어에서 모델을 학습하고 실행할 때 최대 효율을 달성할 수 있도록 성능 최적화 도구 모음을 제공합니다.

노트북	설명
ONNX Runtime를 사용하여 텍스트 분류 모델을 양자화하는 방법	ONNX Runtime를 사용하여 GLUE 작업의 모델에 정적 및 동적 양자화를 적용하는 방법을 보여 줍니다.
ONNX Runtime를 사용하여 텍스트 분류로 모델을 미세 조정하는 방법	ONNX Runtime를 사용하여 데이터를 전처리하고 GLUE 작업 중 하나에서 모델을 파인튜닝하는 방법을 보여 줍니다.
ONNX Runtime를 사용하여 요약 작업으로 모델을 미세 조정하는 방법	XSUM에서 ONNX Runtime을 사용하여 데이터를 전처리하고 모델을 파인튜닝하는 방법을 보여줍니다.

커뮤니티 노트북

커뮤니티에서 개발한 추가 노트북은 여기에서 확인할 수 있습니다.