Basic Classification with CNN

이번에는 케라스의 패션 MNIST 데이터셋을 사용해 10개의 카테고리로 옷을 분류하는 문제를 해결해보겠다. 텐서플로 기본 튜토리얼을 참고했습니다.

다음 튜토리얼을 참고했습니다.

Basic Question

구글에서 텐서플로 자격증 시험을 신규 출시(?)하였습니다.

자세한 내용은 이 링크에서 확인할 수 있습니다. 응시료가 무려 100달러. 요즘 달러도 비싼데 아주 비싼 시험입니다. 떨어지면 재응시도 제한되므로 왠만하면 한번에 붙는 것을 목표로 합시다.

텐서플로우 공식 가이드 중 Neural machine translation with attention 문서의 실습을 참고하였습니다.

Neural machine translation with attention

• 스페인어에서 영어로 기계번역을 수행하는 seq2seq 모델을 직접 구현해본다.

다음의 책을 공부하며 정리한 내용입니다.

• https://wikidocs.net/24996 : seq2seq 정리
• https://wikidocs.net/22893 : 어텐션 모델 정리
• https://www.youtube.com/watch?v=c8y9ZAb9aks&t=1032s : seq2seq에서 attention까지(매우 좋음, 꼭 참고하세요)
• https://www.tensorflow.org/tutorials/text/nmt_with_attention : attention 실습

시퀀스-투-시퀀스(seq2seq)

: 입력된 시퀀스로부터 다른 도메인의 시퀀스를 출력하는 모델.

이는 다음과 같은 분야에서 사용된다.

• 챗봇: 입력시퀀스와 출력시퀀스를 각각 질문/대답으로 구성하면 챗봇을 만들 수 있다.
• 기계번역: 입력시퀀스와 출력시퀀스를 입력/번역문장으로 구성하면 번역기를 만들 수 있다.
• Text Summerization, Speech to Text 등에 사용될 수 있다.

다음의 책을 공부하며 정리한 내용입니다.

• https://wikidocs.net/48649
• https://wikidocs.net/32105

케라스 공식문서

딥러닝 라이브러리 케라스의 사용법을 익히고 실제 RNN모델을 설계해본다. 케라스는 딥러닝을 도와주는 파이썬 라이브러리이다.

자연어 처리 라이브러리인 토치텍스트를 활용해 이전 포스트의 전처리 이론을 실제로 구현해보자.

토치텍스트

: 텍스트에 대한 여러 추상화 기능을 제공하는 자연어 처리 라이브러리

다음의 책을 공부하며 정리한 내용입니다.

• https://wikidocs.net/22886

자연어 처리의 전처리

자연어 처리를 위해 자연어 데이터는 일반적으로 토큰화, 단어집합생성, 정수인코딩, 패딩, 벡터화의 과정을 거친다.

다음의 책을 공부하며 정리한 내용입니다.

• https://wikidocs.net/22886

순환신경망(RNN : Recurrent Neural Network)

: RNN은 입력과 출력을 시퀀스 단위로 처리하는 시퀀스 모델이다. 이때의 입력은 처리하고자 하는 문장, 즉 단어 시퀀스이며, 출력은 처리된 문장 단어 시퀀스이다.

다음의 책을 공부하며 정리한 내용입니다

• https://wikidocs.net/book/2788

로지스틱 회귀란

: 로지스틱 회귀는 이진분류(Binary Classification) 문제의 해결에 사용되는 대표적인 알고리즘.

이름은 ‘회귀‘이지만 ‘분류‘에 쓰인다

다음의 책을 공부하며 정리한 내용입니다

• https://wikidocs.net/book/2788

nn.Module 을 사용한 선형회귀 모델의 개선

: 파이토치에서 일부 모델(ex. 선형회귀모델)들은 이미 nn.Module의 형태로 편리하게 쓸 수 있도록 구현되어있다.