ChatGPT로 온세상이 떠들썩하다.
얼마전 발표한 GPT-4는 어지간한 인간보다 더 똑똑하다고 난리다.
이런 GPT와 같은 언어 모델의 바탕이 되는 것이 바로 트랜스포머(Transformers)이다.
과거(?) 딥러닝을 공부한다고 하면
이미지 처리를 위한 CNN 계열들 공부하고, 시계열 데이터를 다루기 위한 RNN 계열들 공부하고...
나중에 가면 음성처리 하던지 이미지 디텍션이라던지 하는 도메인별 특성에 따른 연구/공부를 하곤 했는데,
요즘은 그냥 무조건 그 끝은 전부 트랜스포머이다.
음성처리와 같은 것들도 그냥 End-to-End Model을 트랜스포머로 구성하곤 한다.
말 그대로 그냥 닥치고 트랜스포머인 세상이다.
표지
NLP를 공부하면서 Transformer를 공부한다고 하면
논문부터 찾아서 encoder가 어쩌고 decoder가 어쩌고 Self-attention이 뭐고.... 공부를 하곤 하는데,
우리가 직접 GPT 같은 것을 만들어야 한다면 이런 공부가 필수이겠지만
OpenAI와 같은 충분한 인력과 자본이 없다면
지금 우리에게 필요한 것은 활용이다.
초판
원서를 찾아보면 2022년 1월에 초판이 나왔고, 22년 5월에 Revised Color Edition이 나왔다.
번역본은 아마도 22년 5월에 나온 Revised Edition을 기반으로 했을테니, 아직은 1년이 되지 않은 책이다 ^^
옮긴이
옮긴이는 개인적으로 너무나 좋아하는 박해선님이다.
박해선님의 책은 무조건 추천!!! 와아~~~!!!
NLP 성장 동력
NLP 혁명의 성장 동력은 트랜스포머, 사전 훈련한 모델, 허깅페이스의 3가지라고 한다.
저자 자랑
결국은 책 자랑인데 ^^
트랜스포머 개발자와 허깅페이스 개발자들이 모여서 책을 썼으니
이 책은 킹왕짱 !!!
거기에다가 옮긴이가 박해선님이라니 !!!
정말 울츠라 슈퍼 초 킹왕짱 !!!
대상 독자
이 책은 절대 입문서가 아니다.
그리고 활용을 주 목적으로 한다.
예제 코드
위의 3개 사이트는 그냥 그런게 있다라고 하면 된다.
그런데, 3번째로 나와있는 '페이퍼스페이스 그레이디언트 노트북'이라는 곳은
처음 듣는 것이라 접속을 해봤더니 '404'로 페이지를 찾을 수 없었다.
- https://www.paperspace.com/gradient/notebooks
위 주소로 접속할 수 있었는데, 뭐 사실 그냥 구글 코랩이면 충분하지 싶다 ^^
github
박해선님의 책을 좋아하는 이유는 정말 정말 충실한 예제 코드 제공이다.
꼼꼼히 직접 실행해보시며 만들어주시는 예제는 정말 정말 애정이다.
타임라인
정말 긴 시간인 것 같지만 Transformer가 세상에 나온지는 얼마되지 않았다.
그리고 InstructGPT/GPT-3.5 이어서 얼마전 나온 GPT-4까지 ...
전이 학습
허깅페이스를 활용해서 우리가 해볼 것은 위와 같은 전이 학습이다.
허깅페이스
허깅페이스를 통해 데이터셋을 다운로드 받을 수 있다.
별것 아닌 것처럼 보이지만, 정말 편리하다.
결론
각 챕터의 뒷 부분에는 위와 같은 결론을 제공해준다.
그냥 단순한 summary가 아니라 참고 자료도 제공해주고, 어떤 의미가 있는지도 친근하게(?) 정리해준다.
아키텍처
흔하게 볼 수 있는 이미지가 아니라,
나름의 방법으로 표현된 아키텍처를 볼 수 있어서 좋았다.
이 책을 살펴보면서 느낀점은 다음과 같다.
딥러닝 공부를 하면서 트랜스포머가 무엇인지 맛을 본 분들에게 활용에 대해서 안내해주는 친절한 가이드.
"한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."
