머가필요해

"한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬 받아 작성된 서평입니다."

LLM을 현업에서 사용한다고 하면 다들 우려하면서 말하는 것이 바로 "hallucination(환각)" 현상이다.

실무에서는 예측 가능한 것이 중요하고, 정확한 것이 중요한데

LLM 특성상 확률로 결정되는 부분들이 있기에 예상을 벗어난 답변을 할 수도 있고

정확하지 않은 것을 사실인 것 처럼 말할 수도 있는 것이다.

LLM 자체가 확률을 기반으로 하기에 "hallucination(환각)"을 완전히 없앨 수는 없겠지만

어떻게 하면 줄일 수 있는지 그 방법을 배워야만 하는 것이다.

"프롬프트 엔지니어링"이라는 제목을 보고

처음에는 ChatGPT와 같은 웹 화면에서 프롬프팅을 하는 것을 예상했는데,

이 책은 표지에 hint가 있는 것처럼 LLM API를 사용하는 과정에서의

프롬프트 엔지니어링을 설명해주고 있다.

그리고 고맙게도 OpenAI API 뿐만 아니라 Gemini API까지 같이 언급해주고 있어서 실습을 할 때에 마음이 편했다.

사실 공부하면서 API 사용하는 것 정도는 커피값 정도 밖에 안되기에 객관적으로는 별 부담이 아닌데

희한하게 OpenAI API 사용하다보면 뭔가 엄청 부담스럽다(나만 그런가!? ^^).

소심한 나로써는 우리 구글님께서 제공해주는 Gemini API를 사용하는 것도 챙겨준 저자가 참 고맙다. 

책에서 추천하는 실습 환경은 "Colab + OpenAI API" 이기 때문에,

사전에 어느 정도 파이썬 프로그래밍에 대해서는 경험해본 사람을 추천한다.

처음에 좀 당황스러운 것은 구글 드라이브 주소를 하나씩 타이핑을 해야하는.... 그래서 나는 친절하게 링크를 !!!

- https://drive.google.com/drive/folders/12-NIX1ks8o5bMzCTGRrkE1GphwTq6K3A

GitHub 주소도 같이 링크를 남겨본다.

- https://github.com/KennethanCeyer/robust-prompting-notebooks

실제 노트북 코드를 보면 아래와 같다.

실제 돌려보면 아래와 같이 잘 나온다.

현업 업무에서 AI Agent 또는 챗봇 같은 것을 개발하다보면

주어진 상황이나 또는 RAG 데이터에 기반해서 정답을 찾아야 하는데

전혀 다른 소리를 하거나 아니면 일반적인 상황에 대한 답변을 하는 경우가 상당히 자주 발생을 한다.

이런 것을 컨트롤할 다양한 방법들을 시도해볼 수 있지만,

프롬프트 엔지니어링이 상당히 중요한 부분이면서 가장 강력한 솔루션이 될 수 있다.

그리고 그러한 프롬프트 엔지니어링을 배울 수 있는 좋은 책이 바로 여기 있다.

"할루시네이션을 줄여주는 프롬프트 엔지니어링"

"한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬 받아 작성된 서평입니다."

AI 시대를 이어 또 하나의 세상을 바꿀 새로운 기술 아이템으로 가장 각광을 받고 있는 "양자 컴퓨터"

과학계에서도 정말 핫한 주제인 "양자 역학"에 기반한

IT 기술 트렌드이자 기술적으로도 투자 시장에서도 정말 핫한 "양자 컴퓨터" 이다 !!!

https://www.youtube.com/watch?v=u6sGn9GsAjQ

IT 기술 관련하여 깊이 있는 컨텐츠를 꾸준히 계속 올려주는 "티타임즈TV" 채널에서

많이 봤던 분이 출간한 책이라서 재미있었다.

사실 처음 책을 받고는 "아! 양자 역학에 대해서 공부를 해봐야겠구나"라는 생각이 먼저 들었다.

그런데, 목차를 보니...

제목에서 "양자 역학"을 찾아볼 수 없다.

서브 챕터로 "1.3 양자 역학의 기본 개념: 초미세 세계의 마법"로 있을 뿐이다.

그렇다.

이 책은 "양자 역학"에 대한 책이 아니라 "양자 컴퓨터"에 대한 책이다 !!!

정지훈 박사님의 이력을 보면 알 수 있지만, 투자자이시기도 하다.

유튜브 영상을 봐도 알겠지만, 투자자 입장에서 많은 것을 전달해 주신다.

그렇기에 책의 말미에도 8장에서 투자에 대해서 설명을 해주고 계신다 ^^

우리 모두 부자 되자!!!

양자 컴퓨터는 먼 미래가 아닌 현재에 있는 기술이다.

하지만 양자 역학 때문인지 모르겠으나 많은 사람들이 아직 상상의 기술로 여기는 경우가 많은 것 같다.

양자 컴퓨터는 단지 계산만 빠른 컴퓨터가 아니다.

양자 컴퓨터이다 보니 기존 컴퓨터 기술과 차이가 나는 부분들이 있으며

이에 대해서는 공부를 해야한다.

양자 컴퓨터를 공부하고 싶은 분들에게 추천하는 책이 바로 이 책이다!

오죽하면 책 제목에 "강의"라고 되어있겠는가!!!

"한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬 받아 작성된 서평입니다."

최근 IT 분야에서 신입 채용 시장도 어렵고, 희망 퇴직이나 정리 해고 등의 이야기가 나오는 시기이다보니

"코드 너머, 회사보다 오래 남을 개발자"라는 책 제목은 아주 자극적이었다!

"코드 너머"라는 부분으로 인해서 처음에 드는 생각은 "어?! 코딩 말고 AI 역량을 말하는 것인가?"이었다.

어?! 그런데, 지은이들이 왠지 전부 낯익은 이름들이네?!

표지에 나온 4명 외에도 3명의 지은이가 더 포함되어 총 7명의 지은이들이 만든 책이라고 한다.

그리고, 내가 알고 있는대로 지은이들은 전부 데브렐(RedRel) 업무 관련자들이다.

데브렐(DevRel, DR, Developer Relations)이라는 직무는

개발자들을 위한 소통, 교류, 관계, 문화 등의 활동을 의미한다고 볼 수 있다.

PR(Public Rel, 일반인 대상), IR(Investor Rel, 투자자 대상), ER(Employee Rel, 임직원 대상) 등의

직무와 별도로 DR 직무를 별도로 두는 것은 개발자들의 중요도와 가치가 높아졌다는 반증이지 싶다.

여러 회사의 DR 직무와 관련된 7명이 모여서 만든 6월말에 출간한 따끈따끈한 책이다.

총 7장으로 구성된 책인데, 7명의 지은이가 각 챕터를 작성했기에 어느 정도 독립적이다.

그렇기에 다양한 독자층에 따라 나름의 추천 순서를 제시해줄 수 있다.

뭔가, 그래픽노블 책처럼 페이지를 이동하면서 읽는 것 같은 게임같은 느낌이... ?! ^^

책은 풀컬러는 아니고 2색인데, 특이하게도 검은색과 핑크로 구성되어 있다.

산뜻한 느낌은 있는데 노안이 와서인지 조명이 좋지 않을 때 핑크색 부분의 가독성이 조금 떨어졌다.

좀 찐한 핑크색이거나 차라리 진한 빨강이나 진한 주황 등이었으면 더 좋았을 것 같다는 개인적인 의견이다.

책 내용은 코더가 아닌 개발자로써 기술적인 역량 외에 갖춰야할

소프트 스킬이나 퍼스널 브랜딩에 대한 이야기를 해주고 있다.

특히, 중요한 것은 소프트 스킬이지 않나 싶다.

몸으로 부딪히며 익히는 것도 좋지만

책에서 알려주는 내용들에 대해서 머리로, 몸으로 익히게 된다면 정년 연장의 꿈을 꿀 수 있지 않을까?!

그냥 막 책을 읽는 것도 좋지만, 책에서 말하는대로 한 번 따라해보는 것도 좋지 않을까 싶다.

음... 이번 주 회의에서는 중간에 끼어들지 않고 "무조건 끝까지 듣기"를 꼭 실천해봐야겠다 !!!

연휴만 만나면 정신을 못차리고 또 다시 지각 공부를 하게 되어버린 불량 학습자 !!!

▶ 기본 숙제 (필수)

CH04 (04-2) KerasNLP 또는 허깅페이스 BERT 모델로 영화 리뷰 감성 분석 후 결과 캡처하기

제공된 샘플 코드에서는 A100으로 학습했다고 하는데, T4로도 진행은 되었다.

다만, 엄청 오래걸렸을뿐...

label 값이랑 비교해보면 100% 정답을 맞췄다라는 것을 알 수 있다.

코멘트 내용도 참고해서 볼 수 있도록 추가해봤다.

"0" 값이 부정적인 평가이고, "1" 값이 긍정적인 평가이다.

무더운 여름이 계속되지만, 공부도 계속 되어야 한다구요 !!!

▶ 기본 숙제 (필수)

CH03 (03-3) 사전 훈련 모델로 피스타치오 품종 이미지 분류 실습 후 결과 캡처하기

① 피스타치오 이미지 파일 다운로드

② 사전 훈련된 모델을 이용해서 품종 분류 예측 (EfficientNetB7 모델)

오늘은 일정이 좀 있어서 여기까지만 !

정신을 어디다 두고 다니는지...

지난 주가 여름 방학인줄로만 알고 마음 편히(?) 띵가 띵가 했는데,

이번 주가 여름 방학이고 지난 주는 공부를 했었어야 했다는 !!!

다행히, 넓은 아량을 갖고 계시는 우리 족장님이 한 주 유예를 해주셨다 !!!

▶ 기본 숙제 (필수)

CH03 (03-1, 03-2) MobileNet 또는 EfficientNet으로 이미지 분류하고 예측 결과 화면 캡쳐하기

코드를 살펴보면 딱히 설명할 것은 없다.

MobileNet 구조에 맞춰서 구성을 해주는 방식이다.

▶ 추가 숙제 (선택)

CH03 (03-3) 텐서플로 허브에서 모델을 불러오는 코드와 실행 결과 설명하기

상당히  특이한데, kerasLayer를 다운로드 받는 방식으로 불러온다.

입력을 받는 부분에 있어서 이미지 크기를 맞춰주는 부분만 추가 되었다.

"한빛미디어 서평단 <나는리뷰어다> 활동을 위해서 책을 협찬 받아 작성된 서평입니다."

책 제목에서 필요한 정보는 다 제공해주고 있다.

트랜스포머와 디퓨전 모델 기반의 생성형 AI를 실습해보면서 공부할 수 있도록 해주는 책이다.

그것도 6월 30일에 출간한 따끈따끈한 책이다.

참고로 원서는 24년 11월에 출간했다.

이 책은 입문자를 위한 책은 아니다.

파이썬이나 파이토치 등을 써봤고, 머신러닝이나 딥러닝에 대해서 살짝은 공부한 사람들을 위한 책이다.

그리고, 개인적으로 아주 좋아하는 풀컬러 책이다 !!!

최근 빠르게 발전하고 변화하는 AI 세상이다보니

원서의 코드들이 지금 실행하기에 이슈가 있을 수도 있는데,

예제 코드들을 다시 확인하고 정리해서 제공해주신다.

- https://github.com/yk-genai/genaibook

이 책은 총 10개 챕터를 3부로 나누어 구성하고 있다.

생성형 AI라고 해서 LLM 중심으로만 설명해주는 것이 아니라

Diffusion Model에 대해서도 설명을 해주면서 이미지 생성에 대해서 충실히 알려주고 있고

9장에서는 오디오에 대한 것 까지도 언급해주고 있다.

그리고, 각 챕터의 뒷 부분에 "연습 문제"와 "도전 문제"를 두어서

이 책을 스터디 용도로 사용하기에도 정말 좋다.

그리고 마지막 10장을 보면 이후에 어떤 주제를 추가적으로 공부하면 좋을지에 대해서도 설명해준다.

정말 공부하고자 하는 사람들을 위해 꼼꼼하게 신경을 많이쓴

충실한 교재라고 볼 수 있다.

말 그대로 눈 깜짝할 사이에 지나간 한 주.

어느덧 혼공학습단도 3주차가 되었다.

▶ 기본 숙제

Ch.02(02-2) VGGNet 또는 ResNet으로 고양이/강아지 이미지 분류하고 결과 화면 캡처하기

VGGNet으로 실행한 결과인데,

왠지 아쉬워서 ResNet까지 해봤다.

▶ 추가 숙제

Ch.02(02-1, 02-2, 02-3) AlexNet, VGGNet, ResNet 중 하나를 골라 모델 구조를 그림 또는 표로 정리하기

손으로 한 번 그려보려다가.... 그냥 summary 찍어버렸다 ^^