머가필요해

GitHub에서 여러 LLM 모델들을 가지고 놀 수 있는 서비스를 제공하고자 하고 있어서

이것을 소개해보려 한다.

아직은 정식 서비스를 하고 있지 않아서인지, 메뉴가 꼭 꼭 숨어있다.

아! 아직은 Preview 상태라서 해당 메뉴가 보이지 않는 분들이 계실 수도 있다.

그런 분들은 그냥 이런게 곧 나오겠구나~하고 구경 먼저 해보시길 ^^

일단 로그인을 하고...

왼쪽 위 메뉴 버튼을 눌러 펼친 다음에

"Marketplace"를 선택하자.

Marketplace 메뉴들을 보면 "Models"를 발견할 수 있다.

여러 LLM 모델들을 볼 수 있는데,

일단 친근한 GPT-4o를 선택해보자.

오른쪽 위의 "Playground" 버튼을 선택해보자.

System prompt를 비롯해서 Max Tokens라던지, Temperature 등 여러 parameter들을 설정할 수도 있다.

직접 프롬프트를 입력하면 대기시간 없이 즉시 응답을 해준다.

한글 출력이 깨지는 것이 있는데, model의 잘못인지 GitHub에서의 출력 문제인지는 불분명하다.

말만 들어봤던 Mistral 모델을 가지고도 한 번 해봤다.

한글도 잘 알아듣고, 결과도 나름 괜찮네!?

현재 GitHub Models에서 사용해볼 수 있는 model들은 다음과 같다.

이걸 가지고 뭔가 재미난 것들을 해볼 수도 있을 것 같은데...

Preview 기간이 끝나면 당연하게도 유료 서비스가 될 것 같아서 ^^

최근 나오는 IT 서적의 상당수는 챗GPT에 대한 것들이다.

순위권들을 전부 씹어먹고 있다는...

처음에는 LLM에 대한 역사부터 설명하는 그런 책들이 트렌드였다가

최근에는 프롬프트에 대한 것들로 채워진 책들이 트렌드를 이끌고 있다.

이런 책 시장에 또 하나의 챗GPT 서적이 등장했다,

다른 챗GPT 책들과의 차별점이 보인다.

"개발자"

개발자를 위한 챗GPT 가이드인 것이다!!!

글로벌한 인재라는 느낌이 팍!팍! 드는 소개가 보인다.

그리고,

"마이크로소프트 본사의 Copilot Applied AI팀에서 Senior Data Scientist"

Copilot 활용에 대해서는 전문가일 것이라는 느낌이 팍! 팍!

바로 이 부분이 다른 챗GPT 서적들과의 차별점이다.

개발자에게 어떤 도움이 되는지에 대해서 설명해주는 책인 것이다.

이 책의 정체성이기에 계속 강조해본다!

7월의 마지막날에 등장한 따끈따끈한 책이다.

그런데, 펴낸곳은 "한빛미디어"인데, 책 표지를 보면 "디코딩"이라는 명칭만 보인다.

임프린트가 뭔가 해서 위키를 찾아봤다. (https://ko.wikipedia.org/wiki/임프린트)

호오.... 유능한 편집자 분의 닉네임이 "디코딩"이신가 보다. 고지연님?

실습을 위한 자료를 받을 수 있는 정확한 경로는 다음과 같다.

- https://github.com/decodingbook/ChatGPTforDev

뭔가 여러 파일들이 있을 것 같았는데, PDF 파일 하나만 덩그러니 있다.

그래도 이렇게 GitHub.com을 이용한 실습 자료 제공은 개인적으로 참 좋다!

목차를 보다가, 랭체인까지 설명해주는 것을 보고는 깜짝 놀랐다.

사실 책 제목만 보고는 챗GPT를 이용한 프롬프트 수준의 내용들일 것이라고 기대했는데,

Copilot을 이용하는 부분과 Colab을 활용하는 부분들, 그리고 랭체인까지 설명해주는 것을 보고는 정말 깜짝 놀랐다.

지은이가 마이크로스프트 소속이다 보니

Azure 환경을 이용한다던지, 아니면 GitHub의 codespaces를 이용한다던지 할 줄 알았는데

Colab에서 이렇게 예제들을 설명하는 것을 보고 감동 받았다.

거기에다가

Bing 검색이 아니라 구글 검색을 언급하고, 예제는 duckduckgo를 이용하다니...

우와~ 정말 개발자 친화적이다!!!

그리고, 개인적으로 정말 좋아하는.... 풀컬러 책이다!!!

결론적으로,

SW개발자들이라면 한 번쯤 구매해서 읽어보면

책 값 이상으로 개발 효율성을 높일 수 있을만한 내용들을 담고있다고 생각한다.

"한빛미디어 <나는 리뷰어다> 활동을 위해서 책을 제공받아 작성된 서평입니다."

ChatGPT가 정말 범지구적인 인기를 얻고있다.

최근에 그 성장세가 주춤해졌다고 뉴스에서 떠들지만, 그래도 여전히 대단한 인기이다.

인기를 얻으면 뭐가 따라올까!?

당연히 Anti가 따라온다.

그리고, 일종의 sacarsm(빈정댐, 비꼼)도 등장한다.

뭔가 깔끔하게 잘 만들어진 인터페이스가 먼저 눈에 들어온다.

그리고, 귀찮게 로그인하지 않아도 사용할 수 있다.

오른쪽 위의 X를 누르자.

"ChatGPT를 따라했네!?"라며 그냥 넘어가지 말고

그 안의 내용물을 좀 살펴보면... 저절로 웃음이 나올 것이다.

AI apocalypse ?????? ㅋㅋㅋ

한글 질문에 한글 대답도 할 줄 안다.

근데, 말투가 상당히 건방지지 않은가 ?! ㅋㅋㅋ

저런 X가지 없는 말만 하는 것은 아니다.

가끔 말을 듣기도 하고, 실제로 코드를 생성해주기도 한다.

다만, 그다지 긴 대답을 하지는 못해서 큰 기대를 하면 안된다.

BratGPT는 BratAI에서 만들었다고 한다.

그런데, 별 내용은 없다.

애초에 뭘 얻고자 이런 사이트를 운영하고자 하는 것인지는 모르겠지만,

AI 윤리를 생각해보면.... 음... 뭔가 생각해볼 꺼리가 있을 것 같다.

ChatGPT를 생각해보면 많은 이슈거리들이 뉴스를 장식하고 있다.

차별적인 발언을 해도 문제고, 가치 판단을 해도 문제고 ... 도덕적으로 완전무결.... 거의 순결해야 한다고 강요하고 있다.

과연 이것이 맞는 것일까?!

뭐 그냥 그렇다고.... ^^

개인적으로 너무 애정하는 "GitHub Copilot"은

OpenAI의 GPT3을 기반으로 소스코드를 추가적으로 학습한 Codex를 가지고 만들어진

AI 기반 프로그래밍 어시스턴트로써 2021년 10월에 Beta로 발표했고, 22년 6월에 상용화되었다.

비주얼 스튜디오 코드, 비주얼 스튜디오, Neovim, 젯브레인즈 통합 개발 환경 등

다양한 IDE의 Extension 형식으로 설치하여 기본적으로는 자동 완성 기능의 형태로 suggestion 해주는 방식이다.

소스코드 파일에 주석을 작성하면 function 단위 또는 block 단위로 제안을 해주기도 하고

코드를 작성하다보면 auto-completion과 같이 제안을 해주기도 한다.

이런 와중에 ChatGPT가 전무후무한 대박이 터지고 GPT4까지 발표하게 되면서

GitHub에서는 아니, MicroSoft에서는 물 들어온김에 노젓는다고....

첫 등장한지 얼마 되지도 않은 Copilot을 또 레벨업을 하게 된다.

기존 ‘Copilot’에 GPT-4를 결합하고 새로운 기능을 추가한 ‘Copilot X’를 3월 23일 발표했다.

아직은 Wait-List를 통해 신청해야만 사용해볼 수 있다.

차례가 되면 이메일로 당첨(?) 소식을 알려주는데,

"Visual Srudio Code Insider + GitHub Copilot Nightly Extension" 조합으로 사용해볼 수 있다.

'Visual Studio'까지는 지원을 해주는데,

아직 다른 IDE는 지원하지 않고 있는 것 같다.

설치하고 나면 위와 같이 오른쪽에 Chat 버튼이 생긴다.

이제 정말 외롭지 않게(?) copilot과 함께 대화하면서 코딩 할 수 있다. (개발자는 이제 혼자가 아니야!!!)

단순한 소스 코드라서 그런 것일 수도 있겠지만, unittest 코드도 잘 만들어주는 것 같다 ^^

우와~~~ 혹시나 했지만, 한글도 된다 !!!!!

개선 코드 제안도 정말 깔끔하게 정말 정말 잘 해준다!!! 우와!!!

커밋 메시지를 어떻게 작성할 것인지에 대해서도 정말 잘 알려준다!!!

Copilot을 잘 사용하던 중 ChatGPT가 등장하면서

과연 Copilot에서는 어떻게 대응할까 궁금했었는데.... (Chat 방식으로 코드 생성을 해주는 것과의 비교)

이렇게 접목을 하니... 정말... 개발자들의 생산성이 높아지지 않을 수가 없는 상황이 되었다.

음... 이런걸 보고하면.... 이런 말이 나올까봐 무섭다.

"야! 그러면 개발자들 몇 명 짜를 수 있냐?"

개발자 각자의 생산성이 높아지는 것이고 pair 프로그래밍을 할 수 있는 것이지

AI가 1명의 독립적인 역할을 하는 것이 아닌데...

설명을 해도 높은 곳에 있는 분들은 이해를 ... 하려하지 않는 ... 하고싶어하지 않는 ...

좋은 도구가 나와서 좋아야 하는데, 왜 우울하지!?

아이폰의 등장과 같은, 아니 그보다 더한 파급력을 보여주고 있는 ChatGPT !!!!

일부 사람만 사용할 수 있는 어려운 interface가 아니라 누구나 사용할 수 있으며

IT 분야에 제한되지 않는 모든 분야는 물론 일상적인 용도로도 사용할 수 있는

즉, 대중성을 갖고 있기에 이런 어머어마한 인기를 얻는 것이 아닌가 생각된다.

모든 사람을 똑똑하게 만들어 줄 수 있는 훌륭한 도구 - ChatGPT !!!

이런 ChatGPT의 활용도를 높여주는 많은 서비스들이 우후죽순 쏟아지고 있는데

그 중에서 논문 살펴볼 때 많은 도움을 주는 훌륭한 아이가 있어서 소개하고자 한다.

https://www.chatpdf.com/

PDF 문서를 입력으로 주고

그에 대해서 여러가지 질문을 던지거나 요청을 하면 ChatGPT를 이용해 답변을 해주는 서비스다.

가격 정책은 다음과 같다.

그리고 로그인 하지 않아도 기본적인 사용은 가능하지만

나의 Chat 내역 기록이 필요하면 로그인 해주는 것이 좋다.

으음?! fIrebase로 구현을 했네!? ^^

다시 한 번 말하지만, 굳이 필요 없다면 로그인 없이도 사용할 수 있다.

그러면, 일단 오늘 살펴볼 논문을 검색해볼까!?

https://paperswithcode.com/

살펴볼 논문의 Paper 버튼을 통해 다운로드를 받던지

아니면 파일의 경로를 복사하던지 하면 된다.

그런 다음 ChatPDF에 파일을 등록하던지 아니면 경로를 입력하면 된다.

그러면, 추천하는 질문들도 알려준다.

그 질문 그대로 입력하면 당연히 잘 대답해준다.

혹시 한글로 물어봐도 대답 잘 해주려나?

질문은 이해하는데, 답은 영어로 하네?!

뭔가 좀 아쉬운데...

어!? 된다!!!!

조금 아쉬운데...

논문 공부하기에 정말 훌륭하지 않은가!?

설명만으로 그치지 않고, 궁금한 것에 대해서 물어볼 수도 있다는 점이 대단하다!!!

PDF를 업로드 한다고 하면 보안에 대해서는 잘 되어있을까!?

뭐 나름 보안에 신경쓰는 것 같기는 하지만

회사 업무 문서를 업로드해서 사용하는 것에는 절대 권장할 수 없을 것 같다.

제목에도 쓴 것 처럼

공부를 위해 논문들을 살펴보는 용도 정도로 사용하기를 권장 드린다.

아! 그리고 아직은 GPT 3.5 기반이다.

GPT 4.0을 연결하는 것에 대해서는 계속 노력하고 있다고 한다.