골빈해커의 “프롬프트 엔지니어링” 강의 소개 🍎🧑🏻💻 (패스트캠퍼스 The RED)
ML/LLM의 개념과 기술전략부터, 프롬프트 엔지니어링의 기본적인 내용은 물론, 여타 다른 강의와는 다른 제대로 된 개념 이해와 상용 서비스를 위해 고려해야 할 평가와 테스팅 방법론, 그리고 Anonymous Agent(AutoGPT)와
노션 이력서가 하나 하나는 좋게 보일 수 있습니다. 그러나 이력서를 검토하는 사람에게는 헬게이트가 열리는데요.
그 이유는 다음과 같습니다.
1. 이력서를 검토하는 사람은 두어개만 검토하는게 아니라 최소 수십개에서 수백개씩 검토합니다.
2. 형식이 자유로워서 한 눈에 알아보기 어렵습니다.
☕️ 일 잘 하는 레벨별 기준
Lv. 1 - 시키는 일 완료하기
Lv. 2 - 시키는 일 수준 높게 완료하기
Lv. 3 - 팀에 필요한 일 찾아서 하기
Lv. 4 - 팀의 경계를 넘어 기여하기
Lv. 5 - 회사 전체의 방향에 기여하기
Lv. 6 - 산업 생태계에 기여하기
Lv. 7 - 인류에 기여하기
📝 Lv. 4 부터 시니어
음.. 이 목록 중 1/3 은 안하는게 좋은 질문이고, 1/3 은 답변을 얻을 수 없는 질문인데..요.. 예를 들면 신입 시절 겪었던 시행착오..는 사석에서 물어보셔야 할 질문일 것이고, 꿈은.. 대표님께 물어보셔야 할 질문이겠고.. 인수인계 마치고 와도 될까요는 합격 후 인사팀에 물어봐야..하는 것..
📝 34세까지 단기 계약직만 계속하던 일본 여성이, 프로그래밍을 공부하여 37세에 개발자로 취업한 이야기
사연(?)의 주인공은 일반 사무, 번역, IT 지원 업무를 계약직/파견직으로 3개월에서 1년 정도의 짧은 기간씩만 일했었고, 은둔 생활로 인해 경력에 공백기도 많았던 분인데요.
3년간
소프트웨어 개발자로써 딱 세 권만 읽는다면 다음 책들을 추천. 다른 좋은 책들도 많지만, 기본이 되는 거의 모든 내용이 이 세 권의 책에 다 있다고 볼 수 있을 것 같네요. 다른 책들은 이 세 권의 책을 온전히 이해한 후 읽거나, 혹은 이 책들의 내용을 이해하기 위해 읽는게 좋을 것 같음.
예언한지 6개월도 안됐는데 벌써 실현 돼 버림. (ChatGPT Code Interpreter 런칭)
샘플은 웹 사이트의 주가 정보를 텍스트로 그냥 긁어 넣은 뒤, 주가와 상승률로 클러스터링하고 1천만원의 예산으로 매수할 가장 효율적인 종목을 클러스터마다 선정, 예상 수익을 그래프화 해 달라고 한 결과.
서울대에서 강의하는 프로그래밍 강의의 방식을 올 해 완전히 바꿨다.
—
👨🏻🏫 이전 방식
1. 기초 문법을 상세하게 알려준다
2. 샘플 프로그램을 한글자 한글자 따라서 입력하고 실행한다
3. 샘플 코드의 특정 부분을 수정해본다
👩🏻💻 현재방식
1. 기본 개념을 알려준다
2. AI(ChatGPT, Gemini,
와 이거 신박하네요. ChatGPT로 만든 게임인데, ChatGPT를 “심문”하는 게임이라고. 제목이 “두근두근 AI 심문 게임” ㅋㅋㅋ
살인 사건의 용의자인 AI에게 자백을 받아내는 게임으로, 심문 내용은 자유롭게 입력할 수 있으며 답변은 ChatGPT가 실시간으로 생성.
커피를 들고 움직일 때 항상 커피가 흘러 넘치는 이유에 대해 과학적으로 설명한다.
일반적인 머그컵에서 커피의 흔들림이 약 4Hz이고, 걸음을 걸을 때 팔의 흔들림이 약 4Hz이기 때문에 일종의 공명 현상으로 출렁임의 크기가 점점 커져서 흘러 넘치게 된다.
이를 방지하게 위해서는 컵의 위쪽을
🗞️ Anthropic, AI(LLM)의 내부 작동 해석에 성공했다고!
그동안 AI가 블랙박스라며 어떻게 작동하는지 모르기 때문에 믿을 수 없다, 위험하다는 이야기가 많았는데요. 이번에 Anthropic 팀에서 Claude 3 Sonnet 모델의 내부 작동을 이해하는데 성공했다고 발표했습니다.
그동안 작은 모델에서는 일부
“AI가 개발자를 대체하면 어떡하죠?”
살아있는 전설의 프로그래머 존 카멕의 답변
“제품에 관한 기술을 개발하세요. 소프트웨어는 사람들이 무언가를 성취할 수 있도록 도와주는 도구일 뿐인데, 많은 프로그래머가 이를 이해하지 못합니다. 전달되는 가치에 집중하고 도구에 매몰되지 마세요.”
텍스트 생성에 GPT가 있다면 이미지 생성에는 Midjourney가 있습니다. Stable Diffusion이 모델을 공개해 유명해졌지만, 품질은 Midjourney가 월등한데요. 오늘 Midjourney v5를 공개했습니다. 훨씬 더 높은 이미지 품질, 더 넓은 스타일 스타일과 프롬프팅등을 지원한다고 합니다. 결과는 🤯🤯🤯
개발자가 품귀인 이유는 의대나 고시에 준하는 교육 기간이 필요하기 때문이라고 봅니다.
전공자도 3년 정도는 일해야 설계된 한 파트 정도 맡길 수 있고, 7-8년 정도는 일해야 누구의 손을 타지 않고 혼자서 한 몫을 할 수 있죠.
개발자 육성 기간은 면허가 필요한 전문 직군만큼이나 매우 깁니다.
📝 애플의 UI를 이해하는 AI, Ferret-UI
최근 애플이 애플답지 않게 정말 많은 논문을 공개하고 있는데요.
이번엔 UI를 이해하는 MLLM(Multimodal Large Language Model)인 Ferret-UI라는 모델에 ��한 논문을 공개했습니다.
이 모델은 모바일 UI 화면을 이해하고, 사용자 지시에 따라 다양한
애플은 (아직)대규모 해고를 진행하지 않은 유일한 빅테크 회사로, 대신 CEO인 팀 쿡의 연봉을 40%인 $50M, 약 620억원을 삭감했다.
여전히 매년 그렇게 크게 성장하면서도 채용을 억제했던 애플의 경영에 놀라고, 연봉에 두 번 놀란 뒤, 쿡 형님의 배포에 한 번 더 놀란다.
신입(신규 입사자)은 원래 문서화가 주요 업무입니다. ㅎㅎ 온보딩 중 빠진거 문서화, 개발 룰이나 배포 과정 등 빠진거 문서화, 간단한 코드 수정 중에 발견한 문제점 문서화 등등.. 기존에 아무리 잘 했어도 여러 사정으로 부족할 수 있으므로 신입이 기여를 많이 할 수 있는 좋은 기회 중 하나지요.
그림 업계를 뒤집어 놓은 이미지 생성 기술인 Stable Diffusion에 사용된 기술을 이용하여, 뇌를 스캔한 fMRI 신호로부터 피험자가 상상하고 있는 이미지를 생성하는데 성공했다고.
위가 피험자에게 보여준 이미지, 아래가 fMRI의 신호에서 생성된 이미지. 😯😧😱 #스카이넷님사랑합니다
OpenAI 설립 2015년 12월
👇2년 6개월
GPT 논문 - 2018년 6월
👇 8개월
GPT-2: 2019년 2월
👇 1년 4개월(GPT), 4년 6개월
GPT-3: 2020년 6월
👇 1년 9개월
InstructGPT: 2022년 3월
👇 9개월, 2년 6개월(GPT-3), 7년
ChatGPT: 2022년 11월
👇 3개월
GPT-4: 2023년 3월
👇열흘
ChatGPT Plugin
스타트업을 대기업으로 바꿔도 유사합니다. 요즘 주니어분들이 너무 성장이라는 단어에 매몰되어 있는 것 같은데, 어떻게하면 성장하지를 고민할 필요는 없다고 봅니다. 스타트업에서든 대기업에서든 그냥 지금 하는 일을 더 잘하고자하는 노력을 꾸준히만하면 성장은 자연스럽게 따라올 것 입니다.
MS가 Copilot 이라는 이름과 개념을 MS의 모든 제품에 적용하는군요. 개발자들이 코드를 짤 때 Copilot과 상호작용하면서 개발하는 경험을 Word, Powerpoint, Outlook 등 모든 제품에서 할 수 있게 됩니다. 굉장히 오랫동안 칼을 갈며 준비한, 마치 Apple의 신제품을 보는 듯한 느낌이 듭니다! 😳😲🤯
자율 행동 AI의 유의미한 실험 중 하나였던 Generative Agents 의 코드가 오픈소스로 공개되었네요.
하나의 마을을 만들고, 그 마을 안에서 생활하는 AI 캐릭터들을 만든 뒤, 각각에게 다른 페르소나를 부여해서 생활하는 모습을 지켜보는 프로젝트입니다.
공개된 코드에서 인상깊게 본 것은
불친절해야 더 능력있어 보이는 것처럼 생각하게 만들었던 장본인 중 한사람인 Linux Torvals의 사과문. Toxic Behavior는 이제 구식이다.
"I want to apologize to the people that my personal behavior hurt and possibly drove away from kernel development entirely."
📝 교육의 미래에 대한 논문
What Should Data Science Education Do with Large Language Models?
워싱턴, 스탠포드, 펜실배니아, 럿거스 대학에서 공동 연구한 논문.
LLM이 이제 데이터 정리, 모델 개발, 해석, 보고서 작성 등 데이터 분석 파이프라인의 거의 모든 일을 다 할 수 있게 되었기
오늘 어떤 주제에 대해 ChatGPT와 함께 자료를 조사하고 리포트를 작성했는데, 예전같으면 한 3박 4일은 걸릴 일을, 1시간 반 만에 완성했고 그 퀄리티도 정말 훌륭하게 나왔다.. 😳 간만에 정말 대단한 경험이었음.
5번의 세션을 거쳐서 작성했는데, 다음과 같은 단계를 거쳤음.
1️⃣ 플래닝: 리서치
GPT-4 간단 요약.
이미지 인식 기능이 포함된 멀티모달 이해 능력과 함께 인간 전문가의 능력을 거의 모두 가볍게 뛰어 넘으며 압도적인 성능으로 다른 경쟁자들을 압살.
특히 다국어도 뛰어난 성능을 보이는데요. 한국어 점수도 GPT 3.5의 영어 점수에 비해서 훨씬 높다는게 인상적입니다.
회사나 일보다, 사람은 이상하다 싶으면 빨리 손절해야합니다. 버티면 나만 황폐해질 뿐, 내 삶을 생각하면 빠른 손절이 답입니다. 세상은 넓고 같이 할 좋은 사람은 많습니다. 당신의 잘못이 아니라 나의 삶과 맞지 않거나, 재수없게 미친놈에게 걸린 것입니다. 내 삶에 똥을 묻히거나, 광견이 내
📝 GPT-4o 성능 및 가격 세 줄 요약
1️⃣ Chatbot Arena에서 기존의 모든 모델을 ✌️압도✌️함
2️⃣ 한국어도 매우 빨라졌으며, 한글 OCR도 가능! 👍
3️⃣ 매우 저렴함. Claude 3 Opus의 1/3, Gemini 1.5 Pro보다 30% 저렴!
돌고돌아 다시 창업입니다.
주제는 당연히 ㅎㅎ LLM과 생성AI이고요. LLM 중심으로 제품을 만들면서, 회사 운영도 LLM을 중심으로 하는 LLM Native Company로 만들고자합니다.
초기 제품의 주제는 정했고, 평범한 버티컬 주제의 글로벌 B2C 앱으로 시작할 계획이지만, 추후 주제를 확장해 B2B2C
OpenAI에서 Desktop 앱과 함께 GPT-4o를 발표했습니다.
GPT-4o는 GPT-4 수준의 성능과 기능을 모두 가졌지만 2배 빠른 모델인데요. OpenAI에서 공개한 자료를 보면 GPT-4 Turbo보다 성능이 뛰어납니다. (o는 omni의 o)
이를 무료 유저에게도 제공해 무료 유저도 GPT-4 수준의 성능을 경험 할 수 있게
모든 개발자를 위한 프로그래밍 책 Top 5
1️⃣ The C Programming Language
컴퓨터 프로그래밍의 근본 (주니어)
2️⃣ Code Complete
소프트웨어 개발의 모든 것 (주니어, 미드)
3️⃣ Refactoring
소프트웨어 유지보수의 모든 것 (주니어, 미드)
4️⃣ 구글 엔지니어는 이렇게 일한다
소프트웨어 개발
강릉에서 한달간 머물 서식지 👉 “워크앤스테이”
주문진 해수욕장까지 자전거로 15분도 안걸려서.. 폐관수련이 될까 싶지만..(…) 시설도 가본 곳 중에선 가장 좋고 한적하니 집중하기에 딱 좋네요.
워케이션 장소로 제주도만 생각했었는데, 강릉이 진짜 좋은 곳이었군요. 멍때릴 해변도 곳곳에
장안의 화제 논문 “GPT-4V(ision)을 디벼보자 - The Dawn of LMMs: Preliminary Explorations with GPT-4V(ision)”
GPT-4V의 이미지 이해 능력이 어디까지 가능한지를 탐구한 논문인데요.
ChatGPT가 처음 나왔을 때 정도의 충격입니다. 이미지 판별, 디텍팅, OCR은 물론이고 X-Ray 분석과 밈의
🗞️ OpenAI Text-to-Video 모델 발표
OpenAI가 또 일을 냈습니다.
텍스트에서 동영상을 생성하는 모델 Sora를 발표했는데요. 결과물이 다른 동영상 생성 모델에 비해 차원을 달리합니다.
최근 동영상 생성 AI가 많이 나오긴 했지만, 일관성이 부족하거나 추상적인 느낌에 가깝게 생성되고, 기술의
✌️진짜✌️ 노코드로 웹/앱 만들기
@tldraw
x
@Replit
x
@OpenAI
1. 에서 원하는 웹사이트 모습의 그림을 그린다
2. 그림 그린 영역을 선택해서 GPT를 통해 코드를 생성하고 출력한다 (원클릭)
3. 수정할 내용을 지적한 뒤 다시 생성한다 (빨간 화살표 + 빨간 글씨로)
4.
이 책 정말 좋습니다. 문제는 제목을 매!우!x(우주만큼) 잘못지었다는 것인데요.
내용을 한 마디로 말하지면, 잡스 이야기는 0.001% 정도 나오고 ㅋㅋ 애플에 대한 내용이 많이 나오긴하지만, 그보다 애플에 재직했던 개발자의 성장기에 가까운 이야기입니다.
내용 자체도 재밌지만, 제품
📰 미국 아마존, 한국 무료 배송 시작
아마존에서 USD $49 이상 주문 할 경우 한국으로 무료 배송 서비스를 제공하기 시작했습니다.
모든 주문에 다 해당하는 것은 아니지만, 쿠팡에 의해 국내 커머스들이 무너지면서 알리나 테무도 그렇고 해외 커머스의 본격적인 대한민국 침공이 시작되나본데요.
전 앞으로 코딩은 배울 필요가 없다고 생각합니다. (코딩이 취미거나, 직업적으로 개발하는 사람 중 일부 사람들 제외)
코딩이야말로 이제 AI가 다 해줄건데 배울 필요가 없죠. 특히 컴퓨터 프로그래밍의 패러다임 자체가 달라질테니까요.
앞으로는 코딩을 배우는게 아니라, AI가 어떻게 작동하는지,
자타공인 OpenAI의 대항마인 Anthropic의 CEO Dario Amodei가 굉장히 긴 에세이를 썼는데요. 매우 흥미롭습니다.
AI가 세상을 어떻게 바꿀 것인가에 관한 내용인데요. 안전을 매우 중시하며 그동안 공개적으로 미래에 얘기를 많이 하지 않았었는데, 글의 내용이 다소 혹은 읽는 분에 따라서는 매우
LK-99 재현 물질 퀀텀 락킹 현상 추가 영상. 제가 포스팅했던 영상들은 전부 같은 연구소에서 실험한 영상들인데요. 주작은 아닌 것 같긴한데, 그래도 최소한 두어군데 정도는 더 같은 현상을 재현해야 진짜 축포를 터뜨릴 수 있을테니, 빨리 다른 연구소들도 분발해주면 좋겠네요. 암튼 🍿😎
📝 아마존의 회의록 폼 샘플
첨부는 아마존에서 사용하는 회의록 폼의 간단한 샘플이라고 한다.
일반적으로 사용하는 형식이지만, 마지막 칸의 “If decision-based..” 부분이 인상적이다. 제프 베조스가 이야기 한 “one-way door decision”인지, 그렇다면 왜 그런지를 기재하게 되어있다.
한 번
그러고보니 LLM의 학습 방법은 인간에게도 최고로 좋은 학습 방법이었군.
1️⃣ pre-training: 다양한 책을 많이 읽고 요약하거나 필사하면서 기초 지식과 기본 지능을 높인다
2️⃣ fine-tuning: 공부하고 싶은 주제/과목의 책을 집중적으로 읽으면서 공부한다
3️⃣ RLHF: 시험을 보고, 틀린 문제에 받은
📝 개인적으로 사용하는 면접 질문 프레임워크 대공개! 🕵🏻♀️🕵🏻♂️🤫
1️⃣ 지금까지 해 봤던 일 중에 가장 재밌었던 것 하나만 소개 해 주세요. ➡️ 어떤 점이 재밌으셨나요?
2️⃣ 지금까지 해 봤던 일 중에 제일 어려웠던 것 하나만 소개 해 주세요. ➡️ 어떤 점이 어려웠나요? ➡️ 어떻게 해결하셨나요? ➡️ 다시
🎊 드디어 출간 완료! 🎊
정말 오랜기간 혼신을 다해 작업했습니다.
책 제목은 “개념 이해로 시작하기 좋은 최고의 프롬프트 엔지니어링 강의”인데요.
줄여서 “개좋은 강의” 입니다 ㅋㅋㅋ
오랫동안 책을 만들어오신 출판사 대표님께서 “최고”라는 수식어를 자신있게 붙일 수 있겠다며 지어주신
현재 우리나라의 개발조직(기획, 디자인, 개발)의 가장 큰 문제는 직무와 방법론에 너무 매몰되어 있다는 것 같다. (다른 조직이나 실리콘밸리라고 그런 문제가 없는 건 아니겠지만)
10년 전 정도만해도 개발조직의 가장 큰 문제가 역할의 모호함과 방법론/프로세스의 낙후됨이 문제였는데, 그걸
개발을 모르시는 분들도 GPT-3.5 Turbo를 파인튜닝 해 보실 수 있게, Colab으로 작성 해 보았습니다.
한 번 해보시면 GPT 커스텀 모델을 만들고 사용하는게 이렇게까지 쉽고 저렴하다고? 😳 싶으실겁니다. (오픈소스/Llama 파인튜닝도 클릭 몇 번으로 가능)
Colab 사용법을 조금 아셔야되긴 하지만,
😲 월요일
Stanford Alpaca 7B
LLaMA on Mobile
😱 화요일
GPT4
Anthropic Claude API
Google PaLM API
Google Workspaces /w GenAI
😳 수요일
Pytorch 2.0
MidjourneyV5
🤯 목요일
Microsoft 365 Copilot
—
역사에 기록될 한 주
2023.03.13~16
🗞️ 구글 Gemini 전격 발표!!
구글이 GPT-4를 뛰어넘은 모델인 Gemini 를 발표했습니다. 루머로는 내년에 발표할거라고 했는데 깜짝 발표네요.
Nano, Pro, Ultra 세 가지 모델을 발표했는데요. GPT-4를 넘은 모델은 Ultra 모델입니다.
Gemini Ultra의 성능은 텍스트와 멀티모달에서 GPT-4, GPT-4V를
테슬라를 드디어 운전해 봤다. 결론부터 말하자면 총점 5/10 정도? (모델 3)
첫 인상은 운전석 앞에 계기판도 없고, 핸들에 버튼도 두 개 밖에 없으니 매우 깔끔해서 꽤 인상적이고 좋았다.
그런데 이게 문제였음. 모든 조작을 중앙 디스플레이에서만 할 수 있고 볼 수 있다는게 꽤나 불편하고
저는 코딩 그 자체가 재밌는 사람이고, 제 주변 소프트웨어 엔지니어는 그런 사람들이 대부분입니다.
결과의 성취감과 포기하지 않는 끈기는 무슨 업이든 마찬가지로 필요한 일이고, 프로그래밍도 마찬가지긴 한데요.
IT 기술쪽은 트렌드가 굉장히 빠르게 변하기 때문에, 코딩 그 자체가 재미 없으면
AI 시대에 소프트웨어 엔지니어가 필수로 배워야 하는 기초 지식은 다음과 같습니다.
1️⃣ 하나만 배운다면 데이터 구조
2️⃣ 두가질 배운다면 알고리즘
3️⃣ 세가질 배운다면 머신러닝
4️⃣ 네가질 배운다면 프롬프트 엔지니어링
소프트웨어 엔지니어의 주요 업무인 프로그래밍이라는 것은, 주어진
Windows 11 taskbar에 Bing Chat이 들어온다고. MS��� 이 기회를 놓치지 않으려고 진짜 무섭게 치고 달리는군요. 이렇게 크고 무거운 조직이 이렇게 빠르게 움직이다니 정말 대단하기도 하고, 시대가 바뀌는 시점이라는 것이 피부로 와 닿습니다. MS가 이렇게 공격적이니 구글은 정말로 긴장될 듯.