Hirosato Gamo | AI Cloud Solution Architect
@hiro_gamo
Followers
11K
Following
319
Media
223
Statuses
2K
@Microsoft AI Cloud Solution Architect / Microsoft Evangelist / 上智大学 大学院 応用データサイエンス学位プログラム 非常勤講師 GPTなどAI技術導入の支援、LLM開発の執筆・登壇、生成AI関連の講義などに従事。Posts on my own.
Joined May 2020
「Azure OpenAI ServiceではじめるChatGPT/LLMシステム構築入門」を共同執筆しました。.ChatGPTが登場して、ほとんどLLMの仕事しかしてないメンバばかりで作った渾身の1作です。.さいきん血反吐だしてた理由はこれの執筆も一因です。. 内容は↓.・LLMの基礎やプロンプトエンジニアリング.・Azure
2
121
807
「パパの仕事はデータサイエンティストだよー」と2歳の娘に教えたら頑張ってちゃんと覚えてくれたのだが、終業時間付近になると机の近くに来て.「データサイエンティスト、もう終わった？いつ終わる？」と不吉なブログ記事みたいなことを言ってくるようになった。.
5
2K
7K
4/21 DS協会さんでの講演資料をアップしました。一時サーバダウンするほどの盛況？でした。.私の健康を犠牲にした90ページ全部入り資料です。.「ChatGPTによって描かれる未来とAI開発の変遷」.動画の公開も近くご連絡行くかと。.ご登録の4639名の方、ありがとうございました！
8
553
3K
Microsoft Copilot (旧Bing Chat) のTipsとして. モード：厳密.地域：米国.Prompt：英語で検索クエリを作成し、回答は日本語で出力して. みたいにやると海外のサイト引っ張ってきて、GPT-4使って勝手に調査して回答してくれるから日本人IT屋には非常に便利よ。
4
432
3K
この発表通りなら、.・速度が最大3倍.・料金は約1/2.・日本語精度が向上.このGPT-4が自社サービスに組み込めるかも知れないということ。. 英語以外にこんな優遇されてる国は無い。.日本企業にとってはこんなチャンスそうそう無いってマジで。AIがんばろう日本。.
OpenAI Japanの発足とまさかの日本語GPT-4の発表。.APIで数ヶ月以内にリリース！. 「日本語のテキストの翻訳と要約のパフォーマンス、およびコスト効率を向上させ、前モデルと比較して、最大3倍高速に動作します。」. これはアツい。.
9
468
2K
ChatGPTで初めて機械学習に触れる方も多いと思います。比較的MLへの敷居は下がりましたが、それでも「ゼロから作るDeep Learning」の自然言語処理編は絶対読んでおくと良いです。解説はGPTでなくRNNですが、言語モデルが何をしてるか非ML専門家でも感覚的に掴めると思います.
3
171
2K
きたきた。.この件は私個人は関わってないですが、ChatGPT導入の流れはどんどん続く。.ソースはワイの死ぬほどの忙しさ。.
7
410
2K
今更だけど岡崎先生のこの資料神だわ…。.この情報量に対して閲覧数少ないの勿体ない。もっと広まってほしい。. LLM使ってるが仕組みの知見は弱いとか、ファインチューニングや独自LLM開発に挑戦したい人は最初に読むべき。平易に書いてあって非常に分かりやすい。.
1
194
1K
私がコツコツ図を作ってはアップデートしてる無料のLLMシステム開発マニュアル「ChatGPT - LLMシステム開発大全」をアップデートしました。. もう200ページ近くなってきました。これだけ図解だらけのLLM資料は有償無償のどんな書籍や資料を見てもなかなか無いんじゃないかと自負してます！
3
197
1K
エンジニアでない人にはあまり馴染みが無いと思うけど、メタはオープンソースめちゃくちゃ強くて、思いつくだけでもCassandra, React, Pytorch, prophetなど長きに渡り一線級のものがたくさんある。(合ってる？).
メタが生成AIでMicrosoftと提携します。クラウド大手と生成AIの基盤技術を手掛ける企業の提携が相次ぐワケは。大規模なデータセンターが開発や利用に必須になっていることが背景にあります。.
5
218
1K
なぜMicrosoft社員がサティア・ナデラCEOに全幅の信頼を置いているかは、今回の動きで世間に伝わってよかったと思う。. スマートフォンで負け、クラウドで後れを取り、GAFAに入れず半ば諦めムードの中で就任した10年前から、今この盤面になることを誰が想像しただろう。.
6
191
1K
ChatGPT - Azure OpenAI大全を公開しました。.
7
200
1K
1冊挙げろと言われたら小西先生の多変量解析入門だけど、初心者向けのガチ名著だなと思ったのは↓あたり。取り敢えず持ってたら一生役に立つ気がする。. 多変量解析入門 -線形から非線形へ-. ゼロから作るDeep Learning.
データサイエンティストにとっての｢リーダブルコード｣に近い存在ってなんだろう。『効果検証入門』、『データ解析のための統計モデリング入門』、はじパタあたりだろうか。.
1
117
916
「GPT-4が発表されて3週間しか経ってない」という事実が信じられず調べ直した。マジだった。.3ヶ月くらい経ってる感覚なんだが…。ChatGPT推進の立場になってから自分の時間感覚が破壊されている。動きが早すぎ。.え、てことは俺の老化速度も1/4に？.すげえぞChatGPT。.疲れてるから寝るぞChatGPT。.
7
246
877
こんなセリフ吐き捨てて放置も良くないかなと思ったので、具体的に何をどれくらいやったら良いと思うのかも書いときますね。. まずゼロから作るDeep.
LLM扱うエンジニアなら、数式まで完璧に覚えなくても良いけどTransformerのdecoderの学習と推論の仕組みくらいはざっくり理解しといたほうが良い。. Promptingも、Fine tuningかRAGの選択する時も、テスト評価する時も、その辺把握してない人は何だかんだ明後日の方向の発想をする人が多い。.
0
77
882
ちょっと話題になってるAzureでChatGPT環境を再現するためのサンプル実装。. いい感じにベーシックな機能を備えてくれてる実装で良き。企業ChatGPT展開する場合は下記みたいな要素があるか意識しとくといいかも。.色んな企業で検討されてるアイディア纏めました。
1
107
754
ChatGPTが本気で普及した時にどんな能力が必要かって聞かれる機会が増えたのですが、開発観点だと今時点では↓な気がしてます。(雑).・クラウドに詳しい.・アプリ開発に詳しい(Python使えると楽).・AIに一定の知見がある.・言語能力が高い(英語できると尚可).・(再現性のある)情報の収集能力が高い.
1
80
730
いち早くChatGPTの採用決めたパナソニックコネクトさんの例。Azure。.ChatGPTは外部ソースへの接続で爆発的に応用が広がるけど「四の五の言わず安全な用途から、素でもいいから使って考えようぜ！」のマインド素晴らしい。.走ってみないと思いつかないことは山のようにある。.
0
150
718
データサイエンスを学んで、もちろんキャリア的にも良かったのだけれど、巷の統計・調査結果に踊らされなくなったことは人生にとって非常に大きい。.本当に嫌になるほど、適当で恣意的な数字の見せ方が世の中に溢れている。そして数字を誤解してしまう人の多さを実感できる。.
5
78
686
大変長らくお待たせいたしました。.ご好評いただいていたChatGPT-Azure OpenAI大全ですが、メジャーアップデートしました。. ChatGPT-LLMシステム開発大全へ名称変更しています。
3
137
693
OpenAI Japanの発足とまさかの日本語GPT-4の発表。.APIで数ヶ月以内にリリース！. 「日本語のテキストの翻訳と要約のパフォーマンス、およびコスト効率を向上させ、前モデルと比較して、最大3倍高速に動作します。」. これはアツい。.
Introducing OpenAI Japan, our first office in Asia, along with a new GPT-4 custom model specifically optimized for 日本語 (the Japanese language).
0
214
678
日本マイクロソフトからGPTのリファレンスアーキテクチャを公開。日本語のシナリオがベースになったサンプル実装が目白押しです！このリポジトリ押さえておけば色々捗りますね。ログとか認証周りまであるの嬉しい。. ～サンプル一覧～.1. コールセンター向けGPTアシスタント
2
126
675
今日のOpenAIの発表、ワイが半年前から予想してたマルチモーダルAIの実用化世界に向けての布石になるものじゃないかと期待してる。. 既存のアプリにLLMが入って「便利だね」には留まらない。つまりCopilotは本当に序章に過ぎない。
8
125
673
ChatGPT絡みでAzure説明してると「それAWSで言うと何？」とピュアに言われることがあります。.ぶっちゃけ私もそのクチだったので全然気にしないのですが、中には「Microsoftの人に聞くの悪いよね…」と思ってくださる心優しい人向けに、ちゃんと比較サイトが準備されてます。.
1
103
588
一日一善ということで…、今日はRAGのドキュメントからの情報抽出でよく使われてる地味なサービスの紹介。Azure Document Intelligence。. Azure Document Intelligence(以下ADI)はPDFのOCRやレイアウト抽出ができるAPIサービスで、LLMのRAGの文脈で発展を続けてます。
1
66
576
これ、自分の会社ながらビックリした。人が作ったってたまたま似てしまったものが著作権侵害になることもあるのに。.Copilotの生成物でMicrosoftは知的財産権を主張しないが、著作権侵害の訴訟結果は引き受けると。.凄い決断だ。ちゃんと原文読み込もう。.
3
152
549
時系列解析の概要とかおすすめ書籍をまとめたら吐くほど長くなって死に至るので皆さん気をつけてください。時系列解析って信号解析と似てたりして何かモヤモヤするよねって思いから、整理してみました。.
0
76
556
今更見つけたけど、Azure OpenAIのネットワーク閉域化の詳細解説。エンタープライズ企業なんかは大歓喜ですね。もう感謝しかない。.
2
81
554
Microsoft発のlangchainに相当するOSS「Semantic Kernel」について解説したブログ。.これがGPT開発における主流になっていくかはさておき、大規模言語モデル開発においては「AIがプロンプトを解釈し、タスク分解し外部APIと連携する」という世界観を見据えているのが分かる。.
3
112
543
このブログ、RAGのチートシートが注目されてたけど精度向上の手法が簡潔に纏まっててリンクもあって素晴らしい。RAGやるならブックマークしといた方がいい。.Llamaindex聞く機会減ったけど流石にChatGPT以前からLLMを引っ張ってきただけあってRAGでは一日の長がある。.
2
50
520
講演の動画1万再生、資料35000ビュー！.これでワイもChatGPT系Youtuberや！. ChatGPT系Youtuber、楽しそうだけど神経すり減ってワイはこの1カ月で3キロ瘦せたんや…。.ChatGPTダイエット恐るべし。.すげえぞChatGPT。.
2
66
510
マルチモーダル / AI Agent / LLMOps 3つの技術トレンドで理解するLLMの今後の展望 - Speaker Deck. 最近の登壇資料を色々ぶち込んでアップしました。
0
72
500
Azure ChatGPTって一瞬話題になって消えたやつかな。Azure Chatって名前になって帰ってきたけど、これめちゃくちゃ良い実装じゃないか？この手のリポジトリで一番充実してるかも。お手本のような感じ。.・認証(Microsoft EntraID).・会話履歴参照(Cosmos DB).・UIからのドキュメント解析(Document
1
78
491
AI Agentを作るんじゃねえ。AI使って人の介入を限界まで削ぎ落とした「AIネイティブな仕事のプロセス」を作るのが目的や。結局やりたいことは.
2
66
496
最終告知になります。.4/21(金)18:30~ 『ChatGPTによって描かれる未来とAI開発の変遷』で登壇します。Agendaは画像。.登録者3000人を超えました。誰でも登録でき、登録しておくと録画が後で見れます。.基本的なところから始まり、3章では深淵に迫ります。部分視聴も歓迎です。.
5
68
480
「ChatGPTの10ヶ月と開発トレンドの現在地」.9/28の #日本CTO協会 イベントの登壇資料を公開しました。.・Prompt Engineeringの現在地.・RAG開発の現在地.・Plugin開発の現在地.・GPT-Vの登場と生成AI時代のこれからについて
5
95
481
4/21のChatGPT講演、勢いでアジェンダ公開したばっかりに70ページくらいの大作になりそうで激しく後悔している。終わったら力尽きて灰になりそう。.参加の2500名のみなさま、俺の屍を越えてゆけ。.LLMの未来は頼んだ。.
1
44
474
RAGのためにPDFをマークダウンに落とすの、Azure Document Intelligenceに去年アップデート来てたの見逃してて草。.これとGPT-4にチャンク分けと表の欠損値補完させるのを全員初手にやったらええ…。.
1
68
461
久々更新 ChatGPT - Azure OpenAI大全 です。細かいところを更新してたり情報を最新化してます。10~15ページくらい新規もあるかな？(元が150ページくらいだから誤差ですが).「明日からChatGPTでなんか開発しろ」って言われたら取りあえず見ておいてください。.
2
75
461
#DS協会 さんのご厚意で4/21「ChatGPTによって描かれる未来とAI開発の変遷」の講演アーカイブ動画が一般公開されました。当日の音声トラブルは解消されたフル版とのこと(恥ずかしくて見てない).前半がビジネス面、後半から技術面と全体感を掴むかなり濃密な内容になってます。.
1
88
444
何度か講演でも言及してるけど、ChatGPTはプロンプトを解釈し検索, AI,プログラムなどあらゆるAPIをコールし情報処理するようになる。このJARVSやSemantic Kernel,ChatPluginは明らかにその世界観を見据えている。(続く).
3
82
435
Aflacさんが作ったこの社内チャットボットのUIとてもいいなと思った。. システムプロンプトを毎回打つのは大変なのよ。.なので入力量をコンパクトにするのはとても重要。.凄いまっさらなチャット欄1つに拘るシステム多いけど、ボタン1つで設定切り替えできるのは良いですよね。
1
73
430
ChatGPTからカスタム命令機能がリリース。.まずPlusユーザから展開され、近いうちに全ユーザへ。.要は今までユーザプロンプトの中に含んでいた命令(回答形式指定やロール定義)を別枠で指示できるようになったという理解。.Azure
2
98
432
3/24のCTO協会さんのイベントで登壇した資料を公開しました！ChatGPTはじめLLMの登場でMLの開発もちょっと景色が変わりつつあります。.情報が錯綜しまくって訳わからない状態なので交通整理の意味で、promptまわりをはじめ開発における新概念を纏めました。.
1
68
412
OpenAIのサム・アルトマンが今日言及したように、日本語のようなマイナー言語がAIでプレゼンスを保つにはデータセット整備は極めて重要と思う。.AI界隈で生きていれば分かるが、データセットがどれだけ開発者や研究者を助けるか。重要な示唆だし、これを総理や与党に直接サムが言ったのも大きい。.
2
98
406
ChatGPT-LLM開発大全を少し大きめにアップデートしました。AI AgentやLLMOps周りを追加しています。毎度ですが私の経験・ノウハウを全ぶち込みしてる200ページ超の自作資料です。
0
63
409
最近なんで AI Agent が次来るぞって言われるかワイなりに考えた結果。やってみると作るのも評価するのもゲロ吐きそうになるくらい大変なんだけどね。
0
44
406
DS協会さんで予定してる私のChatGPT講演。応募も1000人を超えたので、今のところ予定してるアジェンダを貼っとこうと思います。一応登録はしないと動画は見れないとかだと思うので、少しでもご興味あれば。生のGPT開発現場も見てきた上で、これが私の出せる知見の全てです。.
1
51
400
OpenAI Japanの反応とか色々見てて、GPT-4クラスのAIを使ってる人は想像以上に少ないみたい。.無料でGPT-4クラスを使える唯一の手段(たぶん)として、Microsoft Copilot の厳密モード/クリエイティブモードがあります。
3
68
387
定期アップデート。. 私のLLM開発経験やTipsを全てぶち込んでるLLMシステム開発大全です。AOAI Dev Dayの内容や新しいモデルの反映などをしたくらいですが。.
0
47
396
GPT導入が企業で続いてますが、個人的には徐々に↓のような流れになると予想してます。.Stage1：ChatGPTを誰でも触れるようにし可能性を探る.Stage2：静的タスクに対しGPTが社内外のデータやAI、プログラムを使い解決.Stage3：ユーザ指示から動的にタスクパイプラインを生成してあらゆるシステムと連携.
2
43
384
OpenAIは段々と王者の貫禄が出てきた。.ナレッジカットオフ、コンテキスト長、価格など競合が一部でもOpenAIに追いつこうとし工夫する中、その努力を突き放し差を広げる一手。. 先日AWSの生成AIの攻勢に関するポストをしたとき、OpenAI Dev Dayの内容をここまで知っていたわけではない。.
2
43
389
これか！Bing Chatアプデ公式情報。.いつものように社員のくせにTwitterで探した！笑.ChatGPTに続くプラグインの発表と、マルチモーダル対応とか、デモ動画含めて載ってるっぽい。.まだちゃんと見れてないけど、めちゃくちゃ気になる…。子守でしばらく見れん…。.
1
64
381
ChatGPT講演ご視聴ありがとうございました！.何やら音声トラブルがあったようですが、録画は問題なく撮れているようですので、良ければそちらもご覧ください。.直前まで資料修正してて、ほぼぶっつけ本番で長くなり大変失礼致しました…。.
10
38
372
LLMOpsのアーキを簡易表現した例として最近この図をよく使う。「本体より後ろのほうが大変やん…」ってなる。.ちなみにこれに加えてRAG、コンテンツフィルタ、評価用AIのチューニングも入るので更にカオスになる。
1
45
378
Azure OpenAI Serviceについて、「OpenAI社のAPIをAzure経由で呼び出せるのか」と聞かれますが、これは違います。.Azure OpenAIのリソースはOpenAI社が公開しているものとは独立しています。名前的に「OpenAI社に大きなAIとコンピューティングリソースがあって、それをAzure OpenAI.
1
78
367
LLM扱うエンジニアなら、数式まで完璧に覚えなくても良いけどTransformerのdecoderの学習と推論の仕組みくらいはざっくり理解しといたほうが良い。. Promptingも、Fine tuningかRAGの選択する時も、テスト評価する時も、その辺把握してない人は何だかんだ明後日の方向の発想をする人が多い。.
0
35
368
ガッツリGPT-4で開発してる人なら分かると思うけど…そろそろGPT-5が欲しい。だんだん今の賢さでは出来ないことに幾つか気づいてしまっていて、満足できなくなっている自分がいる。. 半年前まで3.5で十分でしょって言ってたのに…。.
2
48
359
うおまじか！.ChatGPTに続きBing Chatにもプラグイン！.しかも先行してマルチモーダル対応。確かにBing ChatはGPT-4だしな。会話履歴も追加と。.神アプデか。え、詳細どこ？探そ。.
BREAKING: Microsoft is dropping a big set of updates to Bing Chat today. - Bing Chat Plugins.- Multimodal answers.- Persistent chat + chat history.- No more waitlist to use. Let's take a closer look:
1
78
355
Azure OpenAI Serviceはクラウド業界の勢力図をぶっ壊すレベルのキラーコンテンツだというのは推進者として感じるけど、いま何を一番Azureで勧めたいかと聞かれるとAzure Machine Learningと言ってしまうくらいにはアツい。.
2
46
358
これはですね…。. Azure OpenAIにはRAIの観点から独自機能としてコンテンツフィルタがデフォルトで組み込まれてまして、暴力的な表現などをGPTが出力したりしないかのチェックや、Jailbreak検知や他の著作物との重複が無いかなどの判定をしてくれます。.
ストリーミングで思い出した。.Azure OpenAIのストリーミングカクカクなんだけど、これなんか回避方法とかないのかな…？OpenAI APIのスムーズなストリーミングと比べると同じ製品とは思えない (同じ製品ではないから仕方ないのかもしれないけど.…)。.
1
55
357
「Azure OpenAI ServiceではじめるChatGPT/LLMシステム構築入門」の目次です。.GPTの基本から始まり、RAGの構築評価、非機能面まで。本業のAIエンジニアが全国の現場で培った知見を集約。手元にあれば役に立つかと。.気になる内容あったら是非。.
2
72
356
GPTの開発者に最も重要なのはこのセッション。RAGとPromptingとFine tuningの役割を平易に解説している。.プロダクションレベルではレイテンシ問題に対処するためにGPT-4の出力でGPT-3.5をfine tuningする(いわゆる蒸留)のは結構使いそう。新しい3.5 turbo引くほど速いし。.
0
39
351
【ゆる募】.ChatGPTエンドユーザ向けのプロンプトテクニックのTipsを纏めないといけないので思いつく限り書いてみました。.優しいGPTユーザのみなさま、ほかにも良い観点があれば教えてください。.・5W1Hを意識して書く(曖昧さを排除).・GPTに役割を与える.・質問回答の例示を与える.
6
37
346
PDF, Word, WebページなどをRAGのデータソースとする場合、一旦htmlへ変換させるのがベタープラクティスな気がしてきた。どれもhtmlへの変換や取得はAI使わずに容易にできるので、これでGPTが解釈しやすいテキスト形式に落とせる。. その後の流れは. ①.
4
34
347
いまさら知ったのですが、先日の講演を纏めてくださってたみたいです。うれしい。.ChatGPTを触ってて、仕組みが気になる、開発したいというユーザが対象です。資料(100ページ超)は63k、講演動画は28kビュー超えていて、お客様の勉強会資料としても広く使ってもらってます。.
1
45
342
Azure Machine Learning、コンピュートリソース作ったら表示されるvscodeリンク押すとvscode立ち上がってリソースと繋がり、Github Copilotとサクッと連携できます。実験管理はmlflowで、自動的にAzureMLの GUIに連携されてダッシュボード出来ます。.UX悪くないですよ。.
AzureML、全人類使ったほうがいい.
2
44
335
プロンプトエンジニアってエンドユーザが謎の呪文詠唱して名乗ってるイメージがあるのか馬鹿にされがちだけど、本格的にLLMシステム開発始めてくときのプロンプトエンジニアは割と真剣に重要なんだよな…。. もちろんそこで求められるのは単に経験則でユーザプロンプト書くような仕事じゃなく.
1
54
333
Prompt Engineering Guideの日本語版きた！.なんかこれ見れば私の今度の講演いらなくね…って気がしてる。これでいいじゃん…。.きちんと再現性があったり論文で発表されてる手法を具体例付きで紹介。ChatGPT開発のバイブル。.
1
47
330
Anthropicが LLM AgentとWorkflowを区別して書いてるけど、個人的にはどういう量のバリエーションの業務をどれくらい確実に自動化したいかってだけ考えれば良い。それが結果 Agenticになるかも知れないし、Workflowに近くなるかも知れないけど、明確な境界線があるわけではないと思ってる。
1
42
336
ワイみたいなデータサイエンティスト上がりのアプリ開発力においてクソザコなエンジニアがChatGPTのストリームイベントの取得と画面表示までを理解するには素晴らしい資料。.ここにきてPython力が足りねえことが顕在化してきている…。.
0
30
323
日本人の多くは今回のOpenAIの計らいが無ければ、今後の産業の核を担うであろうトップクラスLLMを、精度が若干悪化してる状態で2倍の値段払って2倍遅い速度性能でしか利用できない危機的状況だった。. このOpenAIの動きにClaudeやGeminiも追随する可能性もある。.
1
56
325
AOAI Dev Day の資料を公開しました。.Tips集ですね。. ◆Promptingの最新Tips. ・System Prompt は構造化・再利用を考慮せよ. ・Prompt Store を作って複数のエージェントでプロンプトの部品を共有. ・Lost in the Middleに配慮したプロンプトづくり
1
53
326
LLM現場レポート…。.今日はLLMの評価について。. 「LLMの回答結果を評価する仕組み作り」は「LLMから良い回答を引き出すこと」と同じくらい重要です。. LLMの回答結果を評価するためには、少なくとも以下が必須。. ①アプリで実際に動かす予定のLLM.②評価役(人やLLM、あるいは他のMLモデルなど)
3
35
323
取り敢えず半年くらいChatGPTの案件ばかりやり続け情報収集した結論の1つとして、LLMアプリはLLMの使い方と同じくらいUI/UXのデザインが大事だということ。.LLMに頼りすぎはUX悪くなりがち。自由度が高いというのはユーザを迷子にさせるのと隣合わせなので、自由記述にする範囲は重要な設計ポイント。.
2
35
314
Azure OpenAI使って堅牢なアーキ作るためのネットワークやらID管理やら開発・運用・検証構成やらコストやら監視やらのポイントが纏まっててめちゃくちゃ良き。.Prompt flowまで含めて構成してるのが素敵。.
1
48
315
「データサイエンティストが終わったらいっぱい一緒に遊べるね（にっこり）」.
0
71
307
RAGの精度向上手法は山のように提案されているけれど、HyDEみたいにリッチなクエリ拡張とかSelf RAGみたいに検索結果の批評を繰り返すような、オンラインでLLMの生成を経由する手法はレスポンス劣化に繋がり、そもそもユーザ体験的に比較のテーブルにすら上がらないことが多い。
どんな事情があろうがRAGの精度出ないときの初手なんか、質の悪いパターン集めて. ① User Input.② ①からLLMが加工したクエリ.③ 検索結果.④ ③を元にしたLLMの回答. を見るしかないのに、見もせずAdvanced RAGだのGraph RAGだの始めるのは止めよう。. ①～④のどこに原因あるかで処方は違うんや。.
0
33
316
この Knowledge Graph とLLMの関係について纏めた論文すごい。.Knowledge GraphとLLMが相互成長する仕組みが非常に分かりやすくフレームワーク化して纏められている。.論文というより現状の整理に近い。. ただRAGでKnowledge Graphをコンテキストにする取り組みはMicrosoft
0
48
317
どんな事情があろうがRAGの精度出ないときの初手なんか、質の悪いパターン集めて. ① User Input.② ①からLLMが加工したクエリ.③ 検索結果.④ ③を元にしたLLMの回答. を見るしかないのに、見もせずAdvanced RAGだのGraph RAGだの始めるのは止めよう。. ①～④のどこに原因あるかで処方は違うんや。.
0
37
312
みんなで一生懸命GPT-4に追いつこうとしてたのに無慈悲過ぎる。しかも価格も半額で速度も2倍。.前にも書いたけどOpenAIは1社だけ進化が非連続的なんよ…。.
GPT-4o is our new state-of-the-art frontier model. We’ve been testing a version on the LMSys arena as im-also-a-good-gpt2-chatbot 🙂. Here’s how it’s been doing.
2
94
306
RAGにおける検索部分って、嫌になるほど案件見てきた中では多くは↓3点に問題が集まってる感あるので精度が出なければ確認してみると良いです。. ①クエリの問題…情報が少ないか、検索対象をヒットさせる重要なワードが無い.
1
32
307
Agent開発と従来LLMチャットの決定的な差異になるポイントを3つほど↓。この辺りの設計のインプットになるのはサービスのUX設計だったりする。開発の前後がとっても重くなるぞ☆彡. ①タスクの計画.→Plan and Solveみたいに動的に作るか、プロンプトに書くか、事前定義するか。. ②状態の管理
1
43
304
久々に大城さん( @doradora09 )に取り上げて頂いた講演の資料、実は今でも最新情報に修正したり、補足資料を足し続けてます。当初に比べ10ページ以上増。.ChatGPT大全として、たまに見に来て再ダウンロードいただければ、社内説明でいちいち資料作らなくてもいいかも…。.
1
47
299
特に最後のまとめにある「個人的にはLangchainは抽象度が高すぎるのがなあ. と思っていたので、」の部分は同じことを思ってました。Agent周りとか特に。.たぶんガチ勢にしかまだ価値が伝わらないけど面白いですguidance。.
1
35
301
めちゃくちゃピンポイントなんだけど、langchainでAzure OpenAI使ったり、AD認証しながらReAct構成するコードはこのNotebookに纏まってて良き。.
2
35
300
生成AIエンジニアとして食ってくなら AI Agent を何かのテーマで頑張って作ってログ収集して改善するってサイクルを1周やるのが1番良いと思う。.当面AIエンジニアの仕事は「LLMをどうプロアクティブに特定の業務の問題解決をしてくれるツールに持っていけるか」という方向性になる気がしてるので。.
1
47
296
GPTに他の言語モデルが追いつけないのは、学習方法に相当ノウハウがあるのでは…とは前から思ってて(RLHFかは分からないけど)、トレーニングAPI公開されないのも実はチューニングが凄い大変だからなのかなと思ってた。.これで大型モデルのfine tuning解禁が早まると嬉しい。.
1
57
295
Microsoft Copilotの厳密モードの精度が最近すごい。開始当時は無口で微妙だったけど、最近は本当に先生。どういうRAGとPromptingしてるか気になる。.Github Copilotもだけどサービス開始してから1年くらい経つと生成AI組み込みは革命レベルで便利になるな。戻れない。.
2
40
295
ChatGPT＋検索エンジンのRAGアーキテクチャはとても重要なトピックですが、ついでに私が頻繁に参照する有益リンク集でも貼っておこうかと思います。きっとどこかでお主を助けてくれるじゃろう…。. ◆RAGアーキテクチャの基本. ◆Coognitive Search
1
32
293
久々に登壇します！.LLMシステム開発時に問題になりがちな精度・速度・評価という壁をどう乗り越えていくべきか色んな視点から喋っていこうと思います。.資料をチラ見せ。
本日このあと19:30からは.「Azure OpenAI Serviceではじめる ChatGPT/LLMシステム構築入門」Forkwell Library #45.開催🎉. @shohei_aio 氏と、@hiro_gamo 氏にお話を伺います🍩. 話題の本書をプレゼントするキャンペーンも行いますので、ぜひ奮ってご参加ください✨.
0
29
289
07/07(金) 13:00-14:30より、日本マイクロソフトからGPTガチ開発向けセミナーの第2弾を開催！.今回↓の内容をガッツリ解説です。.私も普通に受講したい。笑.・プラグイン開発.・ベクトル検索 - ハイブリッド検索.・Azure AI Studio.・Plompt flow.・Responsible AI
1
49
283
Azure Machine LearningのLLM開発のための独自新機能prompt flowを細かく解説いただきました！わかりやすい…. #DevelopersIO Prompt Flowが使えるようになったから、もうLangChainとか自分でホストしなくていい世界になったのかもしれない。
0
45
284
本件の考察が最近出てましたね。.
OpenAI APIでtemparature=0とtop_p=1にしても生成が確率的になるんですけど，この現象の原因知っている人いますか？.
2
44
283
OpenAIから今後の指針が正式発表されましたね。.気になるとこの共に感想をスレで書きました。.
1
64
281
o1はますます一般層向けに「自由に使ってね！」ってするモデルではないね。. それはOpenAIが公開しているCookBookのプロンプト見ても伺える。.
0
36
280
ChatGPTプラグイン、なかなか反響が大きい。.先日の講演内でも触れたけど、GPTの真価は「AIに道具を選ばせ、使わせる」こと。.単なる会話や要約ツールと思ってはいけない。.ChatGPTの登場時、人は高い言語能力に驚いていたが、実はそれはGPTにとって丸腰状態のほんとの基礎能力に過ぎなかった。(続く)
1
50
277
Azure OpenAIのChatGPTにもgpt-3.5-turboとgpt-4の0613モデルきました！16kモデルも含めいきなりGAか。.待ってました！.
4
50
278
この前の登壇したときにLLMエンジニア向けのおすすめ書籍をXで投稿しますとかノリで言ってしまったので、すげえ後悔しましたが纏めたので↓に書いていきますね。.
1
23
277
今日は過労で寝込みましたが、取りあえずAzure OpenAI Champとしてアップデートだけでもつぶやいて寝ます。.・DALL-E3モデルのプレビュー開始.・GPT-4 Turboと3.5の新バージョンは11月末にプレビュー開始.・GPT-4Vは年末までにプレビュー開始.・GPT-4のFine tuningはプレビュー中.・Bing Search.
1
59
279