GPT-4o × LangChain｜理解して使うための徹底解説

この動画では、GPT-4oによる革新のうち特に速度とコスト面に着目して、LLMのAPIを活用する上での主たるコスト源は何かをご説明し、その上でLangChainのコーディング演習を行います。この動画を見ることで、LLMがどのような仕組みでテキストを入力・出力しているのかがクリアになり、さらに、API、LangChainといったツールについて具体的なイメージを伴った理解を得ることができます。
Colab ノートブック：colab.research.google.com/dri...
GPT-4o公式リリースページ：openai.com/index/hello-gpt-4o/
GPT-4o API：platform.openai.com/docs/mode...
00:00:50 GPT-4o振り返り/動画の主眼と構成
00:05:00 LLMにテキストが入力され、テキストが出力される仕組み
00:16:17 APIの主たるコスト源とGPT-4o
00:23:20 LLMのAPIとは何のためにあるのか？
00:29:00 LangChain実践のための準備
00:34:20 GPT-4oをLangChainで呼び出す
00:43:20 APIの応答にかかる時間の計測
00:52:40 ストリーミング出力
00:56:20 トークナイザの振る舞いを見る
01:02:30 これから学ぶべきこと、今回のまとめ
----------
「数理の弾丸」は、人工知能や言語にまつわる専門知をわかりやすく、誤魔化さずに伝えることを目指すチャンネルです。
■スピーカー：吉田、スミス、辻
#chatgpt #gpt4o #langchain #openai

[@TT-tg9yj]

面白かったです。次の動画も楽しみにしています。

[@mathbullet]

ありがとうございます！🙌

[@hiroyukifuruta2725]

つまりLLMは多変数関数でできた近似関数ってことですね。既存のトークンから違和感の無い次のトークンを確率的に選択するだけの単純な仕組みなのに、使い方をいろいろ工夫すると記憶を持たせたり判断が出来たりと出力を指定出来たり、汎用性が非常に高いのが面白い。トークンに変換さえできれば何でも入出力できるので、まるで神経と脳のようですね

[@mathbullet]

コメントありがとうございます！
おっしゃる通り、巨大な近似関数ですね。
ひとつ前の動画の後半で話したのですが、言語・視覚・聴覚を共有のニューラルネットワークで処理できるのは謎深いというか、脳の機構とまた別の学習をしている気がして面白いと思っています。

[@takaborn]

19:50 2023年頃?だったかなAIが教えていないペルシャ語か中東の言葉を知らない間に学習してただからAIには知性があるのかもしれないということが話題になってたそうですがもともとテキストが有れば勝手に学習する設計なんですね😊

[@mathbullet]

素敵なアウトプットありがとうございます！少し近い話で、言語モデルに人工言語を学習させるなどのアプローチによって「LLMは言語知識を学習しているのか、パターンを認識しているだけか」を問う研究もあったりしていて、今後どういった議論になるかが気になりますね