Размер видео: 1280 X 720853 X 480640 X 360
Показать панель управления
Автовоспроизведение
Автоповтор
いつも興味深く拝見しています。ありがとうございます。質問がありまして、①LM Studioとollamaはどう使い分けていますか?②LLMモデルデータは外部SSDとかに入れたりしてますか?入れられるんでしょうか?(いろいろ入れると内部ストレージ圧迫すると思うので。このチャンネル見てMac mini欲しくなって買いました)
コメントありがとうございます!Ollamaはオーバヘッドが少ないのでパフォーマンスが必要な時に使ったりしてます。LMstudioはGUIが綺麗なので動画でよく使ってます。APIなどを使うのであればOllamaで十分かと思います!External storageは可能です。しかしInternal driveへのアクセスが早いのでもしExternal storageにllmを置いたらToken/secが遅くなると思います。新しくて早いThunderbolt 5が出てますがHarddiskがすごく高いかなと思います😭
@@technavi_tooru ありがとうございます。とりあえずAI用なので、ollamaをinternal driveでセットアップしました。ctrl+cがCmd+cだったりしてMac苦戦中です。wどうしてもメインで使うことになったら慣れることにします。このチャンネルで紹介されていたようにRTX4090の1/4くらいのパフォーマンスぽいですね。私の使い方では、サブ環境としてはアリです。
聞き逃していたらすみません。実行しているMacのSpecは何でしょうか?
4:55
@@ayago-g1gありがとうございます
いつも興味深く拝見しています。ありがとうございます。質問がありまして、①LM Studioとollamaはどう使い分けていますか?②LLMモデルデータは外部SSDとかに入れたりしてますか?入れられるんでしょうか?(いろいろ入れると内部ストレージ圧迫すると思うので。このチャンネル見てMac mini欲しくなって買いました)
コメントありがとうございます!
Ollamaはオーバヘッドが少ないのでパフォーマンスが必要な時に使ったりしてます。LMstudioはGUIが綺麗なので動画でよく使ってます。APIなどを使うのであればOllamaで十分かと思います!
External storageは可能です。しかしInternal driveへのアクセスが早いのでもしExternal storageにllmを置いたらToken/secが遅くなると思います。新しくて早いThunderbolt 5が出てますがHarddiskがすごく高いかなと思います😭
@@technavi_tooru ありがとうございます。とりあえずAI用なので、ollamaをinternal driveでセットアップしました。ctrl+cがCmd+cだったりしてMac苦戦中です。wどうしてもメインで使うことになったら慣れることにします。このチャンネルで紹介されていたようにRTX4090の1/4くらいのパフォーマンスぽいですね。私の使い方では、サブ環境としてはアリです。
聞き逃していたらすみません。実行しているMacのSpecは何でしょうか?
4:55
@@ayago-g1gありがとうございます