Видео

LLMに入れれれる　何かワロタ

これは面白い！iMac(M1), MacBook Air(M2), MacBook Pro(M4 Max) を持っているので、とりあえず MacBook Airと MacBook Proをバックエンドにして遊んでみます。ありがとうございました！

本筋と全く関係ないですが、英語でllm触れる語学力羨ましいですー

聞き逃していたらすみません。実行しているMacのSpecは何でしょうか？

昔phi3を使ってましたが、性能上がってそうですね。 ちょっとした処理ならphi4にやらせるのアリかも。

いつも最新情報に具体例を付けて示してくだあり、ありがとうございます！

これは良いモデルですね。。使ってみますー

GB10の小型マシン、Mac Studio 192GBがLLM用で売れているのに対抗した、それより安いマシンだと思いましたね。

興味深い内容の動画ありがとうございました。以下に簡単にまとめさせていただきました。 CESのイベントでNVIDIAは新しいRTX 5000シリーズ（5070、5070Ti、5080、5090）を発表しました。特に5090はゲームやAI用途で注目されており、前世代の4090と比較してパフォーマンスが約2倍向上しています。AIの処理性能（TOPS）は3倍になり、より大規模なLLMをローカルで動作させるための32GBメモリを搭載しています。ただし、特定のモデルではメモリが足りない場合もあり、用途に応じた選択が求められます。 また、NVIDIAはLLM向けに「NAN」「SUPER」「ULTRA」という新しいモデルも発表しました。これらは大規模モデルの前処理やトークン予測に活用され、生成速度の向上が期待されます。さらに、自動運転やロボティクス分野では、新技術やプラットフォーム（OmniverseやAGXなど）が紹介され、トレーニングの効率化が強調されました。 最後に、NVIDIAは小型で高性能なPC「DGX」を発表しました。3000ドル程度の価格で、GPUとCPUを一体化し、AI開発環境を簡易化しています。これにより、従来より手軽にAIやGPUの活用が可能になると期待されています。 特に印象深かったのは、AIとロボティクスを融合した新技術が現実の開発環境に与える影響の大きさです。

政治的な「正しい回答」を求めるには、AIに賛同を求めるではないでしょう。自分の頭で考えなさい。

テスラはコスモス使わんのかな nvidiaのソフトを使わなかったら、ロボティクスの学習面で他社においていかれそう

GB10はちょっと魅力的　欲しい

Good to see someone has done this. I am more curious about its SDXL/PONY handling, with control-net loaded. I can only guess 24GB is too tight to run any SDXL comfortably.

う〜ん、o1 proはランキングしないのですか？ (まあ、理由は大体お察しますが) 使ってみた感想としては、確実にgemini 2.0 flash thinkingの性能を超えていると言えます。ただ反面既存プロンプトを使ってみた精度の底上げは殆どできないみたいですね。完成度は非常に高いので、あまり気になりませんが。 機会があれば是非お試しあれ。

興味深い内容の動画ありがとうございました。以下に簡単にまとめさせていただきました。 ### 2025年、AIとスーパーインテリジェンスの進展 本動画では、2025年に向けたAIやスーパーインテリジェンスの進展について、OpenAIをはじめとする主要な企業の動向が紹介されました。OpenAIの「プロ」サブスクリプションが予想以上に利用され赤字になっていることや、AGI（汎用人工知能）開発において自信を深めた様子が述べられました。また、次のステップとしてスーパーインテリジェンスの時代へ向かう姿勢も示されています。 さらに、NVIDIAが新しいGPUシリーズをCES 2025で発表予定であることや、Googleが効率的なモデルトレーニング手法を開発したことも注目ポイントです。ByteDanceのAIモデルやMetaの理論推論テストなど、他の企業の技術革新も詳細に触れられています。特に、AIモデルの限界を克服しスーパーインテリジェンスに近づく試みが進行中です。 最後に、MicrosoftのAIデータセンター投資やAlibabaの新しいエージェントフレームワークなども紹介され、2025年がAI技術のさらなる進化と普及の年となる期待が示されました。このような動向を楽しみにしつつ、引き続き情報を追っていきましょう。

こちらの動画を拝見してMac mini M4 Pro(64GB mem)を購入しました。70 BillionのModelはLoad出来ましたが Llama-3.3-70Bでは3.13 tok/sec, Llama-3.1-8Bでは30 tok/sec、Llma-2.3-3B-Instruct-4bitは103 tok/secでした。

情報ありがとうございます😭 でも中国か…

Flutterで開発できればなおいいですね Googleが専用で作ってくれるかな？

動画内にはなかったgemini 2.0 flash thinking は最高ですね。文句なくURですよ。 あとDEEP SEEKのV3が本当に性能が高い。コストもかなり安いですよね。

PCやスマホで個別に端末を持って処理させるのではなく外部リソースを受け取るだけの機器というものが主流になるでしょうね スマホもそれに伴って超小型化軽量化すると思います。 大規模な量子コンピュータが国民のすべての作業リソースを代替する時代も来るでしょう

情報安全性は大丈夫でしょうか？

あけおめです。 いつも参考にさせていただいてます。 今年もよろしくお願いします！

出来ました。ありがとうございます！。

私はwhisper.cppというプロジェクトをcloneしてきて使っています。obsで会議映像をffmpegで音声化してテキスト化してclaudeのwebui先生で要約して議事録を撒いてます。だんだん日常しぐさになってきました。私はautomatorを使いこなせないのでhoge.commandというファイル名でbashスクリプト化してダブルクリック！考えることは皆おなじですねw 今年は大変お世話になりました。exoとか全く知らなかったので良い刺激になりました。今後ともよろしくお願いします。良いお年を！

2024年は様々なAI関連のニュースを届けてくれてありがとうございました😊 専門的なことは全然分かりませんがAI開発のおおよその流れを把握することができて面白かったです 来年もよろしくお願いします🎶

dockerからgpu使えないの辛いよね

lm studioでつかいてぇ。。。。

早いね。もう、Gemini2.0を使ったサービスができてるんですね。Cursorもgemini-2.0-flash-expのモデルが選択できる様になってました。

最低でも倍以上早くなるのはすごいですね。A11チップから搭載してきた恩恵がありそうです。

工学とか科学をやっているはずなのにAGIの国際定義がまだないのは謎すぎますよね。。AGIv1からAGIv5ぐらいまでで v5は科学がまだ知性を定義できていないからまだ定義不可！でも良いと思うんですよね。

retrieverとしてファイル使った時の応答の文字制限がきつかったです

気になってました

いがいとやるやんm4

モバイルアプリのo1は画像使えました。今のところは画像のファイルだけでそれ以外は一切受け付けてないです。

追加学習と、短期記憶と長期記憶と、自律的に情報を収集して学習できない限りAGIではない気がしてます。一部の能力では優れていますが、使えるシーンと使えないシーンがあり、人間がチューニングする必要がある状態ではAGIでない気がしてます。

win10以来の「2どこいったん？」

o2とばしてo3！？　 AGIはやくだしてくれ〜 でもAGIきても月額３万のproでしか使えなかったらやだな

AGIのはじまり？　つまり終わりの始まりですね😢😢😢

Mac Mini M4 Pro ですが、どのようなスペックのものを購入すればよいですか？　推奨SSD容量は？メモリは48ですか24ですか？☺

gigabyteのai topマザーボードのメモリオフロード機能が使えるのか知りたいです。MacStudioのように100万円以下でVRAM24GBでは動かないLLMを動かしてみてどうかとか。

70Bを扱う為にCPU使ってますがCPU使用率が低くてメモリの速度がボトルネックになってるのを感じます Macがメモリを沢山載せればLLM用に買いたい

安定させて業務(経理とかのナレッジに使う、絶対に秘匿したい！)なら黙ってRTXの一番良いもの、ってなりそうですね。やっとバックオフィス系をAI様に手伝ってもらって業務負荷下げる話の予算稟議が通ったのでとても参考になりました。5090はやくおいでーー

興味深く見せていただきました！ GGUFではなくMLXのモデルをMac miniで使用した場合の比較もお願いできないでしょうか？

can you make videos in english? please?

GeminiのAgent面白いですね。Chromeの拡張機能はChrome売却騒動が落ち着いたら本気で使おうかな。

ちょっとロマンチックなところでo1がシャットダウンされまいとて動くっていうのがSF味があって背筋がこおりました。あとamd、demand無い、が草. cuda互換になればいったん良いのですかね。。cudaの仕様公開は、、しないでしょうね。。

ローカルで利用するにはiPhoneのストレージはどのくらい必要になりそうですか？

ユースケースは、病院のipadとかですかね。面白いですね。

2024年12月現在SoftwareからNeural Engineを直接制御する方法はなくてCoreMLのModelをMacOSに渡した時かつMacOSが必要と判断した時のみのようですから意図的に動かすのは難しいですね

とてもありがたいです！ステーブルディフュージョン生成のスピードも比べてほしいです‥