Д2.2. Fine-tuning великих мовних моделей. Антон Баздирев.

Anton Bazdyrev, ML Lead at Dun&Bradstreet. Fine-tuning великих мовних моделей.
В лекції ви познайомитесь з сучасними техніками: Transfer Learning,
Knowledge Distillation, Parameter-efficient Fine-tuning (PEFT), Low-Rank Adaptation of Large Language Models (LoRA), QLoRA та побачите їх практичне застосування на прикладі задачі виявлення фейкових новин.
Матеріали: github.com/Ant...
Літня школа «Штучний інтелект 2024: сьогодення і майбутнє» на ФІОТ - День 2.

[@Antinkun]

Цікаво, а чи можливо зробити ніби llm os, про яку в попередній лекції говорили, але яка окрім пам'яті про користувача(те що зараз впроваджує open ai), може мати ніби окремий профіль під користувача ( пам'ять, набір інструментів, агентів, її патерни поведінки)? Цe вже має бути fine tune llm під кожен профіль, чи можливо впоратись rag системою з використанням lora?

[@ai-tech]

Думаю, "профілі користувача" безумовно будуть і вже незабаром. Наприклад, скоро ми побачимо вбудовані рішення в смартфонах та інших девайсах. Процес масового впровадження на сьогодні обмежується завеликими вимогами і молодістю технології. Але Apple, Samsung та інші активно над цим працюють. Побачимо..