Пример ИИ приложения на Python, LangChain и ChatGPT (OpenAI API)
HTML-код
- Опубликовано: 4 июл 2023
- Как заставить ChatGPT анализировать пользовательские данные и учитывать их во время диалога? Показываю пример простого ИИ приложения c использованием Python библиотеки LangChain.
Исходный код к видео: github.com/RuslanPeresy/gptchain
LangChain: python.langchain.com/docs/get...
Telegram: t.me/ruslandevlive
Discord: / discord 
Наука
![Darren Waller - Who Knew (Her Perspective) [Official Video]](http://i.ytimg.com/vi/GytDjB8u6bM/mqdefault.jpg)
Продолжение, но уже с поддержкой бесплатных опенсорсных ИИ моделей: ruclips.net/video/OGu_fbSV_uI/видео.html
Не понял, а 4 июля не до 9го? Почему он дал в ответ только 1 задачу
Пользователям из России OPENAI недоступна, вот что мне пишет в консоли при попытке запустить приложение:
"openai.PermissionDeniedError: Error code: 403 - {'error': {'code': 'unsupported_country_region_territory', 'message': 'Country, region, or territory not supported', 'param': None, 'type': 'request_forbidden'}}"
Как это запустить в консоли (может через ВПН), чтобы оно заработало?
Такая же ситуация. Нашли ответ?
Автор, подскажи плиз, какого размера таким образом можно скормить текстовый файл?
Я пробовал что-то около 500мб, но не одним файлом, а много отдельных
А есть ли хоть какая-то возможность добавления FreeGPT или NeuroGPT в такой проект, чтобы не использовать платный OpenAI API?
Можно использовать открытые ИИ модели, например с Huggingface - llama и другие. Готовлю видео об этом + на моем тг канале есть информация
Столкнулся с проблемой. Все работает если в файле латиница, но получаю Error loading есть там есть кириллица, подскажите что делать?
Скорее всего ошибка юникода. Надо записать текст в файл с кодировкой utf-8
Какой IDE пользуетесь?
vscode
Вопрос: какие задачи я должен выполнить до 9 июля?
Правильный ответ: две задачи и
Ответ ИИ: .
Либо логика ИИ не проработана либо пример приложения плохо проработан.
Супер, про лангчеин все понятно объяснил, лайк. А как сделать такое же приложение но с GUI (не консоль?)
Зависит от того, какой GUI вам нужен, я обычно использую для этого телеграм бот. Видео на канале - AI бот для телеграм, подробное руководство
Не понял как подключить к этому ключ апишки, хочу это попробовать встроить в код, но не понял как это сделать
12:18 - нужно экспортировать ключ в виде переменной среды OPENAI_API_KEY
@@ruslandev да, я это попробовал, но почему то не завелось. Ошибок не выдало, хоть код и скопипастил по итогу.
@@lalyok рекомендую запостить баг на моем дискорд сервере. Я посмотрю и напишу как можно подебажить
@@ruslandev а постить то что? На win11 не работает. Весь итог)
Классно! Но хорошо бы без Chat GPT! Чего-то вломак монополии кормить!
В моем телеграм-канале есть пример с Mixtral 8x7b
Спасибо, полезно. Вот бы про бесплатный компонент ещё послушать))) На Филиппинах петухи за окном кричат?
Они здесь повсюду)
А в итоге как идет оплата? И сама логика использования? Так как ниже?
1) сначала снимают деньги за индексацию? Мы получаем векторы от некоего нашего большого текста? Это однократная операция. Это платно.
2) Потом мы отправляет запрос пользователя, чтобы получить векторы от его запроса. Эта операция при КАЖДОМ запросе юзера? Это платно.
3) мы у себя в векторной БД сами ищем соответствия между запросом юзера (в векторе) и инфой (в векторах) в нашем большом тексте (это на нашей стороне и это бесплатно)
4) отправляем запрос юзера в тексте в чат ГПТ плюс отправляем тот кусок текста, который сопоставился по векторной БД как подходящий. Это опять платно
В данном примере о погоде на Филиппинах по сути нужен только пункт 4. Но "по взрослому" нужно все 4 пункта?
Да, все шаги выглядят верно, сначала рассчитываются векторы для всего текста. Запросы пользователя да, тоже векторизуются. Есть статья где это расписано продробно - blog.langchain.dev/retrieval/