-
Notifications
You must be signed in to change notification settings - Fork 1
/
yagpt-chat-with-history-01.py
178 lines (152 loc) · 9.08 KB
/
yagpt-chat-with-history-01.py
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
from langchain_community.chat_message_histories import StreamlitChatMessageHistory
from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder
from langchain_core.runnables.history import RunnableWithMessageHistory
from langchain_community.chat_models import ChatYandexGPT
# from yandex_chain import YandexLLM
import streamlit as st
import os
from dotenv import load_dotenv
# это основная функция, которая запускает приложение streamlit
def main():
# Загрузка логотипа компании
logo_image = './images/logo.png' # Путь к изображению логотипа
# # Отображение логотипа в основной части приложения
from PIL import Image
# Загрузка логотипа
logo = Image.open(logo_image)
# Изменение размера логотипа
resized_logo = logo.resize((100, 100))
st.set_page_config(page_title="YaGPT чатбот", page_icon="📖")
# Отображаем лого измененного небольшого размера
st.image(resized_logo)
st.title('📖 YaGPT чатбот')
"""
Чатбот на базе YandexGPT, который запоминает контекст беседы. Чтобы "сбросить" контекст обновите страницу браузера.\n
Вы можете выбрать какую [YaGPT модель](https://cloud.yandex.ru/ru/docs/yandexgpt/concepts/models) использовать, а также настроить размер ее контекстного окна и параметры креативности (см. окно слева).
Историю сообщений можно посмотреть ниже.
[Исходный код приложения](https://github.com/dzhechko/yagpt-chat-bot-lcel/blob/main/yagpt-chat-with-history-01.py)
"""
# st.warning('Это Playground для общения с YandexGPT')
# вводить все credentials в графическом интерфейсе слева
# Sidebar contents
with st.sidebar:
st.title('\U0001F917\U0001F4ACYaGPT чатбот')
st.markdown('''
## О программе
Данный YaGPT чатбот использует следующие компоненты:
- [Yandex GPT](https://cloud.yandex.ru/services/yandexgpt)
- [Yandex GPT for Langchain](https://python.langchain.com/docs/integrations/chat/yandex)
- [Streamlit](https://streamlit.io/)
- [LangChain](https://python.langchain.com/)
''')
# Настраиваем алгоритмы работы памяти
msgs = StreamlitChatMessageHistory(key="langchain_messages")
if len(msgs.messages) == 0:
msgs.add_ai_message("Привет! Как я могу вам помочь?")
view_messages = st.expander("Просмотр истории сообщений")
# folder_id = st.secrets["yagpt_folder_id"]
# api_id = st.secrets["yagpt_api_id"]
# api_key = st.secrets["yagpt_api_key"]
# Загрузка переменных из файла .env
load_dotenv()
yagpt_folder_id = os.getenv("YC_FOLDER_ID")
yagpt_api_key = os.getenv("YC_API_KEY")
# # Получение folder id
# if "yagpt_folder_id" in st.secrets:
# yagpt_folder_id = st.secrets.yagpt_folder_id
# else:
# yagpt_folder_id = st.sidebar.text_input("YaGPT folder ID", type="password")
# if not yagpt_folder_id:
# st.info("Введите YaGPT folder ID для продолжения")
# st.stop()
# # Получение ключа YaGPT API
# if "yagpt_api_key" in st.secrets:
# yagpt_api_key = st.secrets.yagpt_api_key
# else:
# yagpt_api_key = st.sidebar.text_input("YaGPT API Key", type="password")
# if not yagpt_api_key:
# st.info("Введите YaGPT API ключ для продолжения")
# st.stop()
with st.sidebar:
st.markdown('''
## Дополнительные настройки
Можно выбрать [модель](https://cloud.yandex.ru/ru/docs/yandexgpt/concepts/models), размер контекстного окна, степень креативности и системный промпт
''')
model_list = [
"YandexGPT Lite",
"YandexGPT Pro"
]
index_model = 0
selected_model = st.sidebar.radio("Выберите модель для работы:", model_list, index=index_model, key="index")
# yagpt_prompt = st.sidebar.text_input("Промпт-инструкция для YaGPT")
# Добавляем виджет для выбора опции
prompt_option = st.sidebar.selectbox(
'Выберите какой системный промпт использовать',
('По умолчанию', 'Задать самостоятельно')
)
default_prompt = "Ты очень полезный чатбот, тебя зовут YandexGPT. Можешь общаться на разные темы. При ответе на вопросы будь краток, используй 30 слов или меньше."
# Если выбрана опция "Задать самостоятельно", показываем поле для ввода промпта
if prompt_option == 'Задать самостоятельно':
custom_prompt = st.sidebar.text_input('Введите пользовательский промпт:')
else:
custom_prompt = default_prompt
# st.sidebar.write(custom_prompt)
with st.sidebar:
st.code(custom_prompt)
# Если выбрали "задать самостоятельно" и не задали, то берем дефолтный промпт
if len(custom_prompt)==0: custom_prompt = default_prompt
yagpt_temperature = st.sidebar.slider("Степень креативности (температура)", 0.0, 1.0, 0.6)
yagpt_max_tokens = st.sidebar.slider("Размер контекстного окна (в [токенах](https://cloud.yandex.ru/ru/docs/yandexgpt/concepts/tokens))", 200, 8000, 5000)
def history_reset_function():
# Code to be executed when the reset button is clicked
st.session_state.clear()
st.sidebar.button("Обнулить историю общения",on_click=history_reset_function)
# Настраиваем LangChain, передавая Message History
# промпт с учетом контекста общения
prompt = ChatPromptTemplate.from_messages(
[
("system", custom_prompt),
MessagesPlaceholder(variable_name="history"),
("human", "{question}"),
]
)
# model_uri = "gpt://"+str(yagpt_folder_id)+"/yandexgpt/latest"
# model_uri = "gpt://"+str(yagpt_folder_id)+"/yandexgpt-lite/latest"
if selected_model==model_list[0]:
model_uri = "gpt://"+str(yagpt_folder_id)+"/yandexgpt-lite/latest"
else:
model_uri = "gpt://"+str(yagpt_folder_id)+"/yandexgpt/latest"
model = ChatYandexGPT(api_key=yagpt_api_key, model_uri=model_uri, temperature = yagpt_temperature, max_tokens = yagpt_max_tokens)
# model = YandexLLM(api_key = yagpt_api_key, folder_id = yagpt_folder_id, temperature = 0.6, max_tokens=8000, use_lite = False)
chain = prompt | model
chain_with_history = RunnableWithMessageHistory(
chain,
lambda session_id: msgs,
input_messages_key="question",
history_messages_key="history",
)
# Отображать текущие сообщения из StreamlitChatMessageHistory
for msg in msgs.messages:
st.chat_message(msg.type).write(msg.content)
# Если пользователь вводит новое приглашение, сгенерировать и отобразить новый ответ
if prompt := st.chat_input():
st.chat_message("human").write(prompt)
# Примечание: новые сообщения автоматически сохраняются в историю по длинной цепочке во время запуска
config = {"configurable": {"session_id": "any"}}
response = chain_with_history.invoke({"question": prompt}, config)
st.chat_message("ai").write(response.content)
# Отобразить сообщения в конце, чтобы вновь сгенерированные отображались сразу
with view_messages:
"""
История сообщений, инициализированная с помощью:
```python
msgs = StreamlitChatMessageHistory(key="langchain_messages")
```
Содержание `st.session_state.langchain_messages`:
"""
view_messages.json(st.session_state.langchain_messages)
if __name__ == "__main__":
try:
main()
except Exception as e:
st.write(f"Что-то пошло не так. Возможно, не хватает входных данных для работы. {str(e)}")