Gradio 와 LangChain 을 이용한 챗봇

이 글은 Gradio 와 LangChain 을 이용한 챗봇 예제이다.

터미널에서 다음 라이브러리를 설치한다.

pip install gradio langchain

다음을 코딩하고 실행한다. 

from langchain.chat_models import ChatOpenAI

from langchain.schema import AIMessage, HumanMessage, SystemMessage

import os

import gradio as gr

os.environ["OPENAI_API_KEY"] = "<input your openai key" 

llm = ChatOpenAI(temperature=1.0, model='gpt-4o-mini')

def response(message, history, additional_input_info):

    history_langchain_format = []

    history_langchain_format.append(SystemMessage(content= additional_input_info))

    for human, ai in history:

            history_langchain_format.append(HumanMessage(content=human))

            history_langchain_format.append(AIMessage(content=ai))

    history_langchain_format.append(HumanMessage(content=message))

    gpt_response = llm(history_langchain_format)

    return gpt_response.content

gr.ChatInterface(

    fn=response,

    textbox=gr.Textbox(placeholder="Talk", container=False, scale=7),

    chatbot=gr.Chatbot(height=1000),

    title="ChatBot",

    description="I'm a chatbot that can chat with you. I'm lovely chatbot.",

    theme="soft",

    examples=[["Hi"], ["I'm good"], ["What's your name?"]],

    retry_btn="resend",

    undo_btn="delete❌",

    clear_btn="delete all💫",

    additional_inputs=[

        gr.Textbox("", label="Input System Prompt", placeholder="I'm chatbot.")

    ]

).launch()

결과는 다음과 같다.

레퍼런스

• Quickstart
• Gradio | 🦜️🔗 LangChain