在本教程中,我们将逐步创建一个与 Embedchain 集成的 Chainlit 应用。

步骤 1:创建一个 Chainlit 应用

app.py 中,导入必要的包并定义一个函数来处理新的聊天会话,另一个函数来处理来自 UI 的传入消息。

使用 Embedchain

app.py
import chainlit as cl
from embedchain import Pipeline as App

import os

os.environ["OPENAI_API_KEY"] = "sk-xxx"

@cl.on_chat_start
async def on_chat_start():
    app = App.from_config(config={
        'app': {
            'config': {
                'name': 'chainlit-app'
            }
        },
        'llm': {
            'config': {
                'stream': True,
            }
        }
    })
    # import your data here
    app.add("https://www.forbes.com/profile/elon-musk/")
    app.collect_metrics = False
    cl.user_session.set("app", app)


@cl.on_message
async def on_message(message: cl.Message):
    app = cl.user_session.get("app")
    msg = cl.Message(content="")
    for chunk in await cl.make_async(app.chat)(message.content):
        await msg.stream_token(chunk)
    
    await msg.send()

步骤 2:运行应用

要启动您的应用,打开终端并导航到包含 app.py 的目录。然后运行以下命令

chainlit run app.py -w

下一步

恭喜!您刚刚使用 Chainlit 和 Embedchain 创建了您的第一个 LLM 应用。

愉快编程!🎉