如果您的项目使用 Literal AI，您将在 Literal AI 控制台中获得完整的生成详细信息（prompt、completion、每秒 token 数等）。

如果您已在使用 Langchain 或 LlamaIndex 等其他集成，则不应配置此集成。这两个集成将记录相同的生成，并在 UI 中创建重复的步骤。

​
先决条件

在开始之前，请确保您具备以下条件

  • 已成功安装 Chainlit
  • 已安装 Mistral AI Python 客户端包 mistralai
  • 一个 Mistral AI API 密钥
  • 对 Python 编程有基本了解

​
步骤 1：创建一个 Python 文件

在您的项目目录中创建一个名为 app.py 的新的 Python 文件。此文件将包含您的 LLM 应用程序的主要逻辑。

​
步骤 2：编写应用程序逻辑

在 app.py 中，导入必要的包并定义一个函数来处理来自 UI 的传入消息。

import os
import chainlit as cl
from mistralai import Mistral

# Initialize the Mistral client
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))

@cl.on_message
async def on_message(message: cl.Message):
    response = await client.chat.complete_async(
        model="mistral-small-latest",
        max_tokens=100,
        temperature=0.5,
        stream=False,
        # ... more setting
        messages=[
            {
                "role": "system",
                "content": "You are a helpful bot, you always reply in French."
            },
            {
                "role": "user",
                "content": message.content # Content of the user message
            }
        ]
    )
    await cl.Message(content=response.choices[0].message.content).send()

​
步骤 3：填写环境变量

在与您的 app.py 文件相同的文件夹中创建一个名为 .env 的文件。在 MISTRAL_API_KEY 变量中添加您的 Mistral AI API 密钥。您可以选择在 LITERAL_API_KEY 中添加您的 Literal AI API 密钥。

​
步骤 4：运行应用程序

要启动您的应用程序，请打开终端并导航到包含 app.py 的目录。然后运行以下命令

chainlit run app.py -w

-w 标志告诉 Chainlit 启用自动重新加载，这样您在每次更改应用程序时就不需要重启服务器。您的聊天机器人 UI 现在应该可以通过 http://localhost:8000 访问。