Chuyển tới nội dung chính

Chat

Giới thiệu​

Tab Chat cung cấp giao diện chat với LLM, tích hợp khả năng gọi tools từ MCP Server. Đây là nơi bạn test end-to-end luồng tương tác giữa LLM và MCP Server, bao gồm tool calling, resource access và skill loading.

V-Inspector hỗ trợ 2 LLM provider: VinAI Studio và OpenAI.

Giao diện​

Tab Chat

Hướng dẫn sử dụng​

Chuẩn bị​

  1. Vào tab Settings để cấu hình API key cho LLM provider. Khi khởi chạy từ V-MiniApp CLI VinAI Studio sẽ được kích hoạt mặc định
  2. Kết nối MCP Server ở tab Servers

Bắt đầu chat​

  1. Chuyển sang tab Chat
  2. Chọn model từ dropdown (Tuỳ chọn)
  3. Nhập tin nhắn và gửi

Test tool calling​

  1. Gửi tin nhắn yêu cầu LLM thực hiện hành động liên quan đến tool
  2. LLM sẽ phân tích và chọn tool phù hợp
  3. Kết quả tool được trả về cho LLM để tiếp tục hội thoại

Ví dụ: Nếu server có tool manage_todo, bạn có thể hỏi "Liệt kê việc cần làm của tôi" và LLM sẽ tự gọi tool tương ứng.

Tab Chat TODO

Xử lý Elicitation​

Trong quá trình tool calling, nếu tool cần thêm thông tin:

  1. Dialog elicitation xuất hiện với form yêu cầu
  2. Điền thông tin cần thiết
  3. Nhấn Submit để tiếp tục

Sử dụng X-Ray​

  1. Gửi ít nhất một tin nhắn trong chat
  2. Bật X-Ray mode từ thanh công cụ
  3. Xem chi tiết payload request/response của LLM