Build Voice AI Agent: Bạn lo AI, Alohub lo Voice

1. Tại sao tách AI và Voice?

Một số vendor bán “full stack” AI Callbot:

• Dễ triển khai ban đầu
• Nhưng: Lock-in vào AI của họ
• Khó customize, khó integrate với hệ thống hiện có
• Upgrade AI = Phụ thuộc vendor

Approach BYOB (Bring Your Own Bot):

• Bạn kiểm soát 100% AI logic
• Dùng model mới nhất (GPT-4, Claude, Gemini…)
• Integrate sâu với CRM, ERP, Knowledge base
• Vendor voice (Alohub) chỉ lo infrastructure

2. Kiến trúc Reference

┌─────────────────────────────────────────────────────────────┐
│                        YOUR SYSTEM                          │
│  ┌──────────────────────────────────────────────────────┐  │
│  │                    AI Brain                           │  │
│  │  ┌─────────┐  ┌─────────────┐  ┌──────────────────┐  │  │
│  │  │ LLM     │  │ Knowledge   │  │  Business Logic  │  │  │
│  │  │ (GPT-4) │  │ Base (RAG)  │  │  (Booking, CRM)  │  │  │
│  │  └─────────┘  └─────────────┘  └──────────────────┘  │  │
│  │                      │                                │  │
│  │              ┌───────▼───────┐                        │  │
│  │              │  Agent Core   │                        │  │
│  │              │  (LangChain)  │                        │  │
│  │              └───────────────┘                        │  │
│  └──────────────────────┬───────────────────────────────┘  │
│                         │ WebSocket                         │
└─────────────────────────┼───────────────────────────────────┘
                          │
┌─────────────────────────▼───────────────────────────────────┐
│                      ALOHUB VOICE                           │
│  ┌─────────────┐  ┌─────────────┐  ┌─────────────────────┐  │
│  │  SIP Trunk  │  │  STT/TTS    │  │  Audio Streaming    │  │
│  │  (Telco)    │  │  Services   │  │  Gateway            │  │
│  └─────────────┘  └─────────────┘  └─────────────────────┘  │
└─────────────────────────────────────────────────────────────┘
                          │
                    ┌─────▼─────┐
                    │  Customer │
                    │  (Phone)  │
                    └───────────┘

3. Components bạn cần build

3.1. Agent Core (LangChain/LangGraph):

# Ví dụ với LangChain
from langchain.agents import initialize_agent
from langchain.chat_models import ChatOpenAI
from langchain.tools import Tool

# Tools cho agent
tools = [
    Tool(
        name="check_appointment",
        func=check_appointment_api,
        description="Kiểm tra lịch hẹn của khách"
    ),
    Tool(
        name="book_appointment",
        func=book_appointment_api,
        description="Đặt lịch hẹn mới"
    ),
    Tool(
        name="get_product_info",
        func=get_product_info_api,
        description="Lấy thông tin sản phẩm"
    )
]

# Initialize agent
agent = initialize_agent(
    tools=tools,
    llm=ChatOpenAI(model="gpt-4"),
    agent="chat-conversational-react-description",
    verbose=True
)

3.2. Conversation Manager:

• Quản lý session state
• Handle interruptions
• Context memory trong cuộc gọi
• Escalation logic (khi nào chuyển agent)

3.3. WebSocket Handler (kết nối Alohub):

import asyncio
import websockets

async def handle_alohub_connection(websocket, path):
    async for message in websocket:
        event = json.loads(message)
        
        if event['event'] == 'call_started':
            # Init new conversation
            session = create_session(event['call_id'])
            
        elif event['event'] == 'speech_result':
            # User said something
            user_text = event['text']
            
            # Get AI response
            response = agent.run(user_text)
            
            # Send back to Alohub
            await websocket.send(json.dumps({
                "event": "bot_response",
                "call_id": event['call_id'],
                "text": response
            }))
            
        elif event['event'] == 'call_ended':
            # Cleanup
            cleanup_session(event['call_id'])

4. Alohub cung cấp gì?

Alohub – giải pháp AI Contact Center & nền tảng CPaaS tại Việt Nam – lo phần voice:

Telephony:

• SIP trunk kết nối với các nhà mạng Việt Nam
• Số điện thoại (hotline, đầu số 1900, 1800)
• Outbound calling capacity

Speech Services:

• STT tiếng Việt (hoặc bạn dùng service riêng)
• TTS tiếng Việt (nhiều giọng Bắc/Nam)
• Real-time audio streaming

Call Control:

• Transfer to human agent
• Conference call
• Call recording
• DTMF handling

5. Integration flow chi tiết

Inbound call (khách gọi đến):

1. Khách gọi số Alohub
2. Alohub mở WebSocket connection đến server bạn
3. Alohub gửi event call_started
4. Bot chào: “Xin chào, tôi là trợ lý AI…”
5. Khách nói → Alohub STT → Text đến bot
6. Bot xử lý → Response text → Alohub TTS → Khách nghe
7. Loop cho đến khi kết thúc

Outbound call (bot gọi đi):

1. Bạn call Alohub API: “Gọi số 0901234567”
2. Alohub gọi, khi khách bắt máy → Mở WebSocket
3. Tiếp tục như inbound

6. Deployment considerations

Infrastructure:

• WebSocket server: Cần always-on, handle concurrent connections
• Region: Singapore hoặc Việt Nam để giảm latency
• Scaling: Auto-scale dựa trên concurrent calls

Monitoring:

• Latency tracking (từng step)
• STT accuracy
• AI response quality
• Drop rate, error rate

Cost optimization:

• LLM calls: Cache common responses
• Telephony: Optimize call duration
• STT/TTS: Batch processing where possible

7. Tóm lại

• BYOB approach: Tách AI (bạn) và Voice (Alohub).
• Bạn kiểm soát: LLM, prompts, tools, business logic, knowledge base.
• Alohub cung cấp: Telephony, STT, TTS, audio streaming, SIP trunk.
• Stack phổ biến: LangChain/LangGraph + GPT-4 + Alohub Voice.

Alohub – giải pháp AI Contact Center & nền tảng CPaaS tại Việt Nam – partner voice infrastructure cho AI teams.

FAQ

Cần team size bao nhiêu để build Voice AI Agent?

Minimum: 1-2 AI engineers biết LangChain/Python + 1 backend dev. Với Alohub lo voice, bạn không cần telephony expertise. Timeline: MVP trong 4-8 tuần, production-ready trong 3-6 tháng tùy complexity.

Chi phí ước tính cho 1000 cuộc gọi/ngày?

Telephony (Alohub): ~1,000đ/phút × 3 phút avg = 3,000đ/cuộc = 3M/ngày. LLM (GPT-4): ~$0.03/cuộc = ~750đ = 750K/ngày. Total: ~4-5M/ngày cho 1000 cuộc. Scale lên thì có volume discount.

Có thể bắt đầu với LLM rẻ hơn GPT-4 không?

Có. GPT-3.5-turbo rẻ hơn 20x, đủ cho use cases đơn giản (FAQ, booking). Claude Haiku, Gemini Flash cũng là options tốt. Bắt đầu với model rẻ, upgrade khi cần quality cao hơn.