Llama của Meta là gì? Cách dùng, triển khai và fine-tune
Hướng dẫn thực hành Llama: quyền weights, local/API, chi phí, bảo vệ dữ liệu và quy trình tùy chỉnh trong doanh nghiệp.

Llama là họ model do Meta phát triển và công bố weights theo điều khoản từng thế hệ. Trong kho Llama chính chủ, Scout/Maverick thuộc Llama 4 vẫn là thế hệ tổng quát mới nhất tìm thấy; không có căn cứ từ đó để gọi một model Meta khác là Llama 5.
Bài này tập trung cách sử dụng và triển khai. Để đối chiếu timeline, kích thước và giấy phép từng bản, xem danh mục Llama; để chọn kênh hosted, xem API LLM.
Llama (Meta) là gì?
Weights cho phép nhà phát triển chạy hoặc tinh chỉnh checkpoint trong phạm vi license, thay vì chỉ gửi request tới một dịch vụ đóng. Tuy nhiên quyền tải không đồng nghĩa có dữ liệu huấn luyện đầy đủ, compute miễn phí hoặc quyền thương mại vô điều kiện.

Meta AI là sản phẩm trợ lý và có thể dùng các model do Meta lựa chọn; không mặc định mọi request ở đó đang chạy Llama 4. Tên sản phẩm, tên họ Llama và những dòng Meta khác cần được phân biệt.
Llama có phải mã nguồn mở không?
Nên gọi Llama là open-weight. Llama 4 Community License và AUP có những điều kiện khác license mã nguồn mở thông dụng, gồm phân phối, ghi nhận và một số giới hạn quy mô/phạm vi.
- Tải và phân phối trong điều kiện Community License đúng thế hệ.
- Giữ notice và nghĩa vụ “Built with Llama”/đặt tên model dẫn xuất khi được yêu cầu.
- Tuân thủ AUP và các điều kiện phạm vi/quy mô cụ thể.
- Kho gated có thể yêu cầu đăng nhập, chấp thuận và phê duyệt trước khi tải.
Đối chiếu với các model mở trọng số nếu license là tiêu chí quan trọng của dự án.
Lịch sử các phiên bản Llama
Các mốc từ Llama 1 tới 4 phản ánh thay đổi khả năng và quyền dùng. Không áp license một thế hệ cho tất cả model trong họ; bản vision, base và instruct cũng phải được chọn đúng.
| Thế hệ | Ra mắt | Kích thước | Điểm chính |
|---|---|---|---|
| LLaMA 1 | 02/2023 | 7B, 13B, 33B, 65B | Chỉ cấp cho nghiên cứu |
| Llama 2 | 07/2023 | 7B, 13B, 70B | Cho phép dùng thương mại có điều kiện, có bản Chat |
| Code Llama | 08/2023 (bản 70B: 01/2024) | 7B, 13B, 34B, 70B | Nhánh chuyên lập trình dựa trên Llama 2 |
| Llama 3 | 04/2024 | 8B, 70B | Tokenizer mới, ngữ cảnh 8K |
| Llama 3.1 | 07/2024 | 8B, 70B, 405B | Ngữ cảnh 128K, 8 ngôn ngữ chính thức, gọi công cụ |
| Llama 3.2 | 09/2024 | 1B, 3B; 11B, 90B Vision | Bản nhỏ cho thiết bị; bản đọc ảnh |
| Llama 3.3 | 12/2024 | 70B Instruct | Chỉ văn bản, chất lượng gần 405B với chi phí thấp hơn (theo Meta) |
| Llama 4 | 05/04/2025 | Scout 17Bx16E, Maverick 17Bx128E | MoE, nhận văn bản và ảnh, hỗ trợ tiếng Việt |
Behemoth từng được Meta giới thiệu trong quá trình phát triển Llama 4, nhưng trong phạm vi kiểm tra chưa có checkpoint chính chủ để coi là một bản tải được. Các dòng Meta khác không tự nối tiếp số phiên bản Llama; hãy dựa vào repository được phát hành.

Kiến trúc và công nghệ đằng sau Llama
Các thế hệ Llama dùng mô hình tự hồi quy, dự đoán token tiếp theo từ ngữ cảnh. Dòng 4 chuyển sang MoE đa phương thức; kiến trúc và template của 3.x không áp nguyên cho 4.
Kiến trúc Transformer của Llama
Các kỹ thuật normalization, activation, vị trí và attention ảnh hưởng hiệu quả mô hình. Khi triển khai, phải dùng engine hỗ trợ đúng kiến trúc chứ không chỉ biết nó thuộc Transformer:
- RMSNorm: Thay thế LayerNorm, giúp tăng tốc độ huấn luyện mô hình.
- SwiGLU Activation: Cải thiện khả năng học hỏi và biểu diễn của mô hình.
- Rotary Position Embedding (RoPE): Xử lý hiệu quả thông tin vị trí của các từ (token) trong câu.
- Group Query Attention (GQA): Giảm đáng kể chi phí tính toán, giúp Llama xử lý nhanh hơn.

Quy trình huấn luyện Llama
Ở mức tổng quát, có hai giai đoạn cần phân biệt:
- Huấn luyện trước (pre-training): mô hình học dự đoán token tiếp theo trên tập dữ liệu rất lớn đã lọc, gồm văn bản công khai và dữ liệu được cấp phép; với Llama 4, thẻ model ghi khoảng 40 nghìn tỷ token cho Scout và 22 nghìn tỷ token cho Maverick, mốc kiến thức 08/2024.
- Tinh chỉnh (post-training): tinh chỉnh có giám sát (SFT) bằng dữ liệu hội thoại chất lượng cao, rồi học tăng cường từ phản hồi con người hoặc các kỹ thuật tối ưu sở thích, để model trả lời đúng ý, an toàn hơn và giảm “ảo giác”.
Các phiên bản Llama nên dùng hiện nay
Tùy nhu cầu có thể đánh giá Scout/Maverick cho khả năng của Llama 4, 3.3 cho model văn bản hoặc 3.2 nhỏ cho tài nguyên hạn chế. “Mới nhất” không luôn phù hợp nhất; cần thử tác vụ và tiếng Việt cụ thể.
| Model | Tham số | Ngữ cảnh | Đầu vào | Hợp với |
|---|---|---|---|---|
| Llama 4 Scout | 17B kích hoạt / 109B tổng | 10 triệu token | Văn bản, ảnh | Tài liệu dài, kho mã lớn, máy chủ 1 GPU lớn |
| Llama 4 Maverick | 17B kích hoạt / 400B tổng | 1 triệu token | Văn bản, ảnh | Trợ lý đa phương thức chất lượng cao, cụm GPU |
| Llama 3.3 70B | 70B | 128K | Văn bản | Chatbot, RAG chỉ văn bản |
| Llama 3.2 1B / 3B | 1B / 3B | 128K | Văn bản | Máy cá nhân, thiết bị biên, VPS chạy CPU |
Tổng weights, active parameters, precision và KV cache đều ảnh hưởng hạ tầng. Scout active 17B vẫn cần lưu nhiều weights hơn 17B. Xem danh mục Llama để đối chiếu quy mô.
Cách dùng Llama: qua ứng dụng, chạy local hoặc qua API
Ba hướng là dùng sản phẩm/provider có sẵn, tự host checkpoint hoặc gọi API. Hosted giảm gánh nặng GPU, còn self-host tăng quyền kiểm soát đi kèm trách nhiệm vận hành và license.
Phương pháp 1: Sử dụng qua nền tảng có sẵn
Dùng sản phẩm Meta AI:
- Truy cập: https://www.meta.ai/
- Trò chuyện miễn phí với trợ lý Meta AI (model do Meta chọn, không nhất thiết là Llama)
- Không cần cài đặt
- Không chọn được model, không tuỳ chỉnh
Tải checkpoint từ kho chính chủ:
- Truy cập: https://huggingface.co/meta-llama/
- Đăng nhập, đồng ý giấy phép rồi mới tải được trọng số (repo gated)
- Có bản lượng tử hoá GGUF do cộng đồng đóng gói
Phương pháp 2: Triển khai local
Ollama và runtime local:
Cài Ollama theo hướng dẫn chính thức cho hệ điều hành. Lệnh dưới dành cho Linux và tải script cài đặt để thực thi; Windows hoặc macOS nên dùng bộ cài tương ứng từ Ollama.
curl -fsSL https://ollama.com/install.sh | shChọn tag của model vừa tài nguyên trong thư viện runtime. Lệnh dưới là ví dụ cho một bản nhỏ, không phải Llama 4:
ollama run llama3.2:3bSau khi model tải xong, thử một câu hỏi đơn giản rồi kiểm tra độ trễ và nội dung:
Ví dụ: “Hãy giải thích mục đích của API bằng tiếng Việt, trong ba câu.”
LM Studio:
- Tải LM Studio, xem hướng dẫn ở bài LM Studio là gì
- Tìm và tải bản Llama từ giao diện
- Chat trực tiếp hoặc bật local server
- Chỉnh tham số như độ dài ngữ cảnh, GPU offload
Có thể đọc Ollama, LM Studio và local model để hiểu thao tác trước khi mở API cho ứng dụng khác.
Python/Transformers: cần quyền tải checkpoint gated, token đăng nhập được lưu an toàn và phiên bản thư viện hỗ trợ model. Ví dụ minh họa dưới dùng một bản 3.1 nhỏ hơn, không dùng làm recipe Llama 4.
import torch
from transformers import AutoTokenizer, AutoModelForCausalLM
model_id = "meta-llama/Llama-3.1-8B-Instruct"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
model_id, dtype="auto", device_map="auto"
)
messages = [{"role": "user", "content": "Viết hàm Python tính số Fibonacci."}]
inputs = tokenizer.apply_chat_template(
messages, add_generation_prompt=True,
tokenize=True, return_dict=True, return_tensors="pt"
).to(model.device)
with torch.no_grad():
outputs = model.generate(**inputs, max_new_tokens=256)
print(tokenizer.decode(
outputs[0][inputs["input_ids"].shape[-1]:], skip_special_tokens=True
))Phương pháp 3: Sử dụng qua API
Provider có thể phục vụ Llama qua giao thức tương thích OpenAI. Khai báo endpoint, key và ID thực tế từ tài liệu của provider; mẫu dưới giữ placeholder để tránh ngộ nhận một ID chung cho mọi nơi.
import os
from openai import OpenAI
client = OpenAI(
base_url="https://<dia-chi-api-cua-nha-cung-cap>/v1",
api_key=os.environ["LLM_API_KEY"], # không ghi key thẳng vào mã
)
resp = client.chat.completions.create(
model="<id-model-llama-cua-nha-cung-cap>",
messages=[{"role": "user", "content": "Giải thích blockchain bằng tiếng Việt"}],
)
print(resp.choices[0].message.content)Key phải ở backend hoặc secret manager. Không commit hay nhúng frontend; tách key và theo dõi Usage. Nếu cần thử một provider, xem OpenRouter và bảo mật credentials.
Ứng dụng thực tế của Llama trong doanh nghiệp
Trong doanh nghiệp, Llama có thể tham gia chăm sóc khách hàng, nội dung, coding hoặc tài liệu. Self-host chỉ giúp kiểm soát dữ liệu khi toàn bộ phần mềm, log và công cụ liên quan được cấu hình phù hợp.
Customer Service & Chatbot
Những lợi ích có thể đánh giá:
- Chạy 24/7
- Tùy chỉnh theo ngành nghề cụ thể
- Dữ liệu khách hàng ở lại hạ tầng của bạn khi tự chạy
- Không trả phí theo token khi tự chạy, đổi lại phải tự lo phần cứng và vận hành
Content Marketing & SEO
Có thể dùng để phác thảo và biên tập nội dung. Kết quả vẫn cần nguồn, chỉnh sửa và kiểm tra; một prompt “SEO” không bảo đảm thứ hạng tìm kiếm.
- Lập dàn ý: đề xuất bố cục bài viết hoặc báo cáo, sau đó bổ sung nguồn đã xác minh.
- Soạn bản nháp: viết theo mục tiêu và từ khóa, kiểm tra tính chính xác và tránh lặp nội dung.
- Tiêu đề và mô tả: gợi ý title cùng meta description phù hợp với nội dung thực tế.
- Mạng xã hội: phát triển ý tưởng, chú thích và biến thể cho từng nền tảng.
- Dịch và bản địa hóa: tạo bản dịch ban đầu rồi rà thuật ngữ, giọng văn và ngữ cảnh.
Code Assistant & Programming
Model phù hợp có thể hỗ trợ viết, giải thích và review mã. Cần kiểm tra khả năng theo version và dữ liệu repository, không lấy tên Code Llama đời cũ làm đại diện coding mới nhất.
- Sinh mã: biến mô tả thành bản nháp để người phát triển kiểm tra.
- Review: gợi ý cải thiện cấu trúc, hiệu suất hoặc cách đặt tên.
- Tìm lỗi: đề xuất nguyên nhân và bản sửa, xác nhận bằng kiểm thử.
- Tài liệu: soạn giải thích, docstring và hướng dẫn sử dụng từ mã nguồn.
- Unit test: đề xuất trường hợp kiểm thử, đặc biệt đầu vào biên và tình huống lỗi.
Ví dụ dưới chỉ minh họa khung API Flask. Nó chưa phải sản phẩm đầy đủ; cần validation, phân quyền, xử lý lỗi và test trước production:
# Ví dụ Flask tối giản cho thử nghiệm local; chưa có xác thực.
from flask import Flask, request, jsonify
from flask_sqlalchemy import SQLAlchemy
app = Flask(__name__)
app.config["SQLALCHEMY_DATABASE_URI"] = "sqlite:///products.db"
db = SQLAlchemy(app)
class Product(db.Model):
id = db.Column(db.Integer, primary_key=True)
name = db.Column(db.String(100), nullable=False)
price = db.Column(db.Float, nullable=False)
description = db.Column(db.Text, default="")
def serialize(product):
return {"id": product.id, "name": product.name,
"price": product.price, "description": product.description}
@app.get("/products")
def get_products():
return jsonify([serialize(p) for p in db.session.scalars(db.select(Product))])
@app.post("/products")
def create_product():
data = request.get_json(silent=True) or {}
if not isinstance(data.get("name"), str) or not data["name"].strip():
return jsonify(error="name bắt buộc"), 400
try:
price = float(data["price"])
if price < 0:
raise ValueError
except (KeyError, TypeError, ValueError):
return jsonify(error="price phải là số không âm"), 400
product = Product(name=data["name"].strip(), price=price,
description=data.get("description", ""))
db.session.add(product)
db.session.commit()
return jsonify(serialize(product)), 201
with app.app_context():
db.create_all()
if __name__ == "__main__":
app.run(host="127.0.0.1", port=5000)Data Analysis & Business Intelligence
Những tác vụ dữ liệu có thể thử:
- Tự động tạo báo cáo từ dữ liệu thô
- Phân tích sentiment khách hàng
- Dự đoán xu hướng thị trường
- Tóm tắt thông tin từ tài liệu dài

Hướng dẫn Fine-tuning Llama cho doanh nghiệp
Fine-tuning điều chỉnh hành vi theo dữ liệu phù hợp; nó không phải cách bảo đảm model biết mọi dữ kiện mới. Bắt đầu bằng model nhỏ, bản quyền dữ liệu rõ và bộ đánh giá tách biệt. LoRA/QLoRA giúp giảm tài nguyên nhưng cấu hình còn phụ thuộc engine, precision và version thư viện.
Chuẩn bị dữ liệu huấn luyện
Bước 1: Chuẩn bị mẫu có quyền sử dụng. Ví dụ cấu trúc bên dưới chỉ minh họa schema; thay nội dung tư vấn cũ bằng dữ liệu doanh nghiệp đã kiểm tra.
{
"instruction": "Tư vấn sản phẩm laptop cho sinh viên",
"input": "Em là sinh viên IT, ngân sách 15 triệu, cần laptop để học lập trình",
"output": "Với ngân sách 15 triệu và nhu cầu lập trình, em nên chọn laptop có CPU mạnh (Intel i5 gen 11+ hoặc AMD Ryzen 5), RAM tối thiểu 8GB (khuyến khích 16GB), SSD 256GB+. Một số gợi ý: Acer Aspire 7, ASUS VivoBook 15, HP Pavilion 15..."
}Bước 2: Làm sạch, loại dữ liệu bí mật và chuyển sang hội thoại đúng template.
def prepare_training_data(raw_data):
formatted_data = []
for item in raw_data:
formatted_data.append({"messages": [
{"role": "system", "content": "Bạn là trợ lý tư vấn công nghệ."},
{"role": "user", "content": item["input"]},
{"role": "assistant", "content": item["output"]},
]})
return formatted_dataQuá trình Fine-tuning
Ví dụ sau dùng LoRA với PEFT và TRL, theo tài liệu SFTTrainer chính thức. Cần cài các thư viện tương thích, đăng nhập Hugging Face nếu model yêu cầu quyền, chuẩn bị dữ liệu bằng hàm ở trên và đánh giá trên tập riêng. Một mẫu dữ liệu chỉ minh họa định dạng, không đủ để huấn luyện model hữu ích. LoRA giảm phần tham số được cập nhật, không loại bỏ yêu cầu bộ nhớ cho model nền.
# Ví dụ LoRA; cần GPU, quyền tải model và bộ dữ liệu đã kiểm tra.
from datasets import Dataset
from peft import LoraConfig
from trl import SFTConfig, SFTTrainer
raw_data = [{
"input": "Laptop học lập trình cần chú ý điều gì?",
"output": "Hãy xem RAM, CPU, SSD và yêu cầu phần mềm của khóa học."
}]
dataset = Dataset.from_list(prepare_training_data(raw_data))
trainer = SFTTrainer(
model="meta-llama/Llama-3.1-8B-Instruct",
train_dataset=dataset,
peft_config=LoraConfig(
r=16, lora_alpha=16, lora_dropout=0,
target_modules=["q_proj", "k_proj", "v_proj", "o_proj"],
task_type="CAUSAL_LM",
),
args=SFTConfig(
output_dir="outputs", max_length=2048,
per_device_train_batch_size=1, gradient_accumulation_steps=4,
max_steps=100, learning_rate=2e-4,
gradient_checkpointing=True, logging_steps=10,
model_init_kwargs={"dtype": "auto"},
),
)
trainer.train()Llama giúp gì cho bảo mật dữ liệu?
Tự host cho phép quyết định nơi xử lý và lưu trữ, nhưng không tự an toàn. Rà soát telemetry, quyền mạng, log, plugin và mọi tool truy cập ngoài.
Triển khai on-premise
Triển khai riêng có thể mang lại các khả năng kiểm soát sau:
- Dữ liệu nội bộ: câu hỏi và tài liệu được xử lý trong hệ thống của bạn, giảm rủi ro khi dữ liệu đi qua bên thứ ba.
- Tuân thủ: dễ đáp ứng yêu cầu lưu dữ liệu trong nước hoặc trong công ty; vẫn cần đánh giá theo quy định áp dụng cho bạn, như Luật Bảo vệ dữ liệu cá nhân.
- Kiểm soát: bạn quyết định phiên bản model, nhật ký, quyền truy cập và thời gian lưu dữ liệu.
- Chạy không cần Internet: sau khi tải trọng số, model hoạt động trong mạng nội bộ.
Quyền riêng tư dữ liệu
Quyền kiểm soát dữ liệu đi kèm những nhiệm vụ vận hành:
- Không gửi câu hỏi, tài liệu sang máy chủ AI bên ngoài khi chạy local.
- Tự đặt chính sách lưu và xoá dữ liệu, log hội thoại.
- Vẫn phải tự lo mã hoá ổ đĩa, kết nối HTTPS, phân quyền và cập nhật bảo mật cho máy chủ chạy model.
Không mở cổng inference ra Internet mà thiếu xác thực và giới hạn truy cập. Xem rủi ro khi chạy local, bao gồm phần mềm và mạng chứ không chỉ model.
Tự chạy Llama hay gọi API: chi phí khác nhau thế nào?
Self-host có chi phí GPU/RAM, điện, lưu trữ, băng thông và nhân sự; API có chi phí usage và phụ thuộc provider. Không có kết luận “dùng nhiều là rẻ hơn” nếu chưa tính tải, utilization và chi phí cơ hội.
- So giá API theo token trên trang giá chính thức của từng nhà cung cấp, ghi ngày đối chiếu vì giá đổi thường xuyên.
- Tính đủ chi phí tự chạy: thuê hoặc mua máy, điện, sao lưu, nhân sự theo dõi, thời gian cập nhật model.
- Thử nghiệm trên dữ liệu thật cả hai cách trước khi quyết định.
Model nhỏ/quant có thể chạy CPU cho tác vụ nhẹ, nhưng throughput và context bị giới hạn bởi tài nguyên. Không dùng khả năng chạy 3B để kết luận Llama 4 đầy đủ cũng phù hợp cùng máy.
Khi nào không nên dùng Llama? Hạn chế và thách thức
Chưa có người vận hành, tải nhỏ hoặc cần năng lực khác có thể là lý do chọn API/model khác. So tổng chi phí, chất lượng, quyền dữ liệu và công sức trước khi quyết định.
Hạn chế về kỹ thuật
Các điểm kỹ thuật cần đánh giá gồm:
- Bộ nhớ: weights chỉ là một phần; còn KV cache, processor và concurrency.
- Chất lượng: model/version phù hợp cần được thử với dữ liệu thật.
- Hỗ trợ engine: cần template và kiến trúc đúng.
- Tiếng Việt: kiểm tra theo card và tác vụ, không suy từ khả năng đa ngôn ngữ chung.

Thách thức khi triển khai thực tế
Khi chuyển từ demo sang vận hành, đội cần chuẩn bị:
- Vận hành: triển khai, giám sát, quota và khôi phục sự cố.
- Bảo trì: khóa version, cập nhật bảo mật và đánh giá lại model.
- An toàn: kiểm soát quyền, công cụ, nội dung và secret ngoài lớp model.
Chiến lược giảm thiểu rủi ro khi ứng dụng Llama
Một lộ trình giảm rủi ro thường gồm:
- Thí điểm nhỏ: bắt đầu bằng bản nhỏ (Llama 3.2 3B hoặc 3.1 8B) cho việc đơn giản như trả lời FAQ, tóm tắt; đặt chỉ số đo độ chính xác, thời gian phản hồi.
- Kết hợp: dùng Llama tự chạy cho dữ liệu nội bộ, gọi model qua API cho việc khó nếu chính sách dữ liệu cho phép.
- Mở rộng dần: chỉ nâng lên bản lớn hoặc nhiều người dùng khi thí điểm đạt yêu cầu.
Nếu mục tiêu là agent, có thể đặt phần mềm điều phối trên môi trường phù hợp và chọn local hoặc hosted model. Dữ liệu được gửi tới đâu và quyền công cụ vẫn phải được thiết kế rõ.
Câu hỏi thường gặp
Llama là con gì? Vì sao model của Meta tên Llama?
Llama là tên một loài lạc đà Nam Mỹ; LLaMA ban đầu là viết tắt của Large Language Model Meta AI. Tên họ model không mô tả cấu hình hoặc mức mở của từng phiên bản.
Llama có hỗ trợ tiếng Việt không?
Llama 4 card có tiếng Việt trong danh sách hỗ trợ chính thức; các 3.x có danh sách khác. Khả năng trả lời tiếng Việt và chất lượng ở lĩnh vực chuyên môn phải được thử riêng.
Llama khác GPT thế nào?
Điểm phân biệt cần xem là quyền checkpoint, license và dịch vụ. Llama có weights trong điều kiện Meta, còn các model GPT có cách phát hành riêng; dòng gpt-oss không nên bị gộp với API GPT đóng.
Có thể chạy Llama trên máy tính cá nhân không?
Có với một số bản nhỏ hoặc quant tương thích. Tính cả weights, KV cache và runtime; Llama 4 không được suy là model 17B nhỏ chỉ vì active 17B.
Dùng Llama cho mục đích thương mại có được không?
Có thể trong quyền license của đúng thế hệ, kèm nghĩa vụ notice/branding/AUP và các điều kiện bổ sung. Llama 4 còn có điều kiện liên quan 700 triệu MAU và phạm vi một số model đa phương thức; đọc LICENSE trước khi sử dụng.
Xem thêm cụm bài về model AI và các lựa chọn API để chọn cách sử dụng phù hợp.