Cách lấy API key NVIDIA AI và gọi NIM bằng Python, Node.js
Tạo key NVIDIA, cấu hình endpoint tương thích OpenAI, kết nối agent và xử lý giới hạn khi thử nghiệm model qua API.

Bạn có thể thử model trên NVIDIA API Catalog bằng cách đăng nhập build.nvidia.com, hoàn tất các bước xác minh được yêu cầu rồi tạo API key. Key thường mang tiền tố nvapi-; endpoint tương thích OpenAI là https://integrate.api.nvidia.com/v1. Quyền truy cập thử nghiệm phục vụ nghiên cứu, phát triển và prototype, không phải cam kết tài nguyên production miễn phí.
Nếu đang cân nhắc nhiều nhà cung cấp, hãy đọc các nền tảng API LLM miễn phí và dùng thử. Quy trình dưới đây được rà soát theo API Catalog Quickstart của NVIDIA. Ảnh minh họa là ảnh giao diện tham khảo; hạn mức và ngày hết hạn phải xem trong tài khoản đang sử dụng.
NVIDIA NIM là gì?
NVIDIA NIM là tên gọi các microservice suy luận AI được tối ưu cho GPU NVIDIA. Bạn có thể triển khai chúng trên cloud, trung tâm dữ liệu hoặc máy trạm phù hợp. Với API Catalog tại build.nvidia.com, NVIDIA vận hành hạ tầng để bạn gọi thử model từ xa, nên máy gửi request không cần GPU.
Có thể hình dung NIM là model đã được đóng gói cùng môi trường suy luận tối ưu. Ứng dụng gửi dữ liệu tới endpoint và nhận kết quả; phần tính toán GPU diễn ra trên máy chủ cung cấp dịch vụ.
Catalog bao gồm model Nemotron của NVIDIA, model đối tác thuộc các dòng DeepSeek, Qwen, Mistral, Kimi, Gemma và các công cụ embedding, rerank hay kiểm duyệt nội dung. Tên model và khả năng truy cập có thể thay đổi theo thời điểm.
Nhiều endpoint NIM sử dụng giao thức tương thích OpenAI, thuận tiện khi công cụ đã hỗ trợ custom base URL. Khi chuyển provider, hãy thay base URL, API key và ID model; đồng thời kiểm tra lại tham số, tool calling, định dạng đầu ra và những tính năng mà model đích thực sự hỗ trợ.
Các model nổi bật có sẵn miễn phí
Mở catalog model của NVIDIA để chọn model và đọc hướng dẫn API ngay trên trang của model đó. Nút Get API Key giúp bắt đầu quy trình cấp key; quyền gọi và điều kiện sử dụng vẫn phụ thuộc tài khoản, model và chương trình thử nghiệm đang áp dụng.
Ngoài hội thoại văn bản, bạn còn gặp các model phục vụ tiếng nói, hình ảnh, sinh học, thời tiết, embedding, truy hồi và an toàn nội dung. Hãy chọn đúng loại endpoint cho nhiệm vụ thay vì mặc định mọi model đều nhận request chat completions.
Giới hạn của free tier cần biết trước
Về hạn mức sử dụng miễn phí:
Không nên coi con số trong ảnh cũ là hạn mức hiện hành. Ảnh nguồn từng hiển thị tối đa 40 request/phút và thời hạn key sáu tháng; đây là thông tin của giao diện lúc chụp. Tài liệu quickstart hiện không đưa ra một quota số chung cho mọi tài khoản. Hãy mở trang key và trang model để đọc giới hạn được cấp cho bạn.
Về hiệu suất và thời gian phản hồi:
Quota thử nghiệm thường chỉ phù hợp cho việc đánh giá. Khi nhiều người cùng sử dụng một model, độ trễ có thể tăng hoặc request bị từ chối với mã 429. Một ứng dụng nhiều người dùng cần kế hoạch dung lượng và dịch vụ đáp ứng yêu cầu vận hành thực tế.
Về quy định cấp phép:
Đọc điều khoản áp dụng cho endpoint và giấy phép của từng model trước khi đưa vào sản phẩm. Dịch vụ thử trên API Catalog dành cho phát triển, kiểm tra và nghiên cứu; phương án thương mại có thể cần NVIDIA AI Enterprise hoặc triển khai NIM trên hạ tầng được cấp phép phù hợp.
Hướng dẫn cách dùng API miễn phí với NVIDIA AI
Quy trình gồm hai phần: tạo key trong API Catalog và cấu hình key vào chương trình gọi API. Các nút dưới đây mô tả luồng thao tác thường gặp; giao diện có thể khác ảnh minh họa.
Cách lấy API Key NVIDIA AI
Bước 1: Mở build.nvidia.com, chọn Login và đăng nhập hoặc tạo tài khoản. Đọc các điều khoản tham gia NVIDIA Developer Program trong quy trình đăng ký.
Nhập email và hoàn tất yêu cầu xác nhận. Chỉ tiếp tục khi hệ thống thông báo xác minh email thành công.


Bước 2: Nếu được yêu cầu, đặt tên cho tài khoản NVIDIA Cloud và lưu cấu hình.

Bước 3: Khi thấy thông báo cần xác minh để truy cập API, nhấn Verify.

Chọn đúng quốc gia, nhập số điện thoại đang sử dụng rồi chọn Send code via SMS để nhận mã xác minh. Không dùng số điện thoại hay thông tin cá nhân của người khác.

Bước 4: Điền mã SMS để hoàn tất xác minh tài khoản.
Bước 5: Mở trang model hoặc khu vực API Keys và chọn Get API Key. Kiểm tra hạn mức đang được hiển thị trong tài khoản.

Chọn Generate Key và đọc ngày hết hạn hoặc các điều kiện xuất hiện trong hộp thoại.

Khi hệ thống trả về key dạng nvapi-…, chọn Copy và lưu ngay vào nơi quản lý bí mật. Đừng đưa giá trị thật vào ảnh chụp, tài liệu chia sẻ hay repository.

Lưu ý:
- API key chỉ hiển thị một lần; sao chép và lưu vào biến môi trường hoặc trình quản lý mật khẩu. Key có ngày hết hạn, hết hạn thì tạo key mới.
- API base URL của NVIDIA NIM AI là **https://integrate.api.nvidia.com/v1**
Cách sử dụng API Key NVIDIA AI
Gọi API Bằng Python
Có thể dùng OpenAI SDK để gọi các endpoint tương thích. Cài thư viện openai, khai báo biến môi trường NVIDIA_API_KEY rồi chạy ví dụ. ID model bên dưới chỉ là ví dụ; hãy thay bằng model đang có quyền truy cập trong catalog.
import os
from openai import OpenAI
client = OpenAI(
base_url="https://integrate.api.nvidia.com/v1",
api_key=os.environ["NVIDIA_API_KEY"], # key nvapi-... lưu trong biến môi trường
)
response = client.chat.completions.create(
model="nvidia/llama-3.1-nemotron-ultra-253b-v1",
messages=[{"role": "user", "content": "Giải thích quantum computing bằng ngôn ngữ đơn giản"}],
temperature=0.7,
max_tokens=1024,
)
print(response.choices[0].message.content)Gọi API Bằng JavaScript/Node.js
import OpenAI from "openai";
const client = new OpenAI({
apiKey: process.env.NVIDIA_API_KEY,
baseURL: "https://integrate.api.nvidia.com/v1",
});
const response = await client.chat.completions.create({
model: "nvidia/llama-3.1-nemotron-ultra-253b-v1",
messages: [{ role: "user", content: "Viết một hàm Python để đảo ngược chuỗi" }],
temperature: 0.7,
max_tokens: 1024,
});
console.log(response.choices[0].message.content);Để thử nhanh mà chưa cài SDK, bạn có thể gửi request bằng curl từ terminal phía máy chủ:
curl -s https://integrate.api.nvidia.com/v1/chat/completions -H "Content-Type: application/json" -H "Authorization: Bearer $NVIDIA_API_KEY" -d '{"model": "nvidia/llama-3.1-nemotron-ultra-253b-v1", "messages": [{"role": "user", "content": "Hello, what can you do?"}], "max_tokens": 512}'Tích hợp với Hermes Agent
Trong Hermes Agent, thiết lập một custom endpoint để chuyển request sang NVIDIA NIM. Tên mục có thể khác giữa các phiên bản:
Bước 1: Chạy hermes model để mở phần chọn nhà cung cấp và model.
Bước 2: Chọn Custom endpoint để khai báo endpoint tùy chỉnh.

Bước 3: Điền base URL https://integrate.api.nvidia.com/v1, sau đó nhập API key NVIDIA của riêng bạn.

Bước 4: Chọn model có quyền truy cập hoặc nhập chính xác ID được ghi trên trang NVIDIA. Danh sách trong ảnh chỉ minh họa cách chọn.

Tích hợp với LangChain
import os
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="nvidia/llama-3.1-nemotron-ultra-253b-v1",
api_key=os.environ["NVIDIA_API_KEY"],
base_url="https://integrate.api.nvidia.com/v1",
temperature=0.7,
)
print(llm.invoke("Giải thích sự khác biệt giữa RAG và fine-tuning").content)Xử lý rate limit thực tế
Khi nhận lỗi 429, không nên gọi lại liên tục. Chờ trước khi thử lại, ưu tiên Retry-After nếu phản hồi cung cấp, và giới hạn số lần retry. Ví dụ dưới dùng khoảng chờ tăng dần để tránh gửi thêm tải trong lúc hệ thống đang giới hạn.
import os, time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://integrate.api.nvidia.com/v1", api_key=os.environ["NVIDIA_API_KEY"])
def call_with_retry(messages, model, max_retries=3):
for attempt in range(max_retries):
try:
r = client.chat.completions.create(model=model, messages=messages, max_tokens=1024)
return r.choices[0].message.content
except RateLimitError:
if attempt == max_retries - 1:
raise
wait = (attempt + 1) * 15 # 15s, 30s
print(f"Rate limit, chờ {wait} giây...")
time.sleep(wait)Cách giữ API key NVIDIA an toàn
Key NVIDIA gắn với tài khoản và quyền truy cập của bạn. Người giữ key có thể tiêu quota hoặc thực hiện hành vi khiến tài khoản bị hạn chế. Vì vậy, hãy lưu key ở backend, tách key theo ứng dụng và chủ động thu hồi khi có nghi ngờ rò rỉ.
- Không ghi key trong code chạy trên trình duyệt hay ứng dụng di động, không commit lên repo công khai; đọc key từ biến môi trường như NVIDIA_API_KEY.
- Đặt tên key rõ ràng để biết key nào thuộc ứng dụng nào; key có hạn dùng, nên ghi lại ngày hết hạn.
- Lộ key: xoá key trong mục API Keys trên build.nvidia.com và tạo key mới.
Khi đưa key vào workflow, xem thêm cách lưu và bảo vệ credentials trong n8n.
Câu hỏi thường gặp
NVIDIA NIM API miễn phí hoàn toàn hay chỉ có giới hạn dùng thử?
Bạn có thể dùng endpoint được cấp cho mục đích nghiên cứu và prototype trong các giới hạn của chương trình. Quota, thời hạn key và điều kiện thương mại không nên suy ra từ một ảnh giao diện cũ; hãy kiểm tra trực tiếp tài khoản và điều khoản NVIDIA.
NVIDIA NIM có yêu cầu GPU để sử dụng API không?
Không cần GPU trên máy gửi request, vì model chạy trên hạ tầng phục vụ API. Nếu tự host NIM thì bạn mới cần hạ tầng đáp ứng cấu hình phần cứng và giấy phép của model.
Code viết cho NVIDIA NIM có dùng được với OpenAI hay nhà cung cấp khác sau này không?
Có thể tái sử dụng phần lớn cách gọi khi provider đích hỗ trợ cùng giao thức. Tuy nhiên vẫn phải đổi key, endpoint, model và kiểm tra các khác biệt về tham số. Bạn có thể so sánh lựa chọn ở bài tổng hợp API LLM.