Đây có phải là proxy của OpenAI không?

Không. Chúng tôi không bán lại các mô hình của OpenAI. Chúng tôi tự lưu trữ mô hình trọng số mở của mình trên các máy chủ GPU riêng. Mô hình tương thích với OpenAI về mặt định dạng, nghĩa là nó chấp nhận cùng các cấu trúc JSON và lệnh SDK, nhưng mô hình nền tảng là của chúng tôi.

Suy luận LLM không kiểm duyệt

API suy luận không kiểm duyệt dành cho nhà phát triển

Q: Kích thước cửa sổ ngữ cảnh là bao nhiêu?

Mô hình của chúng tôi hỗ trợ cửa sổ ngữ cảnh 100,000 token, tính cả prompt và phần kết quả. Điều này cho phép xử lý các tài liệu lớn hoặc duy trì lịch sử hội thoại dài.

API suy luận tương thích OpenAI, thay thế trực tiếp, phục vụ một mô hình trọng số mở không kiểm duyệt. Thay đổi base_url và key, giữ nguyên mã nguồn.

Lấy khóa API Đọc tài liệu

Một mô hình không kiểm duyệt
Không phí hàng tháng
Tín dụng không bao giờ hết hạn

Thử chỉ với một yêu cầu

curl https://api.llminferenceapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

from openai import OpenAI

client = OpenAI(base_url="https://api.llminferenceapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

import OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llminferenceapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Những gì bạn nhận được

Tương thích thay thế trực tiếp

Hoạt động với các SDK chính thức của OpenAI và bất kỳ máy khách tương thích nào. Chỉ cần cập nhật base_url của bạn thành https://api.llminferenceapi.com/v1 và thay đổi khóa API của bạn.

Đầu ra không kiểm duyệt

Mô hình đưa ra câu trả lời mà không từ chối nội dung cho các chủ đề người trưởng thành hợp pháp, hư cấu hoặc gây tranh cãi. Chỉ có nội dung tình dục liên quan đến trẻ em mới bị chặn.

Lưu trữ GPU trực tiếp

Chúng tôi chạy mô hình trên các máy chủ của riêng mình, không phải với tư cách là nhà bán lại. Không định tuyến nhà cung cấp, không lớp ẩn, chỉ suy luận trực tiếp.

Giá cả minh bạch

Chỉ trả tiền cho những gì bạn sử dụng. Token đầu vào là $0.25/1 triệu, token đầu ra là $1.00/1 triệu. Không đăng ký hoặc ngày hết hạn đối với tín dụng.

Truyền phát & Công cụ

Hỗ trợ sự kiện gửi qua máy chủ (SSE) để truyền phát phản hồi và các endpoint gọi hàm/công cụ tiêu chuẩn.

Quyền riêng tư là ưu tiên hàng đầu

Các prompt không được sử dụng để huấn luyện mô hình của bạn. Việc tạo tài khoản chỉ yêu cầu email và mật khẩu.

Cách hoạt động

Tạo tài khoản
Đăng ký bằng email và mật khẩu để nhận khóa API của bạn ngay lập tức.
Nạp thêm tín dụng
Nạp tiền bằng tiền điện tử (USDT hoặc USDC) để bắt đầu sử dụng dịch vụ.
Bắt đầu suy luận
Điểm mã máy khách hiện có của bạn đến base_url của chúng tôi và gửi các yêu cầu.

Những gì mọi người xây dựng với nó

Viết sáng tạo

Tạo truyện và kịch bản mà không có sự đạo đức không mong muốn hoặc bộ lọc nội dung hạn chế các lựa chọn kể chuyện của bạn. Hoàn hảo cho tiểu thuyết người trưởng thành hoặc hài hước táo bạo.

Trích xuất dữ liệu

Phân tích các tài liệu lớn bằng cửa sổ ngữ cảnh 100k để trích xuất dữ liệu có cấu trúc từ các văn bản dài mà không làm mất ngữ cảnh.

Nghiên cứu & Phân tích

Nhận các câu trả lời không bị kiểm duyệt cho các chủ đề gây tranh cãi hoặc chuyên biệt mà không bị mô hình từ chối tham gia do các hướng dẫn an toàn tiêu chuẩn.

Ứng dụng trò chuyện

Xây dựng giao diện trò chuyện mang lại cảm giác tự nhiên và phản hồi nhanh, hỗ trợ truyền phát phản hồi để cải thiện trải nghiệm người dùng.

Tương thích OpenAI thay thế trực tiếp

Dừng việc viết lại mã tích hợp cho mọi mô hình mới. API của chúng tôi triển khai endpoint chuẩn /v1/chat/completions, nghĩa là bạn chỉ cần thay đổi base_url và api_key trong các khách hàng SDK OpenAI hiện có để chuyển sang mô hình không kiểm duyệt của chúng tôi. Chúng tôi hỗ trợ truyền phát qua Sự kiện Gửi qua Máy chủ (SSE) và gọi hàm, vì vậy logic hiện có của bạn để xử lý đầu ra công cụ hoặc tạo văn bản theo thời gian thực hoạt động ngay lập tức.

Đây không phải là cổng đa mô hình hoặc proxy phức tạp thêm độ trễ. Đó là kết nối trực tiếp đến các máy chủ GPU của chúng tôi đang chạy một mô hình trọng số mở duy nhất được tối ưu hóa. Bạn có hiệu suất của một endpoint chuyên dụng với sự quen thuộc của định dạng OpenAI.

Không kiểm duyệt & Không lọc

Mô hình của chúng tôi được tinh chỉnh để trả lời mà không từ chối nội dung cho mục đích người trưởng thành hợp pháp, kể chuyện hư cấu, nghiên cứu bảo mật hoặc các chủ đề gây tranh cãi. Trong khi hầu hết các mô hình tiêu chuẩn sẽ lịch sự từ chối thảo luận về các chủ đề nhạy cảm hoặc tạo nội dung trưởng thành, mô hình của chúng tôi sẽ cung cấp câu trả lời trực tiếp.

Có một giới hạn cứng luôn được áp dụng: các yêu cầu chứa nội dung tình dục liên quan đến trẻ em sẽ bị chặn. Mọi thứ khác đều thuộc phạm vi cho phép. Điều này khiến nó lý tưởng cho các ứng dụng nơi bạn muốn kiểm soát hoàn toàn đầu ra mà không cần mô hình đóng vai trò người kiểm duyệt đối với các yêu cầu hợp lệ của người dùng.

Giá cả trả tiền theo mức sử dụng minh bạch

Chúng tôi không khóa bạn vào các đăng ký hàng tháng hoặc gói phân tầng. Bạn trả chính xác cho các token bạn tiêu thụ. Token đầu vào tốn $0.25 mỗi triệu, và token đầu ra tốn $1.00 mỗi triệu. Khi bạn thêm tiền, những tín dụng đó không bao giờ hết hạn, vì vậy bạn có thể nạp tiền khi phù hợp với ngân sách của bạn.

Chúng tôi cung cấp tín dụng khuyến mãi cho các khoản nạp lớn hơn: +5% tín dụng bổ sung cho khoản nạp $50 và +10% cho khoản nạp $100. Tài khoản mới bắt đầu với $0.50 tín dụng dùng thử hợp lệ trong 7 ngày, không yêu cầu thẻ tín dụng. Cấu trúc này đảm bảo bạn chỉ chi trả những gì mình sử dụng, không có phí ẩn cho truyền phát hoặc sử dụng công cụ.

Ai KHÔNG phù hợp với API này

Nếu bạn cần tạo hình ảnh, xử lý âm thanh hoặc embedding, API này không dành cho bạn. Chúng tôi chỉ cung cấp văn bản. Nếu bạn cần định tuyến mô hình qua nhiều nhà cung cấp (như GPT-4, Claude và Llama trong một lệnh gọi), chúng tôi không cung cấp điều đó. Chúng tôi tập trung mang lại trải nghiệm tốt nhất cho một mô hình không kiểm duyệt cụ thể. Nếu bạn cần đảm bảo SLA nghiêm ngặt, chứng nhận SOC2 hoặc tuân thủ HIPAA ngay lập tức, bạn nên tìm các nhà cung cấp cấp doanh nghiệp. Chúng tôi là một endpoint suy luận đơn giản, ưu tiên nhà phát triển.

Hỏi đáp

Đây có phải là proxy OpenAI không?

Không. Chúng tôi không bán lại các mô hình của OpenAI. Chúng tôi lưu trữ mô hình trọng số mở của riêng mình trên các máy chủ GPU của riêng chúng tôi. Nó tương thích OpenAI về mặt định dạng, nghĩa là nó chấp nhận cùng các cấu trúc JSON và lệnh SDK, nhưng mô hình nền là của chúng tôi.

Kích thước cửa sổ ngữ cảnh là bao nhiêu?

Mô hình của chúng tôi hỗ trợ cửa sổ ngữ cảnh 100.000 token, tính cả prompt và completion. Điều này cho phép xử lý các tài liệu lớn hoặc duy trì lịch sử hội thoại dài.

Dữ liệu prompt của tôi có được dùng để huấn luyện không?

Không. Chúng tôi không sử dụng dữ liệu prompt của bạn để huấn luyện mô hình. Dữ liệu của bạn vẫn riêng tư đối với các yêu cầu suy luận của bạn.

Làm thế nào để bắt đầu?

Đăng ký bằng email và mật khẩu trên trang Get API Key. Bạn sẽ nhận được khóa API ngay lập tức. Bạn có thể bắt đầu sử dụng tín dụng dùng thử miễn phí $0.50 mà không cần thêm thẻ tín dụng.

Điều gì xảy ra nếu tôi vượt quá giới hạn tốc độ?

Chúng tôi cho phép 300 yêu cầu mỗi phút cho mỗi khóa API. Nếu bạn vượt quá giới hạn này, bạn sẽ nhận được lỗi 429. Bạn có thể tạo lại khóa API bất cứ lúc nào để đặt lại bộ đếm nếu cần.

Khóa của bạn chỉ cách một biểu mẫu

Tạo tài khoản, sao chép khóa, thay đổi URL cơ sở. Đó là toàn bộ quá trình thiết lập.

Lấy khóa API