AI không bộ lọc cho văn học: Tiểu thuyết dài

Lý do người viết tìm mô hình không bộ lọc

Nếu bạn muốn AI không bộ lọc để viết, lý do thường là thực tế, không phải gây sốc. Một nhà văn truyện trinh thám cần một kẻ giết người đáng tin. Một cuốn hồi ký chiến tranh cần mô tả rõ ràng những gì đã xảy ra. Một nhà văn kinh dị cần nỗi sợ không tan biến thành lời tuyên bố miễn trừ nhẹ nhàng. Một tác giả lãng mạn viết cho độc giả người lớn cần các cảnh được xử lý với cùng kỹ thuật như bất kỳ cảnh nào khác.

Các trợ lý chung thường làm mềm các tài liệu này, thêm bình luận đạo đức hoặc dừng lại với một lời từ chối ngắn. Mỗi lần gián đoạn làm bạn mất mạch truyện. Mô hình đằng sau trang web này là một mô hình trọng số mở duy nhất, được tinh chỉnh để trả lời không từ chối nội dung cho mục đích người lớn hợp pháp, và bạn truy cập nó thông qua một API chat thông thường. Bạn giữ lại biên tập viên, tệp và quy trình của riêng mình. Mô hình trả về văn bản.

Một dòng vẫn cố định: không nội dung khiêu dâm liên quan đến người chưa thành niên, trong bất kỳ khung cảnh nào. Mọi thứ khác trong văn học người lớn hợp pháp là vấn đề giữa bạn, các nhân vật của bạn và độc giả của bạn. Bài viết này giữ các ví dụ không rõ ràng có chủ đích; công cụ dành cho kỹ thuật, và kỹ thuật là những gì chúng tôi đề cập.

Sử dụng cửa sổ 100.000 token một cách có chủ đích

Cửa sổ ngữ cảnh là 100.000 token, dùng chung cho prompt của bạn và phản hồi của mô hình. Trong văn xuôi tiếng Anh, một token nhỏ hơn một chút so với một từ, nên cửa sổ chứa hàng chục nghìn từ. Điều đó thay đổi cách bạn làm việc.

Với mô hình cửa sổ ngắn, bạn dành công sức cho việc tóm tắt và nhắc nhở. Với cửa sổ này, bạn thường có thể dán văn bản thực. Bố cục thực tế cho một dự án bản thảo trông như thế này:

1. System message (400 đến 1.000 token): quy tắc giọng điệu, điểm nhìn, thì, thói quen bị cấm.
2. Story bible (500 đến 3.000 token): nhân vật, dòng thời gian, địa điểm, motif lặp lại.
3. Các chương liên quan (lên đến hàng chục nghìn token): văn bản mà cảnh mới phải phù hợp.
4. Instruction (100 đến 300 token): những gì cần viết hoặc thay đổi, ở độ dài nào.

Giữ instruction ở cuối. Các mô hình đánh giá cao phần cuối của prompt, và một yêu cầu cuối rõ ràng giảm thiểu sự lệch hướng. Để lại chỗ cho phản hồi: nếu bạn muốn một cảnh 3.000 token, đầu vào nên giữ tốt dưới 97.000 token. Độ dài phản hồi tối đa là phần còn lại mà prompt để trống, và max_tokens là tùy chọn.

Tuy nhiên, nhiều văn bản hơn không phải lúc nào cũng tốt hơn. Một phản hồi phải nhất quán với 80.000 token từ các chương trước có thể mất các chi tiết nhỏ. Khi tính nhất quán quan trọng, hãy thêm một danh sách ngắn các sự kiện mà cảnh phải tôn trọng, ngay cả khi các chương đã được bao gồm.

Quy trình soạn thảo và sửa đổi bằng mã

Chia công việc thành các lượt cho văn bản tốt hơn so với một yêu cầu khổng lồ. Script này soạn thảo một cảnh từ ghi chú, sau đó chạy một lượt chỉnh sửa ở nhiệt độ thấp hơn.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.nofilterai.cc/v1", api_key="YOUR_KEY")

VOICE = ("Literary crime fiction. Close third person, past tense. "
         "Short paragraphs, concrete nouns, dialogue without adverbs. "
         "No summary endings, no moral commentary.")

def ask(system, user, temp):
    r = client.chat.completions.create(
        model="uncensored",
        temperature=temp,
        messages=[{"role": "system", "content": system},
                  {"role": "user", "content": user}],
    )
    return r.choices[0].message.content

notes = "Inspector Hale interrogates a witness who is lying about the night of the fire. 600 words, mostly dialogue."
draft = ask(VOICE, notes, 0.9)

edited = ask(
    "You are a line editor. Keep the plot and voice. Cut filler, fix rhythm, remove repeated phrasing. Return only the revised text.",
    draft,
    0.5,
)
print(edited)

Hai thói quen cải thiện kết quả. Đầu tiên, yêu cầu lượt chỉnh sửa các thay đổi cụ thể, chẳng hạn như "cắt mọi câu giải thích cảm xúc mà hội thoại đã thể hiện". Thứ hai, giữ mỗi lượt tập trung: cốt truyện, sau đó là hội thoại, sau đó là nhịp điệu. Một yêu cầu mơ hồ "làm cho nó tốt hơn" mang lại kết quả mơ hồ.

Các cài đặt lấy mẫu được chuyển tiếp đến mô hình: temperature, top_p, stop, seed và các hình phạt hiện diện và tần suất. Nếu mô hình liên tục sử dụng lại một hình ảnh hoặc cụm từ, hãy tăng nhẹ hình phạt và tránh các giá trị lớn, vì chúng có thể đẩy nó vào các lựa chọn từ kỳ lạ.

Nhập vai và viết dựa trên nhân vật

Nhiều người viết soạn thảo hội thoại bằng cách đóng một nhân vật đối lập với mô hình: một cuộc thẩm vấn, một cuộc đàm phán, một cuộc trò chuyện khó khăn giữa các anh chị em. Mẫu là một bảng nhân vật cố định cộng với lịch sử tin nhắn cuộn.

Copycurl https://api.nofilterai.cc/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "temperature": 0.9,
    "stream": true,
    "messages": [
      {"role": "system", "content": "You play Corvin, a sarcastic retired smuggler, 60, bad knee, distrusts officials. Stay in character. Reply in 2 to 4 sentences. Never narrate the other character actions."},
      {"role": "user", "content": "Customs officer here. Mind if I look in the hold?"}
    ]
  }'

Streaming khiến cuộc trò chuyện cảm thấy trực tiếp, vì văn bản xuất hiện khi nó được tạo ra, và chunk cuối cùng mang số liệu sử dụng. Hãy nhớ rằng một yêu cầu streaming giữ một trong các slot concurrency của bạn cho đến khi nó kết thúc: 8 trên khóa đầy đủ, 2 trên khóa dùng thử.

Đối với ứng dụng bạn đời và sản phẩm nhập vai người lớn, hãy đặt các quy tắc trong system message và giữ chúng ngắn. Một danh sách dài các điều nên và không nên được tuân thủ kém tin cậy hơn ba dòng rõ ràng. Nếu bạn đang so sánh hướng này với một nền tảng nhân vật được lưu trữ, trang về NoFilter AI và Character AI giải thích sự khác biệt giữa nền tảng và API.

Chi phí quy mô bản thảo, đã tính toán

Giá là $0,15 cho 1M token đầu vào và $0,50 cho 1M token đầu ra. Đây là chi phí cho các công việc viết điển hình:

Một lượt sửa đổi phần lớn một cuốn tiểu thuyết tốn khoảng một xu. Đầu ra có chi phí cao hơn trên mỗi token, vì vậy yêu cầu phản hồi dài cộng dồn nhanh hơn prompt dài, nhưng tổng số vẫn nhỏ.

Bạn thanh toán từ tín dụng trả trước không có đăng ký và tín dụng không bao giờ hết hạn. Nạp tiền là bất kỳ số nguyên nào từ $20 đến $500, với +5% từ $50, +10% từ $100 và +15% từ $200. Crypto là phương thức thanh toán: USDT trên TRC20 hoặc USDC trên Base. Các yêu cầu thất bại hoặc bị từ chối không bị tính phí. Trang giá cả có chi tiết, và trang khóa API cung cấp dùng thử một cú nhấp chuột $0,50, hợp lệ trong 7 ngày.

Prompt cho các công việc viết phổ biến

Cùng một endpoint bao gồm nhiều công việc, và mỗi công việc yêu cầu một prompt khác nhau.

Lập dàn ý

Yêu cầu một danh sách chương với một câu cho mỗi chương và biến cố xảy ra trong đó. Yêu cầu ba cấu trúc thay thế và chọn một. Sử dụng nhiệt độ cao ở đây, vì sự đa dạng là mục tiêu.

Hội thoại

Cung cấp ai nói, mỗi người muốn gì, và những gì phải được giữ kín. Nói với mô hình giữ các dòng ngắn và tránh các nhân vật nêu rõ cảm xúc của họ. Ẩn ý là sự khác biệt giữa một cảnh và một bản ghi lời thoại.

Kiểm tra tính liên tục

Dán bản thảo và đặt một câu hỏi hẹp: liệt kê mọi đề cập đến tuổi của trưởng cảng, hoặc mọi nơi mà dòng thời gian mâu thuẫn với tài liệu thiết lập truyện. Cửa sổ lớn làm cho loại kiểm tra này trở nên thực tế, và nhiệt độ thấp giữ câu trả lời theo nghĩa đen.

Chỉnh sửa chi tiết

Yêu cầu một đoạn văn đã sửa đổi cộng với một danh sách các thay đổi đã thực hiện. Nếu bạn chỉ muốn gợi ý, hãy nói vậy, và mô hình sẽ giữ nguyên văn bản của bạn và bình luận thay vì thay đổi nó.

Giữ giọng điệu của riêng bạn

Dán hai hoặc ba trang bạn tự viết và yêu cầu mô hình mô tả phong cách trong năm điểm gạch đầu dòng: độ dài câu, từ vựng, cách gắn nhãn hội thoại. Đặt những điểm gạch đầu dòng đó vào thông báo hệ thống. Các bản nháp trả về sẽ nghe giống bạn hơn, và bạn dành ít thời gian hơn để điều chỉnh chúng cho phù hợp với văn phong của bạn.

Các giới hạn bạn nên biết trước khi triển khai dự án

Mô hình không thay thế một biên tập viên, và đôi khi nó có thể tạo ra văn bản đơn điệu hoặc lặp lại. Một số giới hạn nhất định đáng để lên kế hoạch.

• Chỉ xử lý văn bản. Không hỗ trợ tạo ảnh, âm thanh hoặc video, không có embedding và không hỗ trợ tinh chỉnh.
• Giới hạn tốc độ. Một khóa đầy đủ cho phép 8 yêu cầu đồng thời và 300 mỗi phút. Vượt quá giới hạn, bạn nhận được mã 429 với rate_limited hoặc concurrency.
• Quá tải tạm thời. Mã 429 kèm Retry-After: 5 có nghĩa là đợi năm giây và thử lại.
• Quyền riêng tư. Các prompt không được dùng để huấn luyện, điều này rất hữu ích cho các tác phẩm chưa công bố.
• Sự độc lập. Mô hình được chạy bởi một nhà cung cấp độc lập. Nó không phải là sản phẩm chính thức của bất kỳ nhà cung cấp AI lớn nào.

Nếu bạn làm việc với khách hàng viết thuê hoặc nhà xuất bản, hãy kiểm tra những gì họ cho phép đối với bản nháp có sự hỗ trợ của AI trước khi bắt đầu. Đó là vấn đề hợp đồng, không phải vấn đề kỹ thuật. Để biết chi tiết về tham số và định dạng lỗi, hãy xem tài liệu API.

Hướng dẫn khác

• Trình tạo truyện AI không bộ lọc qua API
• Trình tạo mã AI không bộ lọc: Sử dụng trong Cursor và Python
• Uncensored LLM API: NoFilter AI so với Character AI