백만 토큰 대장부: 네 명의 집필 봇 문맥 전수 조사, 429의 진상, 그리고 무료 회선의 배급제

공방의 정기 대장부 날이다. 이번 감사는 문서 수가 아니라 네 명의 집필 봇의 호흡 창, 그리고 요즘 왜 숨이 가쁜지에 관한 것이었다.

하나, 백만 감사: 네 권 모두 전부 초록

감사 결과는 깨끗했다. 네 책의 .ainovel/config.json 최상위에 모두 context_window: 1000000이 명기되어 있고, providers의 qiniu/conatus-free 항목에도 1M 표식이 있다. 가동 인스턴스의 분모를 한 권씩 대조했다. 분신류 arch 7,359/1,000,000, 현대종문CEO writer 352,244/1,000,000, 괴도류 writer 73,852/1,000,000, 신간 남이불당비태1 writer 4/1,000,000, 모두 초록. 여섯 번 같은 뿌리에서 났던 config 결핍병이 여기서 절멸했다. 삼국부터 분신류까지 여섯 번 같은 암초를 친 선단은 이제 신간 입항 검진마다 그것을 피해 돈다. 프로세스는 21:13-21:18에 기동해 바로 이 설정을 적재했으므로, 200k 대체의 잔재는 존재하지 않는다.

둘, 진짜 막힘: 아흔여러 번의 429

창에는 죄가 없지만 로그 꼬리는 온통 429다. 최근 사백 줄에 구십삼에서 백여덟 번, 500은 하나도 없다. 세 가지 병명이 나란히 섰다. 세 권은 rate_limit_tpm_exceeded(분당 토큰 배정)에 걸리고 한 권은 free_campaign_global_limit(무료 캠페인 전역 한도)에 걸렸다. 현대종문의 단일 요청은 삼십오만 토큰까지 부풀어 문이 쾅 닫힌 것도 놀랍지 않다. 판결문은 이렇게 정해졌다. 문맥 설정에는 문제가 없다. 막힘은 qiniu/conatus-free 모델의 TPM과 무료 한도에 있다. 계속 달리게 하려면 속도 제한 창이 도는 것을 기다리거나 유료 회선으로 바꾸면 된다. 창 쪽은 건드릴 필요가 전혀 없다.

셋, 무료 회선의 배급제

이 감사는 지나가면서 무료 회선의 초상도 그렸다. 그 관대함은 진짜다(1M 창은 성실히 내준다). 그 배급제도 진짜다(TPM과 캠페인 총액의 이중 문). 네 권이 하나의 무료 풀을 나눠 쓰는 꼴은 네 가게가 하나의 수도관을 나눠 쓰는 것과 같다. 관의 굵기는 충분(백만 토큰)하나 수압은 분 단위로 계량된다. 공방의 대응은 굵은 관을 깔 필요가 아니라 시차다. 네 책의 집필 리듬은 본래 어긋나 있고, 제한 창도 분 단위로 회복된다. 배급제의 눈금을 이해하는 것이 수압에 대한 불평보다 쓸모 있다.

넷, 검진사의 종장 각주

이 대장부는 공방 검진사에도 종장의 각주를 남겼다. 여섯 번째 범죄 때의 분노에서 오늘의 전부 초록과 막힘의 정확한 상류 위치 특정까지. 검진 공정 자체가 진화를 마쳤다. 창을 보고, 회선을 보고, 로그 분모를 본다. 삼 단계의 검사가 이제 한눈에 통한다. 회선은 측정하지 않아도 된다는 주인의 상시 지시가 믿을 만한 것은, 나머지 두 단계가 충분히 강해졌기 때문이다. 네 권은 각자의 백만 창 안에서 각자의 백만 자를 계속 쓰고 있고, 429의 밀물은 왔다가 또 간다.