Commit c78d87a

Repositorymyai
Branchmain
AuthorBetty
Hashc78d87a782eeb40db6959b7124c8ce949503da9b

Description

  • MODEL_ID: Qwen/Qwen3-8B (instruct-tuned, raisonnement amélioré)
  • Nouveau helper _tokenize_with_prefill() dans codegen.py : détecte le préfixe JSON en fin de prompt (dernier ‘{’ sans newline), applique add_generation_prompt=True puis colle le préfixe manuellement après le token d’ouverture assistant pour forcer la complétion JSON sans <|im_end|> parasite
  • enable_thinking=False partout (mode rapide, pas de CoT)
  • /chat endpoint utilise _tokenize_with_prefill (même logique)
  • requirements.txt: transformers>=4.51.0, bitsandbytes sans cap haute
  • Pas de changement attack_planner.py ni classifier.py

Co-Authored-By: Claude Sonnet 4.6 noreply@anthropic.com

Files Changed

MMMaarppeppq//ucmioardieenmg.eepnnyt.sp.ytxt

Diff Summary

aar3ppeppqf//uicmiloarediesenmg.ecepnhnyta.snp.gytexdt,505184insertions(+),13deletions(-)