[bojemoi] fix(myai): PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True — anti-fragmentation VRAM

Commit 63cb8f1

Description

Les OOM répétés causaient une fragmentation PyTorch: 8 GB → 11.6 GB VRAM. expandable_segments permet à l’allocateur de libérer les segments entre requêtes. Résultat: 7.6 GiB stable (vs 11.6 GiB fragmenté), ~4 GiB libre pour KV cache.

Co-Authored-By: Claude Sonnet 4.6 noreply@anthropic.com

Files Changed

Diff Summary