Zero-day no CPython permite que modelo malicioso tome servidor de inferência
A RunSybil, em pesquisa de Darius Houle, anuncia um zero-day no CPython que transforma o template de chat de um LLM em execução de código. Segundo os pesquisadores, um modelo com backdoor publicado no Hugging Face pode tomar o servidor de inferência, atingindo provedores que hospedam LLMs e quem roda modelos localmente. Não há correção: a RunSybil diz que a causa raiz ainda procura responsável no ecossistema Python; trate modelos de terceiros como não confiáveis.
O que aconteceu
Pesquisadores da RunSybil anunciaram uma falha sem correção (zero-day) no CPython, a implementação de referência da linguagem Python. Um modelo malicioso publicado no Hugging Face pode usar o template de chat do LLM para executar código e tomar o servidor de inferência. Segundo a empresa, provedores que hospedam LLMs e quem roda modelos localmente estão em risco.
Por que importa
Quem publicar um modelo com backdoor pode assumir o servidor que roda a IA, conforme o relato dos pesquisadores. Toda empresa que carrega modelos de repositórios públicos, direta ou via provedor de hospedagem de LLMs, está no escopo do risco.
O que fazer
Revise a origem de todos os modelos de terceiros em uso, começando pelo Hugging Face. Isole os servidores de inferência e trate modelos públicos como não confiáveis até existir correção. Acompanhe o encaminhamento da causa raiz no ecossistema Python.
Para o time técnico
- Afetados
- Python CPython · CPython; versões não citadas nas fontes. Alvos citados: provedores de hospedagem de LLMs e quem roda modelos localmente.
- Exploração
- Falha divulgada como zero-day pela RunSybil (pesquisa de Darius Houle); vetor detalhado pela conta @adversariel. As fontes não citam PoC pública nem exploração na natureza.
- Correção
- Nenhuma correção citada. A RunSybil afirma que a causa raiz ainda procura responsável no ecossistema Python.
- Vetor
- CPython. Segundo os pesquisadores, o template de chat do LLM vira primitivo de execução de código; um modelo com backdoor publicado no Hugging Face explora a falha e toma o servidor de inferência. Condição: carregar um modelo malicioso no ambiente de inferência.
- Mais detalhes
- Quem descobriu: Darius Houle (RunSybil). A RunSybil classifica o caso como ameaça à cadeia de suprimentos de IA. Sem CVE, versões ou datas citadas nas fontes.
Linha do tempo
Pesquisadores detalham o vetor: um modelo malicioso publicado no Hugging Face pode transformar o template de chat em execução de código e tomar o servidor de inferência.
Incidente aberto.
Fontes 2 fontes
- @runsybil @runsybil
- @adversariel @adversariel
