Anthropic pede desculpas pelas grades de proteção invisíveis de Claude Fable
⚡ Resumo rápido
A Anthropic pediu desculpas por estrangular furtivamente seu novo modelo de IA, Claude Fable 5, com proteções ocultas que prejudicam tanto os pesquisadores quanto os rivais que o utilizam para desenvolver sistemas concorrentes.
A Anthropic pediu desculpas por estrangular furtivamente seu novo modelo de IA, Claude Fable 5, com proteções ocultas que prejudicam tanto os pesquisadores quanto os rivais que o utilizam para desenvolver sistemas concorrentes. A empresa diz que está revertendo o curso e será mais transparente sobre quando as restrições entrarem em vigor, mesmo que isso signifique que a Fable recuse mais consultas.
Fable é o primeiro modelo amplamente disponível na classe Mythos de sistemas de IA da Anthropic, um grupo que a empresa passou meses alertando que é perigoso demais para ser divulgado ao público. A Anthropic diz que abordou alguns desses riscos ao lançar o Fable com salvaguardas que o impedem de responder a certos “alto-r …
Leia a história completa em The Verge.
← Voltar