O Claude Code conta com mecanismos próprios para identificar o uso de palavrões, segundo informações encontradas em código vazado do chatbot. A ferramenta pode ajudar a Anthropic a detectar sinais de frustração dos usuários, funcionando como uma forma indireta de feedback.
A função está presente no arquivo “userPromptKeywords.ts”, que reúne um sistema simples de reconhecimento de palavras. Nesse caso, o código busca identificar termos ofensivos e expressões de raiva em inglês, como “wtf”, “wth”, “omfg”, “dumbass”, “awful” e “horrible”.
smart_display
Nossos vídeos em destaque
Não está claro qual é a finalidade exata da detecção, mas uma das hipóteses é que o recurso sirva para captar feedbacks negativos. Em vez de depender apenas de denúncias formais, a empresa poderia usar esses sinais linguísticos para identificar insatisfação e ajustar o comportamento da IA.
Os parâmetros do Regex são:
/\b(wtf|wth|ffs|omfg|shit(ty|tiest)?|dumbass|horrible|awful|
piss(ed|ing)? off|piece of (shit|crap|junk)|what the (fuck|hell)|
fucking? (broken|useless|terrible|awful|horrible)|fuck you|
screw (this|you)|so frustrating|this sucks|damn it)\b/
Outra possível aplicação seria adaptar as respostas do próprio Claude. Ao perceber que o usuário está frustrado, o chatbot poderia adotar um tom mais cauteloso ou conciliador nas interações seguintes.
Uso do Regex é curioso
Um dos pontos que chama atenção é o uso de Regex (abreviação de Regular Expression). Trata-se de um método simples para identificar padrões de texto, mais leve em termos computacionais do que depender exclusivamente de modelos de linguagem para esse tipo de análise.
A descoberta levanta questionamentos sobre quais outros mecanismos semelhantes podem existir nos produtos da Anthropic, além de reforçar o papel de pequenos indicadores linguísticos na forma como chatbots ajustam suas respostas aos usuários.
Fique ligado no TecMundo para acompanhar novidades sobre inteligência artificial e outras atualizações do mundo da tecnologia. Siga o TecMundo nas redes sociais para não perder nenhuma notícia.
