Bumble anunciou hoje que está lançando um novo recurso baseado em IA projetado para ajudar a identificar spam, golpes e perfis falsos. A nova ferramenta, chamada Deception Detector, tem como objetivo agir sobre conteúdo malicioso antes que os usuários do Bumble o encontrem.
Em testes, o Bumble descobriu que a ferramenta foi capaz de bloquear automaticamente 95% das contas que foram identificadas como spam ou fraude. Nos primeiros dois meses de teste da ferramenta, o Bumble viu relatos de usuários sobre spam, golpes e contas falsas reduzidos em 45%. O Deception Detector opera junto com a equipe de moderação humana do Bumble.
O lançamento do novo recurso ocorre no momento em que uma pesquisa interna do Bumble mostra que perfis falsos e o risco de golpes são as principais preocupações dos usuários quando namoro online, diz a empresa. A pesquisa também mostrou que 46% das mulheres expressaram ansiedade quanto à autenticidade de seus encontros online em aplicativos de namoro.
“A Bumble Inc. foi fundada com o objetivo de construir relacionamentos equitativos e capacitar as mulheres para darem o primeiro passo, e o Deception Detector é nossa mais recente inovação como parte de nosso compromisso contínuo com nossa comunidade para ajudar a garantir que as conexões feitas em nossos aplicativos sejam genuínas, ”, disse a CEO do Bumble, Lidiane Jones, em um comunicado. “Com um foco dedicado na experiência online das mulheres, reconhecemos que na era da IA, a confiança é mais importante do que nunca.”
A Comissão Federal de Comércio (FTC) relatado no ano passado que os golpes românticos custaram às vítimas US$ 1,3 bilhão em 2022, enquanto a perda média relatada foi de US$ 4.400. O relatório afirmou que, embora os golpistas românticos frequentemente usem aplicativos de namoro para atingir as pessoas, é mais comum que as pessoas sejam alvo de DMs em plataformas de mídia social. Por exemplo, 40% das pessoas que perderam dinheiro em um golpe romântico disseram que o contato começou nas redes sociais, enquanto 19% disseram que começou em um site ou aplicativo.
A nova ferramenta é o recurso de IA mais recente do Bumble, projetado para tornar o aplicativo mais seguro. Em 2019, Bumble introduziu um “Detector Privado” recurso que desfoca automaticamente imagens de nudez e as rotula como tal em bate-papos, permitindo que os usuários visualizem a imagem ou denunciem o usuário.
Bumble também está aproveitando a IA dentro Bumble para amigos, o aplicativo dedicado da empresa para encontrar amigos. O aplicativo foi lançado recentemente Sugestões para quebrar o gelo com tecnologia de IA que ajudam os usuários a escrever e enviar uma primeira mensagem com base no perfil da outra pessoa. Você pode ajustar a pergunta ou pedir outra sugestão, mas só pode usar um quebra-gelo gerado por IA por chat.
É importante notar que o Private Detector e o Deception Detector estão em uso no Bumble e no Bumble for Friends.
