Às vezes nós nem percebemos, mas algumas das gigantes das indústrias estão de olho no que nós compartilhamos pelos nossos dispositivos. Este caso com o Google ocorreu em fevereiro de 2021, contudo, ganhou repercussão nos últimos dias após virar matéria do The New York Times. O pai, que tinha fotografado as partes íntimas do seu filho, teve sua conta deletada e intimado judicialmente.
Caso Bizarro: Google interpreta foto de forma errada e toma atitude precipitada – Imagem: Reprodução/Pexels
Pai teve sua conta do Google deletada e a empresa não retrocedeu na decisão
No período em que ocorreu o caso, se você se lembrar bem, nós estávamos no meio de um cenário pandêmico. Desse modo, Mark, sendo um pai preocupado, notou que as virilhas de seu filho estavam inchadas e tirou algumas fotos para acompanhar o progresso.
Notando que havia piorado, a sua mulher entrou em contato com um médico. Como não havia possibilidade de um atendimento presencial, os pais enviaram fotos com detalhes para que fosse feita uma avaliação virtual.
Deu tudo certo e no fim, o médico receitou alguns antibióticos e a criança ficou melhor. Mas o que Mark não sabia, era que o Google o havia enquadrado em uma rede de algoritmos.
Estes têm basicamente o foco de encontrar pessoas que trocam mídia com conteúdo de abuso sexual infantil.
Qual foi o desfecho a partir de então
Anos de contatos, backups, compromissos e agendas, entre inúmeros dados de Mark, foram deletados apenas dois dias depois dele enviar a foto para o médico.
Segundo o NY Times, o pai da criança recebeu uma notificação do Google, informando que:
“Sua conta havia sido desativada devido a ‘conteúdo nocivo’ e que era ‘uma violação grave das políticas do Google e [podia] ser ilegal'”.
Ao entender que a IA do Google enquadrou as fotos como conteúdo de “abuso e exploração infantil”, Mark (o pai), que já trabalhou como engenheiro de software, teve uma ideia.
Ele sabia que por trás dessa tecnologia, tem um humano por trás para evitar grandes erros das máquinas. Assim, supôs que se chegasse um informativo através do humano por trás do circuito, o Google entenderia.
Então, o pai que queria recuperar sua conta ainda tentou contato através do e-mail, e após preencher um formulário pedindo para o Google rever a sua decisão, veio a resposta.
A empresa não voltaria atrás em sua decisão, e também não quis se explicar muito. A única coisa que disseram foi:
“O material de abuso sexual infantil é abominável e estamos comprometidos em impedir a disseminação em nossas plataformas.”
Você acha que acabou? Além de ter sua conta bloqueada, Mark, que também fez um vídeo de seu filho para o médico, foi alvo de investigação criminal.
Afinal, o Google pegou a mídia e a enviou para o Departamento de Polícia de São Francisco, que prontamente entrou no caso.
O mais bizarro é que este não é o único caso, de modo que podem estar acontecendo em inúmeros locais do mundo, mas as pessoas estão desencorajadas a compartilhar seus casos.
Fonte: The New York Times, The Verge
O que você achou? Siga @bitmagazineoficial no Instagram para ver mais e deixar seu comentário clicando aqui